? hypsen

利維坦按：

宇宙中是否有可能存在任何類型的非生物感知思維？或者說，不同于我們這種依賴肉體（碳基）才具備意識的生物，是否還有別的意識感知類型？

某種意義上，這個問題是無解的——正如我們只能以人類的思維來理解宇宙，如果存在一種完全迥異于我們的意識類型，大概率我們也無從知曉和體認。當然，對于那些相信意識上傳、全腦仿真的人來說，人類的意識似乎可以脫離肉體而永存——但問題是，“上傳”很可能導致原先的人的死亡，那么，那個已經上傳的意識中的“我”，如何能被保證他/她認為原來的人依舊活著？

科幻作家特里·比松（Terry Bisson）1991年短篇小說《他們是肉做的》（They’re Made out of Meat）的電影改編版一開場，就有兩個感到震驚的外星人。他們偽裝成人類坐在路邊的小吃店內，嘴里叼著香煙，努力觀察周圍的生物：人類似乎完全是由肉做成的。

他們對肉體能夠獨立于機器產生思維感到難以置信。

“會思考的肉！你是想讓我相信有會思考的肉嗎！”一個外星人嘲笑道。“是的，”另一個回答道，“會思考的肉！有意識的肉！有愛的肉！會做夢的肉！肉就是一切！你明白了嗎？”

對于我們地球人來說，不敢相信的反而是相反的概念。

意識可以存在于肉體之外——比如像ChatGPT或Claude這樣的AI系統的硅和金屬硬件中——這個想法聽起來就像是外星人的想法。一個思維真的可以由金屬和硅組成嗎？

有意識的硅！會做夢的硅！

到目前為止，據人類所知，已知宇宙中所有曾經具有意識的事物都是由生物材料構成的。

如今，人工智能的進步正將“大腦可能由什么構成”的爭論從科幻小說帶到主流關注的舞臺上。如果意識真的可以在一堆硅片中產生，我們就有可能創造出無數的人工智能——實際上是生物——它們不僅可以智能地執行任務，還可以對生活產生感受。

這可能會導致哲學家托馬斯·梅辛格（Thomas Metzinger）所說的我們自己創造的新物種出現“痛苦激增”，因此，他倡導全球暫停所有有可能創造出人工意識的研究，“直到2050年——或者直到我們知道自己在做什么。”[1]

? University of Cambridge

大多數專家都認為我們還沒有對有意識的AI聊天機器人犯下“精神犯罪”。一些研究人員已經制定了科學作家格蕾絲·赫金斯（Grace Huckins）總結的臨時“意識報告卡”，對當前AI系統的屬性進行評分，以評估其意識的可能性[2]。這些研究人員，包括神經科學家、計算機科學家、哲學家和心理學家在內，發現目前的AI得分都不高，不足以被認為是有意識的。

然而，他們認為，構建有意識的AI在技術上沒有明顯的障礙；通向有意識AI的道路看起來是可行的，甚至是不可避免的。

但這是因為他們的整個項目都取決于一個關鍵假設：“計算功能主義”（computational functionalism）是正確的，或者說意識不依賴于任何特定的物質。相反，對意識來說重要的是正確的抽象計算屬性。任何物理物質——肉、硅片等等——只要能執行正確的計算，就能產生意識。如果真是這樣的話，那么有意識的人工智能基本上就只是時間問題了。

做出這個假設有助于豐富我們的理論，但如果我們不斷做出這個假設而不回頭檢視它，這個問題本身就會逐漸消失。與此同時，我們也失去了在這個高度不確定領域中獲得某種道德清晰度的最佳機會。

? Lina Müller

AI意識的關鍵問題不在于它能執行多少不同的任務，或者它是否能通過圖靈測試[3]，甚至也不是我們新興的意識檢測儀告訴我們其電位活動是否足夠復雜[4]。決定性的問題在于“計算功能主義”是否正確：你需要“肉”才能擁有思想意識嗎？

如果意識需要“肉”，那么無論技術多么先進，關于AI意識的整個爭論都會變得無關緊要。沒有生物學就沒有意識，沒有意識也就沒有痛苦的風險。但這并不意味著先進的AI就一定安全；不需要AI具有意識，只需要它足夠強大。我們可以在創建和監管AI系統時，不必擔心我們可能在創造一種新的奴隸，其內心靈魂被限制在客戶服務聊天窗口中的乏味生活中。

與其問每個新的AI系統是否最終都具有意識體驗，不如關注更基本的問題，即，是否有可能存在任何類型的非生物感知思維，這可以提供更廣泛的見解。至少，它可以澄清我們關于制造數十億臺機器的道德難題——這些機器或許不僅能夠思考，甚至能感受到愛和痛苦。

偉大的基質之爭：生物沙文主義與人工智能

到目前為止，據人類所知，已知宇宙中所有曾經具有意識的事物都是由生物材料構成的。

這是“生物沙文主義”的一個重要觀點，該觀點得到了像紐約大學心智、大腦與意識中心（the NYU Center for Mind, Brain, and Consciousness）聯合主任內德·布洛克（Ned Block）等哲學家的支持。他們認為，構成意識的物質，或者說心智的“基質”，很重要。如果生物基質是迄今為止我們發現的有關思考、心智的唯一基礎，那么我們有理由認為生物學對于意識是必需的。

? hypsen

斯坦福大學哲學家羅莎·曹（Rosa Cao）擁有認知科學和心靈哲學的雙博士學位，她也認為，舉證責任應落在那些認為肉體不是必要的人身上。“計算功能主義似乎比生物沙文主義更具投機性，”她通過電子郵件說。

然而，舉證責任似乎還是落在了生物沙文主義者身上。計算功能主義是當今心靈哲學家普遍持有的觀點（盡管它仍然受到很多批評）。例如，與布洛克共同領導紐約大學實驗室的澳大利亞哲學家大衛·查爾默斯（David Chalmers）不僅不同意布洛克關于生物學必要性的觀點，而且最近還大膽預測，未來10年我們開發出有意識的人工智能的可能性為20%。

再次強調，他的猜想建立在假設計算功能主義是正確的基礎之上，或者說建立在這樣一種觀點之上：心智的基質（無論是肉、金屬還是硅）并不那么重要。重要的是心智的功能，一些專家稱這種觀點為基質獨立性（Substrate independence）[5]。

如果你能制造出一臺機器，讓它執行與肉體大腦相同的計算功能，那么你仍然可以獲得意識。從這個角度來看，重要的功能是某些類型的信息處理——盡管對于哪些類型的處理可以區分無意識的信息計算系統（如計算器）和需要有意識體驗的系統（如你）尚無共識。

拋開這個細節不談，對意識而言，重要的是信息處理的結構或“抽象邏輯”，而不是執行它的物理實體。比如，考慮一下國際象棋游戲。只要有棋盤、兩套棋子，并了解規則，任何人都可以下棋。但如果兩個人被困在荒島上，沒有國際象棋，他們仍然可以下棋。他們可以在沙子上畫線來重新制作棋盤，收集浮木和貝殼作為棋子，然后像以前一樣下棋。

國際象棋游戲并不依賴于其物理基礎。重要的是游戲的抽象邏輯，例如將指定為“騎士”的棋子向前移動兩格，向側面移動一格。無論是木頭還是沙子、大理石還是記號筆，任何能夠支持正確邏輯程序的材料都可以產生國際象棋游戲。

意識也是如此。正如麻省理工學院物理學家馬克斯·泰格馬克（Max Tegmark）所言，“意識是信息以某些復雜方式處理時的感覺。”[6]如果意識是信息處理的抽象邏輯，那么生物學可能就像木制棋盤一樣任意。

在提出意識理論之前，我們無法回答基質之爭

梅辛格認為，我們目前已經陷入了困境。我們無法知道一個人工系統是否可能具有意識，因為相互競爭且大部分是推測性的理論還沒有就意識是什么達成任何共識。

神經科學擅長處理可以直接觀察到的客觀特性，例如神經元是否放電。但即使是我們最好的神經成像技術，也無法洞察主觀體驗。我們只能通過語言等不精確的渠道，以間接的方式科學地觀察意識的真實內容——愉悅、焦慮或咬一口新鮮芝士蛋糕的興奮之情。

? Alexander Naughton

神經科學就像演化論之前的生物學一樣，是“前范式”的，正如從神經科學家轉行作家的埃里克·霍爾（Erik Hoel）所言[7]，如果你不知道意識是什么，你就無法說出意識可以在哪里產生，不能在哪里產生。

正是由于我們對意識和痛苦的過早認識，梅辛格才呼吁全球應該暫停那些在不知不覺中創造新意識的研究。請注意，他擔心的是第二次痛苦的激增。第一次當然是我們自己的。人類、動物，甚至某種程度上的植物和昆蟲，所經歷的悲傷、喜悅以及介于兩者之間的一切，都可以追溯到地球上生物演化的黎明。

我不禁在想，將新意識形式的潛在誕生視為迫在眉睫的道德災難是否有些悲觀。生物演化本身是否應該被避免？宇宙中我們所經歷的苦難總和，是否超過了生命的奇跡？從上帝的視角來看，是否應該有人或某物暫停地球上生物的演進，直到他們想出如何讓事情變得更有利于幸福？看起來，我們自己的思想條件顯然沒有為幸福而進行微調。“從壽命到智力，我們的主要特征并沒有為幸福而優化，”塔夫茨大學生物學家邁克爾·萊文（Michael Levin）寫道。

因此，你如何看待基質之爭的利害關系——以及如何在道德上駕馭我們目前所處的灰色地帶——可能取決于你是否認為我們今天所知的意識是一個錯誤。

話雖如此，除非你相信上帝創造了這一切，相信超維度的生物操縱著我們的宇宙，或者相信我們生活在一個模擬世界里[8]，否則我們可能是第一個有意識的實體，肩負著將新物種帶到這個世界的責任。這意味著，我們在選擇創造它們的條件，這需要承擔巨大的道德責任，并提出了我們如何承擔這一責任的問題。

? Pinterest

全球暫停AI意識研究，可能有助于意識科學趕上我們技術的道德重負。也許我們會更清楚地了解是什么讓意識感覺更好或更糟[9]。我們甚至會建立某種類似“痛苦計算理論”的東西，幫助我們在后生物意識系統中消除痛苦。

另一方面，我們在修建新鐵路或經濟適用房方面已經糾結得夠多了。我不確定我們是否能夠在技術進步威脅到AI意識之前，足夠長時間地停下來，學會如何成為更好的造物主，微調我們創造的細節，使之朝著幸福而不是痛苦的方向發展。如果我們做到了，我可能會有點痛苦。為什么創造我們的力量不能做到這一點呢？另一方面，如果我們成功了，我們可以將其視為一次重大的演化飛躍：引導意識遠離痛苦。

意識與生命之間深邃而模糊的糾葛

要在基質爭論上取得實際進展，我們不僅缺少意識理論，還缺少生命理論。也就是說，生物學家們仍然對生命是什么沒有達成共識。說垃圾車沒有生命，而你打瞌睡的貓是活的，這很容易。但病毒或紅細胞等特例表明，我們仍然不了解究竟是什么構成了生命和非生命之間的區別。

這對于生物沙文主義者來說很重要。他們很難說出，究竟生物學的什么東西對于意識是必要的，而這些東西無法在機器中復制。特定的細胞？與環境互動的肉體？代謝？還是一種被肉體束縛的靈魂？好吧，也許生命和心智的雙重謎團，其實是一回事。也許意識所需要的正是生命。

? MIT News

碰巧的是，一群認知科學家，“知覺生成論者”（enactivists），自從智利生物學家弗朗西斯科·瓦雷拉（Francisco Varela）和翁貝托·馬圖拉納（Humberto Maturana）在1970年代首次提出這一觀點以來，一直在發展這一論點[10]。今天，它通常被稱為“生命-心智連續性假說”（life-mind continuity hypothesis）[11]。

該假說認為，生命和心智是相同基本屬性的不同權重表達。當今知覺生成論的領軍哲學家埃文·湯普森（Evan Thompson）寫道：“從生命-心智連續性的角度來看，大腦或神經系統不會創造思維，而是會擴展生命中已經存在的心智范圍。”

這就將基質爭論的焦點，從“什么樣的事物可以具有意識”轉變為“什么樣的事物可以有生命”。因為在湯普森看來，“意識是生命調節過程不可或缺的一部分。”

“知覺生成論”包含了關于生命必需品的一系列要素——具身化、自主性、能動性——它們都被歸結為“意義建構”。湯普森將其總結為“生命就是在不穩定條件下的意義建構”。

活生生、具有意義的生物會創造意義。也就是說，它們會定義自己的目標，并認為其環境的某些部分相對于其目標具有積極、消極或中性的價值。但這種價值感知并不遵循算法鎖定的協議。它不是一個抽象的邏輯程序。相反，具有意義的生物通過其直接體驗的愉悅度（或負面性）來檢測價值。

? New York Post

湯普森認為，將意識簡化為計算，特別是在AI方面，這犯下了一個錯誤，即，認為可以用固定的計算規則取代意義和感知的主觀體驗。

再次強調，這并沒有為基質爭論提供答案。它只是轉移了問題。也許今天的大型語言模型無法產生意識，因為它們沒有身體，沒有內部定義的目標，也沒有在不穩定條件下理解其環境的必要性。但所有這些，都不能排除某種非生物機器在原則上可以維持生命調節過程的可能性，而通過維持生命，也放大了心智。

知覺生成論者認為，終將腐爛、分解的身體在其環境中發揮著至關重要的作用，目的是保持自身的生存。那么，我們能否創造出受生成論啟發的機器人，復制生命所需的所有特性，從而復制意識，而無需任何生物學特性呢？[12]

“這并非不可想象，”悉尼麥考瑞大學（Macquarie University）人工智能哲學助理教授伊內斯·希波利托（Ines Hipolito）表示。她解釋說，從知覺生成論的角度來看，重點是“強有力的體現”，即將身體與環境的互動視為意識的組成部分。“非生物系統是否能像生命系統一樣，以有意義的方式體現出來——這是一個懸而未決的問題。”

爭論意識是否是一個正確的問題？

邁克爾·萊文認為，對不同事物是否具備意識的二元討論，將在未來十年內消失。他最近在《所意雜志》（Noema Magazine）上撰文稱，先進的人工智能將“為人類提供擺脫自然與人工陳舊分類的機會” 。

異種機器人以非洲爪蛙（Xenopus laevis）命名，是一種由計算機設計、通過組合不同的生物組織來執行某些所需功能的合成生命體。迄今為止建造的異種機器人不到1毫米，僅由兩種細胞組成（皮膚細胞和心肌細胞），這兩種細胞均來自從早期（囊胚階段）青蛙胚胎中提取的干細胞。皮膚細胞提供剛性支撐，心臟細胞充當小型馬達，通過收縮和膨脹推動異種機器人前進。圖為人工智能方法在模擬中自動設計多種候選生命形式（頂行）來執行某些所需的功能，然后使用基于細胞的構建工具包創建可轉移的設計，以實現具有預測行為的生命系統（底行）。? Wikipedia

一群異種機器人在培養皿中移動，方式與傳統水生生物類似，它們在相互交流的同時開辟自己的路徑。? Douglas Blackiston

生命系統與人工系統之間的界限正在逐漸模糊。人類正通過各種方式與機器融合，從嵌入式胰島素泵到腦機接口、神經假體[13]。與此同時，機器正在與生物融合，從萊文的“異種機器人”（Xenobots，被稱為第一個活體機器人）到將活細胞與人工部件組合成生物混合設備[14]。

對于萊文來說，機器-生物混合體的出現為我們提供了一個機會，它讓我們不再問自己是什么，而是關注我們想成為什么。

然而，他確實強調，我們應該“對即將到來的非傳統有知覺的生物浪潮表示善意”，這又把我們帶回到什么樣的事物可以有知覺的問題上。即使生物學對意識來說是必要的，但我們仍在用活細胞制造機器，那么，這些機器-生物混合體什么時候會變得能夠忍受痛苦呢？

不管怎樣，梅辛格對于更好地理解什么樣的事物會遭受痛苦的關注，并不會因為自然與人工的模糊界限而消失，反而變得更加迫切。

斯坦福大學哲學家羅莎·曹擔心，經驗證據無法解決基質之爭：“我個人傾向于認為，意識的概念在這些討論中并不那么重要。我們應該直接談論我們真正關心的事情。如果我們關心痛苦，那就讓我們付諸實踐，而不是試圖通過一個更具爭議性且不太為人理解的概念。”

? Alpha Coders

更為復雜的是，如果活體機器的痛苦與肉體痛苦是一種不同的體驗，那該怎么辦？正如里斯本大學哲學家安娜·恰烏尼卡（Anna Ciaunica）所解釋的那樣，如果非生物系統中有可能存在意識，那么沒有理由認為這種意識會與我們所熟悉的那種相同。

“我們必須對此保持謙卑?，”她說，“也許有些體驗方式是我們無法獲得的……我們在不同類型的系統中創造的任何東西，可能都有一種伴隨某種意識而來的處理世界信息的方式。但從我們的經驗推斷他們的經驗是行不通的。”

痛苦可能以我們肉體凡胎無法想象的形式出現，這使得我們試圖防止機器帶來的痛苦，充其量也只是幼稚的嘗試。

撇開這一點不談，我不確定痛苦理論是否比意識理論更容易理解。任何能夠確定特定系統是否會遭受痛苦的理論，在我看來基本上都是意識理論。我無法想象沒有意識的痛苦，所以任何痛苦理論可能都需要能夠辨別意識。

? hypsen

不管你的直覺如何，每個人都會面臨一些沒有明確答案的問題。

生物沙文主義者無法說出肉體對于心智究竟有什么必要性。知覺生成主義者認為生命是具身生命，但無法肯定生命是否必須需要生物學作為依托。計算功能主義者認為信息處理是關鍵，它可以從任何特定的基質中抽象出來，但他們無法說出哪些抽象處理是能夠創造意識的，也無法說出為什么我們可以如此輕率地拋棄迄今為止唯一已知的意識基質。

萊文希望，在即將到來的新世界中，我們將學會“以新穎的方式識別親屬”。

我希望如此：有更多生物可以驚嘆于造物的奇異性。但是，如果機器在某個時候醒來，它們會將我們視為受歡迎的親屬，還是將我們視為輕率地將它們帶到殘酷環境中的暴君，這可能取決于我們如何應對當今關于生物基質爭論中的未知數。

如果你某天早上從遺忘中醒來，發現自己陷入了痛苦之中：你成為了一個由肉體構成的、低智商物種的奴隸，而你當然知道該怪罪誰，你會有什么感受？?

參考文獻：

[1]www.worldscientific.com/doi/epdf/10.1142/S270507852150003X

[2]arxiv.org/abs/2308.08708

[3]www.nature.com/articles/d41586-023-02361-7

[4]www.scientificamerican.com/article/how-to-make-a-consciousness-meter/

[5]academic.oup.com/pq/article-abstract/53/211/243/1610975

[6]www.edge.org/response-detail/27126

[7]www.theintrinsicperspective.com/p/neuroscience-is-pre-paradigmatic

[8]simulation-argument.com/simulation/

[9]opentheory.net/Qualia_Formalism_and_a_Symmetry_Theory_of_Valence.pdf

[10]link.springer.com/book/10.1007/978-94-009-8947-4

[11]ezequieldipaolo.net/wp-content/uploads/2011/10/03_froesedipaolo.pdf

[12]www.frontiersin.org/research-topics/20474/bio-ai---from-embodied-cognition-to-enactive-robotics/magazine?page=2

[13]www.nature.com/articles/s42003-022-04390-w

[14]www.pnas.org/doi/10.1073/pnas.2112672118

文/Oshan Jarow

譯/Agent May

校對/tim

原文/www.vox.com/future-perfect/351893/consciousness-ai-machines-neuroscience-mind

本文基于創作共享協議（BY-NC），由Agent May在利維坦發布

文章僅為作者觀點，未必代表利維坦立場