數字化

生成式AI工具席卷全球，由“生成”引發的科技革命和產業變革正在重塑世界經濟，影響未來生活。生成式人工智能在涌現出強大能力的同時也產生了巨大的爭議，其利與弊引起激烈的社會辯論。我們應該如何理解生成式人工智能并評估對立的價值觀？

原文 ：《幻影魔法：ChatGPT 的寄生性》

作者 |鹿特丹伊拉斯謨大學哲學系榮休教授 約斯·德·穆爾 上海師范大學歷史學系特聘教授 陳新/譯

圖片 |網絡

自2022年底問世以來，ChatGPT發展可謂波瀾壯闊。截至2024年1月，OpenAI已經擁有1.8億用戶，每月訪問OpenAI網站的次數超過16億次。2024年2月，文生視頻模型“Sora”問世，它能生成超逼真的一分鐘電影片段。不用說，OpenAI并不是唯一一家進入這一市場的公司。2024年2月，谷歌“Deep Mind”德米斯·哈薩比斯（Demis Hassabis）團隊開發了Gemini 1.5 Pro；2024年3月，馬斯克開源了其人工智能系統Grok。發展正在飛速前進。然而，除了“內容”，生成式人工智能還引發了關于其用處和缺點的激烈社會辯論。

共生是進化過程中的一個關鍵因素

我們應該如何理解生成式人工智能并評估對立的價值觀？我認為，進化和共生的（symbiotic）視角，更具體地說，技術共生（techno-symbiosis）的概念，為實現這一目標提供了一個很好的切入點。

共生這一概念在古希臘語中的意思是“共同生活”，但在二十世紀的生物學中，這一概念一直未得到充分研究。其中占主導地位的新達爾文主義認為，生命與自私的個體之間的競爭和斗爭密不可分，而這是由自私的基因驅動的。美國古生物學家杰伊·古爾德（Jay Gould）認為，這種人類觀與新自由主義非常相似，這絕非巧合。他認為，經濟學家亞當·斯密在其《國富論》（1776年）中不僅從個體參與者的自身利益出發解釋了市場的運作，還啟發達爾文在《物種起源》（1859年）中將自身利益視為生命進化的驅動力。雖然斯密和達爾文也承認合作的作用，但后來的（新）達爾文主義者幾乎只關注競爭。

然而，共生在進化和經濟學中的作用現已凸顯。關于共生，可以分為三種基本類型：同種生物共生（群居、獸群中和成團共生的動物）、不同種生物共生（如花卉和昆蟲）以及生物和非生物共生（從海貍壩到智能手機）。

共生是進化過程中的一個關鍵因素，原因至少有兩個。首先，它是一種重要的創新力量。微生物學家林恩·馬格里斯（Lynn Margulis）在上世紀六七十年代提出的內共生理論（endosymbiosis theory）清楚地表明了共生體的創新能力有多重要。她指出，真核細胞（具有細胞核和細胞器的細胞）出現于大約16億至18億年前，是兩種更簡單的單細胞生物（細菌或古細菌）共生的結果，其中一種生物融入另一種生物，成為“能量工廠”。這種新型細胞構成了后來整個動植物王國的基本單位。馬格里斯在著作《共生星球》（1998年）中指出，共生是所有進化的驅動力。

人類的進化也與創新共生密不可分。人類非常擅長合作和分工，因此創造了高度復雜的社會和文化。人類也像其他生物一樣，與其他物種緊密共生。在這里，我們不僅要考慮到我們與狗（人與狼相互馴化的結果）和牛等家畜的共生關系，還要考慮到我們體內數十億的細菌和病毒，它們對于消化、免疫系統以及胎盤和新皮質的胚胎發育都是不可或缺的。事實上，你不能再把生物視為屬于不同的物種；相反，它們是各種基因和新陳代謝過程的臨時性交匯點。人類與技術（工具、機器和信息技術）的共生一直是人類進化過程中至關重要的創新因素。雖然這些人工制品沒有生命，但它們確實具有能動性，帶來了新的生命形式。因此，農業技術和文字將史前智人轉變為現代人，而人類與人工智能的共生似乎也代表著人類進化的一個新步驟。

共生之所以成為生物學中如此重要的因素，第二個原因是，與新達爾文主義和新自由主義固守競爭的觀點相比，共生為進化和革命性發展提供了更廣泛的解釋。事實上，共生研究根據共生對相關“共生體”的效用區分了不同形式的共生。除了互利共生，即對共生雙方都有利，還有共享共生（commensal symbioses，對一些共生體有益，對另一些共生體中性）、寄生（對一些共生體有益，對另一些共生體有害）、補償（對一些共生體中性，對另一些共生體致命）和稀缺資源競爭（對大多數共生體有害）。

馬格里斯和化學家詹姆斯·洛夫洛克（James Lovelock）率先提出了“蓋亞理論”（Gaia theory）。據此，地球可以被視為一個巨大的“整體生物體”（holobiont），一個由數以百萬計的生物和非生物元素組成的動態系統，它就像一種恒溫器，維持著地球生命所需的生態平衡。然而，不同類型共生體的存在清楚地表明，與新紀元的信徒所聲稱的相反，蓋亞并不僅僅是一個充滿關愛的“地球母親”，用馬古利斯的話說，她就像古典悲劇中的美狄亞一樣，還殺死了自己的孩子。

以多種方式作弊的“CheatGPT”

在這種背景下，現在該如何解釋ChatGPT和相關的生成式AI系統呢？其實，我們面對的是寄生性技術共生體，它們不僅利用了人類的思維，而且在這一過程中還以多種方式作弊。我這里所說的“作弊”，并不是指你不僅可以向ChatGPT尋求寫作建議，還可以讓“作弊機器人”為你寫出整篇論文。

生成式人工智能系統在更根本的層面上也具有誤導性，因為無論其構造多么巧妙，它們都不能像人類、海豚甚至細菌那樣被稱為智能系統。ChatGPT只是一臺“句法機器”，它在將單詞和單詞部分轉換成數字后，除了生成關于最有可能出現的下一個單詞的統計預測，什么也不做。ChatGPT既不懂語義學，又不懂語用學：它不賦予數據任何意義，除了在用戶屏幕上顯示輸出結果，自己不做任何事情。只有人類和人工智能這兩個共生體才能共同構成一個智能系統。只有用戶解讀屏幕或智能手機上的一系列字符，并對它們進行操作時，這些字符才獲得意義和目的。由于ChatGPT本身只是無意識地鸚鵡學舌，語言學家艾米麗·本德（Emily Bender）稱這種語言機器人為“隨機鸚鵡”。然而，這個詼諧的描述對鸚鵡來說是一種傷害，因為根據最新研究，與語言機器人不同，鸚鵡可以理解并在上下文中使用它們學舌得到的許多單詞，甚至還能組成新的單詞和單詞組合。

我們在此討論的不只是“人工智能”一詞的誤用，問題還在更深層次。由于句法機器不會為生成的答案附加意義，也無法區分事實和寓言，因此無法保證答案的準確性。語言機器人經常會“幻覺”出錯誤和無意義的文本。2023年，巴塔查里亞及其同事對ChatGPT生成的醫學文章中參考文獻的真實性和準確性進行了研究，結果發現在115篇參考文獻中，47%是編造的，46%真實但不準確，只有7%既真實又準確。精神病學家羅賓·埃姆斯利（Robin Emsly）也曾報告過類似的經歷，他認為“幻覺”（hallucinations，錯誤的感知）一詞在這里用錯了地方，因為這些都是捏造和篡改的。

已發現的錯誤有幾個原因。這些問題的部分原因是輸入的內容無意義、錯誤和/或存在偏差，部分原因是在數據中訓練語言模型會放大存在的偏見。另外一個問題是，神經網絡對于設計者來說也是一個黑盒子，很難發現錯誤。此外，捏造和篡改也會不斷累積。事實上，許多由ChatGPT生成的文本都會通過互聯網重新回到語言模型中。最近的研究表明，由于這種反饋過程，語言模型不可避免地會隨著時間的推移變得越來越“笨”，而不是越來越“聰明”。他們開始無休止地重復使用相同的數據，這遲早會導致“模型崩潰”。研究發現，ChatGPT 4在某些領域（如數學）的表現明顯不如3.5版本。舒邁洛夫和他的團隊最近的研究表明，從2023年3月到6月，這方面的準確率從97.6%降至2.4%。

在與ChatGPT的交互中，用戶仍然會產生一種難以避免的錯覺，以為自己是在與一位智能人交談，這是因為界面將巨大的數據工廠隱藏在“屏幕背后”，用戶無法看到。神經網絡會在瞬間就準備好全部答案，文本一字不差地顯示在用戶的屏幕上，讓人產生錯覺，以為自己是在與人打交道。在這方面，生成式“聊天機器人”讓人想起著名的圖靈測試，即你坐在屏幕前向坐在另一個房間的人或軟件程序隨機提出各種問題。圖靈在《計算機械與智能》（1950年）中指出，如果一臺“智能機器”能在至少五分鐘內讓至少30%的審查者相信他是在與人類打交道，那么它就通過了測試。圖靈估計，要達到這一目標還需要50年左右。

這個預測并不差。自1990年以來，休·勒布納每年都會組織一次比賽，聊天機器人嘗試讓評委相信它們是人類。盡管這種智力測驗有一定的局限性，但直到2014年，還沒有聊天機器人成功通過測試。但就在這一年，俄羅斯聊天機器人“尤金·古斯曼”率先通過了測試。評論家認為，這主要是因為一個小把戲：聊天機器人把自己偽裝成了一個13歲的男孩，而這個男孩對世界的了解還不多，英語只是他的第二語言。一些評論家認為這是犯規行為，尤金·古斯曼實際上并沒有通過圖靈測試。不過，也許這么做正是圖靈測試的意義所在。圖靈在《智能機器》（1948年）中指出，智力基本上是一個情感概念。該測試主要測試欺騙對方的能力。從“CheatGPT”經常被不加批判地使用來看，我們可以斷定這個聊天機器人毫不費力地通過了圖靈測試。

警惕在進化中走上一條自寄生的道路

當然，ChatGPT顯得如此人性化，主要是因為輸入的大多數文本都是由人類撰寫的（至少到目前為止是這樣）。畢竟，語言模型是用數百萬個人類創作的文本訓練出來的。因此，作弊機器人與其創造者之間的寄生共生關系就顯現出來了。在導入現有文本時，會大規模地侵犯版權，像維基百科和ComonCrawl（一個包含40萬億字數據集的開源網絡爬蟲項目）這樣的非營利性出版物會被無恥地掠奪和推銷，從互聯網上獲取的許多輸入內容都是有毒的。此外，就像生產和交易加密貨幣一樣，創建和使用語言模型也會留下巨大的生態足跡。從生態學意義上講，ChatGPT也是一種有害的寄生蟲。

“人工智能”一詞在ChatGPT和其他生成式聊天框中顯得尤為神秘。人類作者提供并控制輸入，在此基礎上，模型生成信息，同樣，這些信息只對人類有趣、有用或相關。人工智能本身并不智能，就像一本書一樣?！爸悄堋币辉~來自“inter”（之間）和“legere”（選擇）。智能意味著能夠在各種選擇中做出選擇。人工智能需要有目的的行動、理性的決策以及與環境有效互動的能力。人類和其他生物之所以有智慧，是因為它們有一個有機體，這個有機體通過本能、感覺和情感促使它們與環境互動，而它們對這些本能、感覺和情感是有認識的，甚至是有意識的。智能不僅僅是一個感性的概念，它需要情感的激勵，無論好壞，情感都會促使我們去做智能的事情。

此外，人們不僅與他們所處的環境（Umwelt）進行實用性互動，而且還生活在一個有意義的世界（Welt）中，這是一個承載著他們的文化，并作為一種背景不斷地隱性存在著的世界。這種背景也使我們能夠在不同的智能活動之間切換。此外，人類不僅可以重新組合現有知識，還可以發明新事物。人工智能做不到這些，它們本質上是人造人的延伸，有許多用途，在日益復雜的世界中可能會變得越來越不可或缺。

將復雜的思維過程“外包”給人工智能，這就像將記憶“外包”給文字一樣不可避免。當年狩獵采集者的小規模文化轉變為以城市化、勞動分工、科學和技術為特征的農業社會時就是如此。人工智能也可以成為一種有用的工具，但要實現人類與人工智能的互利共生，就必須想辦法在不侵犯版權、不剝削知識工作者、不歧視和不破壞環境的情況下制造這些模型，并避免出現幻覺和“模型崩潰”。然而，有人擔心，生成式人工智能將獨立于人類，進化成與人類智能相當的“人工通用智能”，然后再進化成超越人類的“超級智能”，這種擔心是毫無道理的。我們今天所知的人工智能什么也不知道，什么也不想要，什么也感覺不到。不排除這樣的可能，在人類與技術的共同進化過程中，有一天會出現一個智能超過智人的半機械人。埃隆·馬斯克已經開始在人類大腦中植入芯片。但是，聲稱基于純粹句法重組的生成式人工智能將做到這一點，主要是為了轉移我們對上述圍繞生成式人工智能的寄生行為的注意力。無論是認為人工智能將拯救人類的烏托邦式幻想，還是認為人工智能將毀滅人類的烏托邦式恐懼，都是毫無根據的。后者只是因為寄生蟲依賴于它們的宿主生物。生物學家愛德華·威爾遜（Edward O. Wilson）曾尖銳地指出，畢竟，寄生蟲是捕食者，它們吃掉獵物的分量小于1。沒有人類，ChatGPT也將一籌莫展。

我這樣說，并不意味著像ChatGPT這樣的“真實存在著的”生成式聊天機器人不會帶來危險。我擔心的不是人類會被高級智能體淘汰，而是人類會越來越適應和依賴低級人工智能體，從而在進化中走上一條自寄生的道路。

文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1899期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：王立堯