人工智能（AI）大模型（如語(yǔ)言、視覺(jué)、多模態(tài)模型）的突破引發(fā)了廣泛關(guān)注， 一些人認(rèn)為通過(guò)擴(kuò)大數(shù)據(jù)與算力將催生通用人工智能（AGI）的誕生，人類(lèi)也即將見(jiàn)證具有超級(jí)智能的智能體（agent） 。

無(wú)論是樂(lè)觀的技術(shù)“鼓吹派”，還是更為擔(dān)憂的“災(zāi)難擔(dān)憂派”，都在廣泛傳遞這這樣一種關(guān)于 AGI 的宏大敘事 。

但是，最新一期的 Science 期刊發(fā)表了一篇題為“Large AI models are cultural and social technologies”文章，提供了 一種與主流觀點(diǎn)不同的思考角度，為這一前景潑了冷水 。

來(lái)自芝加哥大學(xué)圣達(dá)菲研究所和約翰霍普金斯大學(xué)等多所頂尖機(jī)構(gòu)的研究人員認(rèn)為， 關(guān)于大模型和 AGI 的敘事，不僅讓大家誤解了這些模型的本質(zhì)以及它們與過(guò)去技術(shù)變革的關(guān)系，更重要的是也轉(zhuǎn)移了我們對(duì)這些技術(shù)所帶來(lái)真實(shí)問(wèn)題和機(jī)遇的關(guān)注，讓我們忽視了歷史所能提供的經(jīng)驗(yàn)和教訓(xùn) 。

文章指出，大模型技術(shù)與智能 agent 存在本質(zhì)區(qū)別，并不具備真正的智能和自主性，它們無(wú)法像人類(lèi)一樣感知和應(yīng)對(duì)復(fù)雜多變的外部世界，也無(wú)法自主設(shè)定目標(biāo)和價(jià)值觀。 大模型本質(zhì)上應(yīng)該被視為一種新興的文化和社會(huì)技術(shù)，其核心功能是幫助人類(lèi)更加高效便利地利用歷史積累的信息，而非發(fā)展出獨(dú)立的 agent 。

作者們強(qiáng)調(diào)，結(jié)合社會(huì)學(xué)、行為科學(xué)與計(jì)算機(jī)科學(xué)的見(jiàn)解，有助于我們更準(zhǔn)確地理解 AI 系統(tǒng)。 這一觀點(diǎn)可通過(guò)歷史上類(lèi)似技術(shù)（如文字、印刷術(shù)）的變革影響得到印證。 未來(lái)或許可能出現(xiàn)更接近智能 agent 的 AI 系統(tǒng)，我們可以討論如何應(yīng)對(duì)這些假設(shè)的 AI 系統(tǒng)，但大模型并非這樣的系統(tǒng)，它們更像印刷術(shù)、圖書(shū)館目錄或互聯(lián)網(wǎng)技術(shù)一樣，是人類(lèi)文化與社會(huì)技術(shù)發(fā)展長(zhǎng)河中的一部分。

大模型更應(yīng)是當(dāng)代“印刷術(shù)”

我們不妨?xí)簳r(shí)摘掉當(dāng)前對(duì)大模型技術(shù)的狂熱濾鏡，回顧社會(huì)學(xué)家們對(duì)過(guò)去技術(shù)變革的獨(dú)特理解， 重新思考一下大模型技術(shù)的本質(zhì) 。

人類(lèi)文明因文化而起，也依賴(lài)文化得以生存和發(fā)展。從語(yǔ)言的出現(xiàn)開(kāi)始，人類(lèi)便具備了從他人經(jīng)驗(yàn)中學(xué)習(xí)的獨(dú)特能力，這可能是人類(lèi)文明高速進(jìn)化的關(guān)鍵之一。

同樣，我們也很好理解，歷史上每一項(xiàng)重大技術(shù)的突破都導(dǎo)致了社會(huì)的急劇變革。在語(yǔ)言之后，人類(lèi)文明史上的標(biāo)志性文化技術(shù)還包括符號(hào)、文字、書(shū)籍及印刷術(shù)、音視頻技術(shù)等。隨著信息能夠在更廣闊的空間和時(shí)間范圍內(nèi)變得觸手可及，我們獲取、理解和生產(chǎn)信息的方式也隨之?dāng)U展，從圖書(shū)館到互聯(lián)網(wǎng)搜索，從書(shū)信到音視頻社交，這些技術(shù)的發(fā)展都對(duì)人類(lèi)思想和社會(huì)文化產(chǎn)生了深遠(yuǎn)影響。

（來(lái)源：wikipedia）

例如， 18 世紀(jì) 印刷技術(shù)的廣泛進(jìn)步，使人類(lèi)新思想能夠迅速傳播，在啟蒙運(yùn)動(dòng)和法國(guó)大革命中發(fā)揮了重要作用。進(jìn)入 21 世紀(jì) 后，幾乎所有來(lái)自文本、圖片和動(dòng)態(tài)圖像的人類(lèi)文化產(chǎn)物都被轉(zhuǎn)換為數(shù)字格式，實(shí)現(xiàn)了瞬間傳輸和無(wú)限復(fù)制。這些創(chuàng)新不僅重塑了知識(shí)分配模式，也顛覆了政治經(jīng)濟(jì)和社會(huì)組織形式。

作者指出，大模型與歷史上的文化和社會(huì)技術(shù)有許多相似之處。

首先， 大模型具備獲取和重組人類(lèi)積累知識(shí)的能力，類(lèi)似于書(shū)寫(xiě)、印刷、互聯(lián)網(wǎng)搜索等技術(shù) ，它們能夠訪問(wèn)由其他人類(lèi)創(chuàng)造的信息，并對(duì)其進(jìn)行重新組織和轉(zhuǎn)換。例如，大語(yǔ)言模型（LLM）可以對(duì)海量文本進(jìn)行分析和總結(jié)，生成人類(lèi)可讀的文本內(nèi)容。同時(shí)，它們還能對(duì)信息進(jìn)行大規(guī)模的模擬和重構(gòu)，就像市場(chǎng)、國(guó)家等對(duì)資源分配和社會(huì)結(jié)構(gòu)進(jìn)行重組一樣。

同時(shí)，文化和社會(huì)技術(shù)不僅依賴(lài)于個(gè)體的知識(shí)和決策能力，還能反過(guò)來(lái)塑造個(gè)體的知識(shí)和決策。 大模型通過(guò)提供信息和知識(shí)，影響人們的思維方式和行為模式。 例如，聊天機(jī)器人可以根據(jù)用戶的輸入生成回復(fù)，這些回復(fù)可能包含新的觀點(diǎn)和信息，從而改變用戶的認(rèn)知和決策。此外，大模型還可以通過(guò)自動(dòng)化任務(wù)和提供智能輔助，提高人類(lèi)的工作效率和生活質(zhì)量。

也就是說(shuō)，與蒸汽機(jī)、電力等純粹的技術(shù)創(chuàng)新不同，大模型本質(zhì)上是一種特殊的文化和社會(huì)技術(shù)，融合了文化與社會(huì)技術(shù)的雙重特性，是能夠組織、傳遞和轉(zhuǎn)換人類(lèi)文化知識(shí)，以及協(xié)調(diào)個(gè)體信息收集和決策的系統(tǒng)，它們直接作用于人類(lèi)社會(huì)的文化和社會(huì)層面，具有深刻的社會(huì)變革潛力。

此外， 大模型的運(yùn)行高度依賴(lài)人類(lèi)協(xié)作 ，即依賴(lài)數(shù)萬(wàn)名標(biāo)注員通過(guò)強(qiáng)化學(xué)習(xí)人類(lèi)反饋（RLHF）優(yōu)化輸出，用戶需要通過(guò)對(duì)話引導(dǎo)模型推理。本質(zhì)上，當(dāng)用戶向模型索取求職信建議時(shí)，他們正與成千上萬(wàn)前人的經(jīng)驗(yàn)及標(biāo)注員的知識(shí)間接互動(dòng)。

所以， 關(guān)于大模型的真正擔(dān)憂不在于是否會(huì)創(chuàng)造出威脅人類(lèi)的超級(jí)智能，而在于我們?nèi)绾务{馭這一新型文化技術(shù) ，平衡效率與多元、權(quán)力與公正。

歷史提醒我們：技術(shù)的影響從未注定，而是社會(huì)選擇的結(jié)果。唯有融合工程智慧與社科洞察，方能引導(dǎo) AI 成為人類(lèi)文明的賦能者，而非支配者。

超越 AGI 敘事，從歷史中尋找經(jīng)驗(yàn)

如果我們將 AI 的討論聚焦于這個(gè)新的文化和社會(huì)技術(shù)所帶來(lái)的挑戰(zhàn)與機(jī)遇上，就會(huì)發(fā)現(xiàn)，如同過(guò)去文化和社會(huì)技術(shù)一樣，這些大模型系統(tǒng)將對(duì)生產(chǎn)力產(chǎn)生深遠(yuǎn)影響。

大模型的潛力堪比印刷術(shù)對(duì)語(yǔ)言、市場(chǎng)對(duì)經(jīng)濟(jì)的革新，不僅抽象了大量的人類(lèi)文化，還允許對(duì)其執(zhí)行各種新的操作，比如可以對(duì)信息進(jìn)行重組和重構(gòu) 。這些 18 世紀(jì)和 19 世紀(jì)的早期技術(shù)是當(dāng)時(shí)社會(huì)巨變的核心因素，既是變革的動(dòng)因，也是變革的結(jié)果。

這些技術(shù)都支持信息的抽象化，創(chuàng)造了新的可能性，可以在全球范圍內(nèi)協(xié)調(diào)數(shù)百萬(wàn)人們之間的信息交流與合作，以便能夠進(jìn)行大規(guī)模的新操作。同時(shí)，這些技術(shù)也引發(fā)了關(guān)于虛假信息傳播、偏見(jiàn)、文化同質(zhì)化或分裂，以及權(quán)力和資源分配變化的合理?yè)?dān)憂。 新的通信媒體的出現(xiàn)，無(wú)論是印刷術(shù)還是電視，都伴隨著對(duì)其傳播虛假信息和強(qiáng)化不良文化力量的擔(dān)憂。

（來(lái)源：Science）

在經(jīng)濟(jì)領(lǐng)域 ，大模型可能改變知識(shí)工作者的角色和地位，甚至導(dǎo)致某些職業(yè)的消失。同時(shí)，它們也可能創(chuàng)造新的就業(yè)機(jī)會(huì)和產(chǎn)業(yè)形態(tài)。此外，大模型可能影響權(quán)力和資源的分配。例如，擁有大模型技術(shù)的企業(yè)和機(jī)構(gòu)可能獲得更大的競(jìng)爭(zhēng)優(yōu)勢(shì)，而那些無(wú)法有效利用這些技術(shù)的個(gè)人和組織可能會(huì)被邊緣化。

回顧這些技術(shù)和系統(tǒng)的演變過(guò)程，我們可以從中汲取寶貴的經(jīng)驗(yàn)教訓(xùn)。 例如，在印刷術(shù)普及后，出現(xiàn)了信息過(guò)載和虛假信息傳播的問(wèn)題，社會(huì)不得不建立起編輯、同行評(píng)審等規(guī)范和監(jiān)管機(jī)制來(lái)應(yīng)對(duì)。同樣，市場(chǎng)機(jī)制雖然高效，但也可能導(dǎo)致信息不對(duì)稱(chēng)和外部性等問(wèn)題，需要通過(guò)法律和政策進(jìn)行干預(yù)。

這些歷史經(jīng)驗(yàn)已經(jīng)為我們理解和應(yīng)對(duì)大模型帶來(lái)的挑戰(zhàn)提供了有益的參考。

論文作者們認(rèn)為，為了充分發(fā)揮大模型的潛力并減少其負(fù)面影響，計(jì)算機(jī)科學(xué)與社會(huì)科學(xué)的緊密合作至關(guān)重要 。計(jì)算機(jī)科學(xué)家可以提供對(duì)大模型技術(shù)細(xì)節(jié)的深入理解，而社會(huì)科學(xué)家則能夠分析這些技術(shù)對(duì)社會(huì)、政治和經(jīng)濟(jì)的影響。

例如，技術(shù)開(kāi)發(fā)者也應(yīng)不斷改進(jìn)大模型的算法和架構(gòu)，提高其準(zhǔn)確性和可靠性。此外，研究人員還可以探索新的技術(shù)和應(yīng)用模式，如 開(kāi)發(fā)具有社會(huì)意識(shí)的 AI 系統(tǒng)，使其能夠更好地理解和應(yīng)對(duì)復(fù)雜的社會(huì)問(wèn)題 。而政府和國(guó)際組織需要制定相應(yīng)的政策和監(jiān)管措施，以規(guī)范大模型的開(kāi)發(fā)和應(yīng)用，這包括建立數(shù)據(jù)隱私保護(hù)機(jī)制、防止算法歧視、確保信息的真實(shí)性等。同時(shí)，政策制定者還應(yīng)關(guān)注大模型對(duì)就業(yè)市場(chǎng)和社會(huì)不平等的影響，采取措施緩解潛在的負(fù)面影響。

作為新興的文化和社會(huì)技術(shù)，大模型正在重塑我們的社會(huì)、經(jīng)濟(jì)和文化格局。它們不僅能夠獲取和重組人類(lèi)知識(shí)，還能對(duì)個(gè)體的知識(shí)和決策產(chǎn)生深遠(yuǎn)影響。

然而，我們也必須清醒地認(rèn)識(shí)到， 大模型并非完美的智能 agent ，與其將 AI 的發(fā)展框定為人類(lèi)與機(jī)器之間的二元斗爭(zhēng)，我們更應(yīng)該通過(guò)借鑒歷史經(jīng)驗(yàn)、加強(qiáng)跨學(xué)科合作以及制定合理的政策和監(jiān)管措施，引導(dǎo)大模型朝著有利于人類(lèi)社會(huì)的方向發(fā)展，實(shí)現(xiàn)技術(shù)與人文的和諧共進(jìn)。

作者：木木

如需轉(zhuǎn)載或投稿，請(qǐng)直接在公眾號(hào)內(nèi)留言

本文僅為原文章作者觀點(diǎn)，不代表學(xué)術(shù)頭條的立場(chǎng)。

原政策論壇文章 鏈接：

www.science.org/doi/10.1126/science.adt9819