2025年3月13日，《科學(xué)》（Science）發(fā)布《模型是文化和社會(huì)技術(shù)》（Large AI models are cultural and social technologies：Implications draw on the history of transformative information systems from the past），通過整合跨學(xué)科視角，系統(tǒng)論證了大語(yǔ)言模型（LLMs）應(yīng)被界定為文化與社會(huì)技術(shù)，而非自主智能體。其技術(shù)本質(zhì)更接近于書寫、印刷術(shù)、官僚體系等歷史性信息處理系統(tǒng)，通過重組人類累積的文化數(shù)據(jù)進(jìn)行社會(huì)協(xié)調(diào)。研究指出，將大語(yǔ)言模型誤讀為智能代理會(huì)導(dǎo)致公共討論偏離實(shí)質(zhì)，應(yīng)轉(zhuǎn)向技術(shù)社會(huì)學(xué)分析框架以準(zhǔn)確評(píng)估其社會(huì)影響與治理路徑。啟元洞見編譯其中的核心內(nèi)容，以供參考。

一、引言

關(guān)于人工智能的爭(zhēng)論常圍繞大模型是否具有智能與自主性展開。關(guān)于大模型的文化與社會(huì)后果的討論也集中于兩點(diǎn)：其當(dāng)前應(yīng)用的直接影響，以及假想未來中這些系統(tǒng)轉(zhuǎn)化為通用人工智能體（甚至超級(jí)通用人工智能體）的可能性。

但將大模型視為智能體的討論存在根本性誤解。結(jié)合社會(huì)科學(xué)與計(jì)算機(jī)科學(xué)的觀點(diǎn)，有助于更準(zhǔn)確理解人工智能系統(tǒng)：大模型不應(yīng)被視作智能體，而是一種新型文化與社會(huì)技術(shù)，能使人類得以利用其他人類積累的信息。

二、社會(huì)與文化制度

自人類存在以來，我們便依賴文化。從語(yǔ)言本身開始，人類具備從他人經(jīng)驗(yàn)中學(xué)習(xí)的獨(dú)特能力，這種能力可視為人類進(jìn)化成功的關(guān)鍵。

文化技術(shù)的重大變革導(dǎo)致了劇烈的社會(huì)轉(zhuǎn)型：口語(yǔ)發(fā)展為圖像、文字、印刷、電影與視頻。隨著信息跨越時(shí)空廣泛傳播，新的信息獲取與組織方式（如圖書館、報(bào)紙、互聯(lián)網(wǎng)搜索）持續(xù)發(fā)展。這些發(fā)展對(duì)人類思想與社會(huì)產(chǎn)生了深遠(yuǎn)影響，無論是好是壞。

自人類存在以來，我們也依賴社會(huì)制度協(xié)調(diào)個(gè)體的信息收集與決策。這些制度本身可被視為一種技術(shù)。現(xiàn)代社會(huì)中，市場(chǎng)、民主與官僚體系尤為重要：

（1）經(jīng)濟(jì)學(xué)家弗里德里希·哈耶克（Friedrich Hayek）指出，市場(chǎng)價(jià)格機(jī)制通過動(dòng)態(tài)匯總極其復(fù)雜的經(jīng)濟(jì)關(guān)系生成簡(jiǎn)化表征。生產(chǎn)者與買家無需理解生產(chǎn)復(fù)雜性，僅需知曉價(jià)格——它將海量細(xì)節(jié)壓縮為簡(jiǎn)化但可用的表征。

（2）民主政體的選舉機(jī)制以類似方式將分散的輿論聚焦為集體法律與領(lǐng)導(dǎo)決策。

（3）人類學(xué)家詹姆斯·斯科特（James C. Scott）提出，所有國(guó)家（無論民主與否）均通過創(chuàng)建分類與系統(tǒng)化信息的官僚體系管理復(fù)雜社會(huì)。

市場(chǎng)、民主與官僚體系早在計(jì)算機(jī)出現(xiàn)前便依賴生成“有損”（不完整、選擇性且不可逆）但有用的表征機(jī)制。這些表征既依賴又超越個(gè)體的知識(shí)與決策。

人類高度依賴這些文化與社會(huì)技術(shù)，但這些技術(shù)之所以可能，正因人類具備智能體的獨(dú)特能力。人類與其他動(dòng)物能夠感知并作用于變化的外部世界，構(gòu)建新世界模型，根據(jù)證據(jù)更新模型，并設(shè)計(jì)新目標(biāo)。人類可通過語(yǔ)言或印刷創(chuàng)造并傳遞新信念與價(jià)值觀。文化與社會(huì)技術(shù)以強(qiáng)大方式傳遞并組織這些信念與價(jià)值觀，但若缺乏個(gè)體能力，這些技術(shù)將無從生效。沒有創(chuàng)新，模仿便無意義。

部分人工智能系統(tǒng)（如機(jī)器人領(lǐng)域）確實(shí)試圖實(shí)例化類似的真相發(fā)現(xiàn)能力。雖然原則上人工系統(tǒng)未來可能實(shí)現(xiàn)這一點(diǎn)，但目前所有此類系統(tǒng)均遠(yuǎn)未達(dá)到人類能力。我們可以討論現(xiàn)在應(yīng)對(duì)這些潛在未來人工智能系統(tǒng)的擔(dān)憂程度，或如何應(yīng)對(duì)其出現(xiàn)。但這與當(dāng)前及近期大模型的影響問題截然不同。

三、大模型

與更具代理性的系統(tǒng)不同，大模型在過去幾年取得顯著且意外的進(jìn)展，使其成為當(dāng)前人工智能領(lǐng)域討論的核心。這一進(jìn)展甚至引發(fā)“擴(kuò)展論”主張。然而，大模型與智能體存在本質(zhì)差異，擴(kuò)展無法改變這一點(diǎn)。

大模型并非智能體，而是以新方式結(jié)合文化與社會(huì)技術(shù)的特征。它們生成對(duì)龐雜人類生成信息的摘要，但這些系統(tǒng)不僅如圖書館目錄、互聯(lián)網(wǎng)搜索與維基百科般總結(jié)信息，還能以類似市場(chǎng)、國(guó)家與官僚體系的方式大規(guī)模重組與重構(gòu)（或說“模擬”）信息表征。正如市場(chǎng)價(jià)格是對(duì)資源分配與使用的有損表征，政府統(tǒng)計(jì)與官僚分類不完美地表征人口特征，大模型亦是其訓(xùn)練數(shù)據(jù)集的“有損JPEG”。

但在代理式界面與擬人化偽裝背后，大語(yǔ)言模型與大型多模態(tài)模型是統(tǒng)計(jì)模型：它們將人類生成的文本巨庫(kù)分解為特定詞匯，并估計(jì)長(zhǎng)詞序列的概率分布。這是對(duì)語(yǔ)言的不完美表征，但包含其摘要模式的大量信息。這使得大語(yǔ)言模型能夠預(yù)測(cè)序列中的后續(xù)詞匯，從而生成類人文本。

大模型不僅抽象化巨量人類文化，還允許對(duì)其執(zhí)行多樣化新操作：簡(jiǎn)單論點(diǎn)可被表達(dá)為華麗隱喻，繁復(fù)散文可被壓縮為平實(shí)語(yǔ)言等等。此前因過于復(fù)雜、龐大與模糊而無法大規(guī)模操作的文化信息體已被馴化。

實(shí)踐中，這些系統(tǒng)的最新版本不僅依賴人類生成與策劃的文本與圖像巨庫(kù)，還依賴其他形式的人類判斷與知識(shí)。特別是，系統(tǒng)依賴基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）和提示工程。即使是最新的“思維鏈”模型，也通常始于與人類用戶的對(duì)話。

四、挑戰(zhàn)與機(jī)遇

1. 挑戰(zhàn)

關(guān)于人工智能的辯論應(yīng)聚焦于這些新文化與社會(huì)技術(shù)帶來的挑戰(zhàn)與機(jī)遇。我們現(xiàn)在擁有的這項(xiàng)技術(shù)，對(duì)書面與圖像文化的影響堪比大規(guī)模市場(chǎng)對(duì)經(jīng)濟(jì)、大規(guī)模官僚對(duì)社會(huì)的影響，甚至可與印刷對(duì)語(yǔ)言的變革相提并論。那接下來將發(fā)生什么？如同過去的經(jīng)濟(jì)、組織與信息“通用技術(shù)”，這些系統(tǒng)將影響生產(chǎn)力，既補(bǔ)充人類工作，又自動(dòng)化此前僅人類能完成的任務(wù)，還將影響分配，甚至改變資源獲取格局。

或許它們還將產(chǎn)生更廣泛的文化影響。我們尚不知這些影響是否會(huì)如印刷、市場(chǎng)或官僚體系般深遠(yuǎn)，但將其視為文化技術(shù)反而更能凸顯其潛在影響。

同時(shí)，這些技術(shù)為重組信息與協(xié)調(diào)全球數(shù)百萬人行動(dòng)創(chuàng)造新可能。圍繞大語(yǔ)言模型的經(jīng)濟(jì)、社會(huì)與政治后果的持續(xù)爭(zhēng)論，延續(xù)了歷史上對(duì)新文化與社科技的擔(dān)憂與期待。引導(dǎo)這些爭(zhēng)論需同時(shí)認(rèn)識(shí)新舊論點(diǎn)的共性，并細(xì)致映射新技術(shù)的特殊性。

此類映射是社會(huì)科學(xué)的核心任務(wù)。社會(huì)科學(xué)對(duì)過去技術(shù)后果的研究可幫助我們思考人工智能的隱性社會(huì)影響，并探索通過重新設(shè)計(jì)人工智能系統(tǒng)增強(qiáng)積極影響、減少消極影響的路徑。

但當(dāng)前明顯擔(dān)憂是：大模型及相關(guān)技術(shù)可能取代“知識(shí)工作者”，以及“大模型將同質(zhì)化還是分裂文化與社會(huì)”？在歷史語(yǔ)境下思考這個(gè)問題極具啟發(fā)性。

大模型的設(shè)計(jì)目標(biāo)在于忠實(shí)復(fù)現(xiàn)文本、圖像與視頻序列的實(shí)際概率。其內(nèi)在傾向是對(duì)訓(xùn)練數(shù)據(jù)中最常見情境最準(zhǔn)確，對(duì)數(shù)據(jù)中罕見或全新情境最不準(zhǔn)確，這可能導(dǎo)致大模型加劇這一同質(zhì)化。

2. 機(jī)遇

另一方面，大模型或允許我們?cè)O(shè)計(jì)新方法，獲取其總結(jié)的文化視角多樣性。整合與平衡這些視角或提供解決復(fù)雜問題的更精細(xì)手段。實(shí)現(xiàn)此目標(biāo)的一種途徑是構(gòu)建“類社會(huì)”生態(tài)——不同大模型編碼的不同視角相互辯論，交叉融合生成混合視角，或識(shí)別出人類專業(yè)知識(shí)領(lǐng)域的空白。我們可能需要新系統(tǒng)，使大模型的反映與角色多樣化，產(chǎn)生人類社會(huì)般的分布與多樣性。

這類多樣化系統(tǒng)對(duì)科學(xué)進(jìn)步尤為重要。通過聯(lián)結(jié)文本、音頻與圖像中的眾多視角，大模型或可使我們發(fā)現(xiàn)其間前所未有的關(guān)聯(lián)，造福科學(xué)與社會(huì)。

新文化與社會(huì)技術(shù)對(duì)經(jīng)濟(jì)關(guān)系的影響還存在更隱晦但有趣的路徑。文化技術(shù)的發(fā)展引發(fā)信息生產(chǎn)者與分發(fā)系統(tǒng)間的根本經(jīng)濟(jì)張力：

（1）生產(chǎn)者與分發(fā)者的矛盾：分發(fā)者希望以低成本獲取信息，生產(chǎn)者希望以低成本分發(fā)信息。

（2）數(shù)字化加劇矛盾：數(shù)字信息分發(fā)的便捷性已使此問題尖銳化。大模型處理可用信息的速度、效率與范圍，使這些問題更為突出。集中權(quán)力可能使系統(tǒng)所有者更易通過效率攫取利益，犧牲他人權(quán)益。

3. 挑戰(zhàn)與機(jī)遇之下的技術(shù)與政治問題

關(guān)鍵技術(shù)問題包括：大型模型的系統(tǒng)性缺陷可在多大程度上被修正？與基于人類知識(shí)工作者的系統(tǒng)缺陷相比，其優(yōu)劣如何？

這些問題不應(yīng)遮蔽關(guān)鍵政治問題：哪些行動(dòng)者能夠動(dòng)員其利益？他們?nèi)绾嗡茉旒夹g(shù)與組織能力的混合結(jié)果？

技術(shù)界評(píng)論者常將這些問題簡(jiǎn)化為機(jī)器與人類的二元對(duì)抗：要么進(jìn)步力量戰(zhàn)勝盧德主義傾向，要么人類成功抵抗人工技術(shù)的非人侵蝕。這不僅誤解了早于計(jì)算機(jī)出現(xiàn)的分配斗爭(zhēng)復(fù)雜性，還忽視了未來進(jìn)步可能采取的多種路徑。

在早期社會(huì)與文化技術(shù)案例中，一系列規(guī)范與監(jiān)管制度逐步形成以調(diào)和其影響。然而，這些制衡力量非自發(fā)形成，而是技術(shù)內(nèi)外行動(dòng)者協(xié)同努力的結(jié)果。

五、展望未來

通用人工智能敘事（即將大模型視為超級(jí)智能體）在科技界內(nèi)外被推廣，既被人工智能樂觀主義者也被擔(dān)憂者所采用。這一敘事誤解了這些模型的本質(zhì)及其與過去技術(shù)變革的關(guān)系。更重要的是，它轉(zhuǎn)移了人們對(duì)這些技術(shù)真實(shí)問題與機(jī)遇的注意力，并忽視歷史教訓(xùn)對(duì)權(quán)衡利弊的指導(dǎo)意義。

未來可能存在更接近智能體的假設(shè)未來人工智能系統(tǒng)，但大模型顯然并非此類系統(tǒng)。大模型和圖書館卡片目錄或互聯(lián)網(wǎng)這些技術(shù)一樣，屬于文化與社會(huì)技術(shù)發(fā)展長(zhǎng)河中的一環(huán)。

社會(huì)科學(xué)已詳細(xì)探索這一歷史，形成對(duì)過去技術(shù)動(dòng)蕩的獨(dú)特理解。計(jì)算機(jī)科學(xué)與工程學(xué)同社會(huì)科學(xué)的緊密合作，將幫助我們理解這段歷史并應(yīng)用其教訓(xùn)：大模型將導(dǎo)致文化同質(zhì)化還是碎片化？它們將強(qiáng)化還是削弱人類發(fā)現(xiàn)的社會(huì)制度？在此過程中誰將獲益，誰將受損？

這些緊迫問題在以大模型類比人類代理的辯論中難以聚焦，改變對(duì)于人工智能的爭(zhēng)論框架將有助于促進(jìn)研究。

若計(jì)算機(jī)科學(xué)家與社會(huì)科學(xué)學(xué)者均理解大模型僅是（但也是）新文化與社會(huì)技術(shù)，雙方將結(jié)合專長(zhǎng)更易協(xié)作。計(jì)算機(jī)科學(xué)家可將其對(duì)系統(tǒng)機(jī)制的深度理解，與社會(huì)科學(xué)者對(duì)過去大規(guī)模系統(tǒng)如何重塑社會(huì)的知識(shí)結(jié)合，拓展現(xiàn)有研究議程并發(fā)現(xiàn)新方向。

此外，讓爭(zhēng)論遠(yuǎn)離“機(jī)器接管”的生存恐懼與“人人擁有完美人工助手”的烏托邦承諾，大模型的實(shí)際政策后果必將不同。

以這種思路，工程師與計(jì)算機(jī)科學(xué)家們已意識(shí)到大模型的偏見問題，并思考其與倫理正義的關(guān)系。他們需更進(jìn)一步追問：這些系統(tǒng)將如何影響資源分配？其對(duì)社會(huì)的極化與整合有何實(shí)際后果？能否開發(fā)增強(qiáng)而非抑制人類創(chuàng)造力的大模型？

回答這些問題需兼具社會(huì)科學(xué)與工程學(xué)理解。將人工智能的辯論從代理轉(zhuǎn)向文化與社會(huì)技術(shù)，是構(gòu)建這種跨學(xué)科理解的關(guān)鍵第一步。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er