▲點(diǎn)擊圖片報(bào)名，抓住風(fēng)口（iOS用戶請(qǐng)用電腦端打開小程序）

本期要點(diǎn)：社會(huì)化AI——馬斯克所忽略的智能進(jìn)化必由之路

你好，我是王煜全，這里是王煜全要聞評(píng)論。

最近，忙于美國政府效率部（DOGE）事務(wù)的埃隆·馬斯克，居然還抽空參加了知名的播客節(jié)目《Joe Rogan Experience》（喬·羅根體驗(yàn)秀），并再次拋出驚人言論。

馬斯克認(rèn)為，在幾年內(nèi)AI就會(huì)超越最聰明的人類，到2029或2030年，AI就會(huì)比所有人類加起來都聰明。屆時(shí)，人類要么在AI的幫助下過上無比美好的日子，要么就會(huì)被滅絕。他估計(jì)，好結(jié)局的概率為80%，滅絕的概率為20%。

這個(gè)言論確實(shí)有些驚人！但作為位高權(quán)重的“大嘴巴”，以及科技產(chǎn)業(yè)的重要人物，馬斯克總是自帶權(quán)威光環(huán)。

但在我看來，馬斯克這次的說法基本不靠譜，成真的可能性恐怕連萬分之一都不到。以現(xiàn)在人工智能發(fā)展的范式，其認(rèn)知水平短時(shí)間內(nèi)難以超過個(gè)人，就更不用提超越整體人類了。其中的原因，今天的思想薈文章就來好好深入探討一下。

首先，我們需要回到人工智能和認(rèn)知科學(xué)的源頭。

1986年，人工智能的先驅(qū)之一，MIT（麻省理工學(xué)院）的馬文·明斯基教授（Marvin Minsky），在其著作《心智社會(huì)》中提出過一個(gè)革命性觀點(diǎn)：人類的意識(shí)不是單一機(jī)制的產(chǎn)物，而是大腦內(nèi)部無數(shù)“智能體”（Agents）通過社會(huì)化的活動(dòng)而形成的。

就像孩子搭積木時(shí)，負(fù)責(zé)空間定位的Agents可能與重力感知的Agents產(chǎn)生互動(dòng)，并通過神經(jīng)網(wǎng)絡(luò)的“投票”機(jī)制協(xié)調(diào)行動(dòng)。

馬文·明斯基教授

明斯基教授在后來的《情感機(jī)器》中進(jìn)一步強(qiáng)調(diào)，人們的每個(gè)決定都是“辯論”的結(jié)果，區(qū)別在于有些“辯論”僅持續(xù)幾納秒，有些延續(xù)半生。

當(dāng)然，我們的腦子里面肯定是沒有“Agents”這些器官，明斯基教授只是用“Agents”來具象化人們形成認(rèn)知的過程。

不過，神經(jīng)科學(xué)研究確實(shí)為這個(gè)認(rèn)知過程提供了一定的支撐。有研究表明，人腦前額葉皮質(zhì)中的神經(jīng)元所構(gòu)成的分布式網(wǎng)絡(luò)，本質(zhì)上就是一個(gè)動(dòng)態(tài)協(xié)商系統(tǒng)；杏仁核與海馬體在決策過程中的信息交換，也呈現(xiàn)了辯論的特征；而人類的下意識(shí)決策，也是基底神經(jīng)節(jié)與丘腦間數(shù)百個(gè)"微型議會(huì)"的協(xié)商結(jié)果。

此外，大家也可以回顧一下我去年推薦的《科學(xué)美國人》那篇文章：《Building Intelligent Machines Helps Us Learn How Our Brain Works》（構(gòu)建智能機(jī)器幫助我們了解大腦的工作原理）。

說了這么多，其實(shí)就是為了讓大家明白，現(xiàn)在的AI還遠(yuǎn)沒有做到人類這樣的決策過程，就更不要提短時(shí)間內(nèi)超越我們了。

當(dāng)前的AI大模型，主要還是靠海量文本語料庫訓(xùn)練出來的。它們雖然能生成語法正確、邏輯連貫的文本，但其實(shí)并不真正理解其中的意思。就像大家經(jīng)常碰到AI語音讀錯(cuò)中文多音字，就是因?yàn)樗鼈儧]法根據(jù)社會(huì)語境選對(duì)發(fā)音。

人類對(duì)話中大部分的語義往往還需要依賴肢體動(dòng)作、表情、語氣以及情境暗示，但AI只能處理文本，必然會(huì)丟失大量重要信息。就像情侶用微信溝通，經(jīng)常會(huì)產(chǎn)生誤會(huì)，AI也不能真正明白語言背后的情感，就更不用提讓它們理解如社會(huì)規(guī)則、價(jià)值觀、人生觀等更深層的意義。

當(dāng)然，之前OpenAI通過人類的反饋，讓AI在生成文字時(shí)也要符合人類的規(guī)則或價(jià)值觀，給大家了一種AI有了“人味”的感覺，但本質(zhì)上還是“鸚鵡學(xué)舌”。

而且，人類的學(xué)習(xí)可不僅僅靠語言。幼兒通過扔?xùn)|西來理解物理規(guī)律，其實(shí)際效果遠(yuǎn)超AI閱讀力學(xué)論文，這是我們?nèi)祟愔悄堋皟?nèi)部社會(huì)化”的優(yōu)勢(shì)所在。

所以，我們認(rèn)為，學(xué)習(xí)人類的決策方式，將視覺、聽覺等各方面的感知變成獨(dú)立的AI Agents，眾多AI Agents同步對(duì)真實(shí)世界進(jìn)行長時(shí)間、大規(guī)模的“多模態(tài)”觀察和互動(dòng)，共同做出決策，才能形成對(duì)世界的正確認(rèn)知，才有可能跨越當(dāng)前的天花板。

然而，這件事顯然還只是在起步階段，短時(shí)間內(nèi)很難實(shí)現(xiàn)。所以，馬斯克預(yù)測(cè)AI將在未來幾年內(nèi)超越人類，也就明顯不可信了。

不過，我們進(jìn)一步想強(qiáng)調(diào)的是，哪怕AI在單體智能上實(shí)現(xiàn)了認(rèn)知和決策的“內(nèi)部社會(huì)化”，距離超越全人類還遠(yuǎn)得很，因?yàn)槿祟愔悄艿能S升也不僅依賴“內(nèi)部社會(huì)化”。

就像幼兒在扔?xùn)|西的同時(shí)，還會(huì)觀察母親的表情，通過無數(shù)次與外部社會(huì)的互動(dòng)，學(xué)會(huì)解讀情緒，理解人與人的關(guān)系和社會(huì)規(guī)則。

最關(guān)鍵的是，科學(xué)的發(fā)展并不是個(gè)人靈光一現(xiàn)的產(chǎn)物，而是人類互動(dòng)的結(jié)果。

量子力學(xué)、遺傳學(xué)等領(lǐng)域的突破，都是全球科學(xué)家思想碰撞與協(xié)作的成果。往往互動(dòng)的群體越專業(yè)、互動(dòng)得越頻繁、互動(dòng)范圍越廣泛，相關(guān)領(lǐng)域的科學(xué)知識(shí)發(fā)展就越快。這也是大家常常說“科學(xué)無國界”的原因。

哪怕是特立獨(dú)行的愛因斯坦，在提出相對(duì)論時(shí)，也需要發(fā)表論文。而且，直到居里夫人等主流物理學(xué)家認(rèn)可后，相對(duì)論才真正成為了科學(xué)而被大家所接受。

現(xiàn)在物理學(xué)界、包括很多所謂“民間科學(xué)家”，又出現(xiàn)了大量腦洞大開的理論，但其中能成為真理的一定鳳毛麟角，而且一定需要經(jīng)過廣泛驗(yàn)證和科學(xué)界的接納才能留存下來。

所以，我想強(qiáng)調(diào)的是，同時(shí)也是明斯基教授所忽略的一點(diǎn)，人類整體智慧的發(fā)展過程中，人與人的社會(huì)互動(dòng)發(fā)揮了關(guān)鍵作用。如果AI要追平乃至超越人類整體，還至少應(yīng)當(dāng)要能實(shí)現(xiàn)認(rèn)知和決策的“外部社會(huì)化”。

也就是說，未來AI Agents不僅要能“多模態(tài)”地觀察和理解世界，還要能總結(jié)和創(chuàng)新，提出新概念、新理論，并要與其他AI Agents以及和人類進(jìn)行理性的、批判性的討論，才有可能做出超出人類整體智慧的貢獻(xiàn)。當(dāng)然，這必然是遙遠(yuǎn)未來的事。

目前，雖然我們看到了一些讓大量AI Agents互動(dòng)的實(shí)驗(yàn)，但由于當(dāng)前AI連單體的認(rèn)知和決策都還未實(shí)現(xiàn)“內(nèi)部社會(huì)化”，“外部社會(huì)化”更是無從談起。

最后，我想說的是，真正的AGI（通用人工智能），絕不是靠單純制造更龐大的超算中心、加入更多的訓(xùn)練數(shù)據(jù)、用更多的參數(shù)就能實(shí)現(xiàn)的，而是需要對(duì)人類認(rèn)知的本質(zhì)有更深刻的理解，并將這些理解用于AI的發(fā)展之中。否則，我們只會(huì)迷失在AI所給的幻覺之中。

今天的探討或許顯得有些超前，但我們提出的假設(shè)和建議都是可證偽的，可以等待未來的實(shí)踐來驗(yàn)證。同時(shí)，也歡迎你加入科技特訓(xùn)營，一起探討AI的未來，與我一起，先人一步，看清未來！

前哨AI小課第四季已經(jīng)開始，想要用AI提升工作效率的朋友不容錯(cuò)過，現(xiàn)在購買還可以享受早鳥價(jià)優(yōu)惠！

以上就是今天的內(nèi)容，王煜全要聞評(píng)論，我們明天見。

【科技特訓(xùn)營】看懂科技產(chǎn)業(yè)，離不開長期觀察。線上書院模式，與王老師深度鏈接！為未來五年做好準(zhǔn)備，先人一步，領(lǐng)先一路！

↓長按圖片掃碼報(bào)名，先人一步，領(lǐng)先一路

↓￥399，掌握王煜全AI產(chǎn)業(yè)預(yù)測(cè)精華（iOS用戶請(qǐng)?jiān)陔娔X端打開）

此外，我們還為您準(zhǔn)備了一份清單

“2024年全球汽車品牌銷量排行榜”