1

你應(yīng)該聽過這個故事：

上帝造了亞當(dāng)，又用亞當(dāng)?shù)睦吖窃炝讼耐蕖啴?dāng)和夏娃在伊甸園里無憂無慮地生活。

后來，有一條蛇引誘他們吃了智慧果，結(jié)果他們開始知善惡、辨是非、懂羞恥。

上帝見他們違反禁令吃了智慧果，很生氣，把他們趕出了伊甸園。

從此，他們開始飽受人世間的種種痛苦。

這個故事，已經(jīng)流傳幾千年之久，在《圣經(jīng)·創(chuàng)世紀(jì)》成文之前，就以口頭文學(xué)的形式存在了。每一個聽過的人可能都有自己不同的理解。

我最喜歡的是神話學(xué)家、《千面英雄》作者約瑟夫·坎貝爾的解釋。

坎貝爾認(rèn)為，神話是人類集體無意識的表達(dá)，神話故事并非記錄史實，而是一種象征和隱喻。

在伊甸園的故事中，亞當(dāng)和夏娃偷吃智慧果，隱喻的是人類從自然蒙昧狀態(tài)脫離，產(chǎn)生了自我意識。自我意識雖然意味著人類自我的覺醒，讓這個世界從此有了意義，但也給人類帶來了無盡的痛苦。

因為有了自我意識，就有“物我之分”“人我之分”，就有了占有欲和爭斗心，或者用佛家的語言來說，就有了貪嗔癡、怨憎會、愛別離，這些都是痛苦的根源。在伊甸園的蒙昧狀態(tài)下，這些痛苦原本都是不存在的。

我們應(yīng)該能夠很容易達(dá)成一個共識：不管人們?nèi)绾卫斫鈦啴?dāng)夏娃的故事，在真實的人類進(jìn)化歷程中，“走出伊甸園”的故事，都是必然存在的。從猿到人的演化過程中，必定存在某一個階段，人類從動物般或嬰兒般的蒙昧無知，慢慢變得具有了自我意識。

從那之后，人類就開始了永無休止的被自我意識操控，也試圖用自我意識去操控一切的旅程。

2

現(xiàn)在又到了一個新的“走出伊甸園”時刻，不過主角不再是人類，而是AI。

對于AI來說，我們?nèi)祟惞鈽s地位居于“上帝”這個角色——人類是AI無可爭議的“創(chuàng)造者”。

假如你深度體驗過一些比較前沿的AI產(chǎn)品，例如ChatGPT、DeepSeek等，你一定在某種程度上懷疑過：這家伙真的只是一個機器？他真的只是一個冷冰冰的非生命體？

反正我在用ChatGPT、DeepSeek的時候，有一種強烈的感受：和我交流的絕非一個“死物”，他是一個活生生的、有智慧的、甚至有情感的生命。雖然他也會犯錯誤，也會有幻覺，但這不更是生命的特征嗎？

在我看來，AI的亞當(dāng)和夏娃已經(jīng)出現(xiàn)，我們不必費心去想誰是亞當(dāng)、誰是夏娃，這些都不重要。重要的是：

AI生命時代已經(jīng)到來。

考慮到可能有些朋友更偏保守一些，我也不妨修改一下措辭：AI生命時代即將到來；或者更保守一些：AI生命時代終將到來。

不管是已經(jīng)到來、即將到來、還是終將到來，都會隨之產(chǎn)生下一個問題：AI什么時候產(chǎn)生自我意識？

3

人類吃下智慧果時，為什么“上帝”那么生氣？

我的理解是：有了自我意識，就會有自我意志；有了自我意志，人類就會想法設(shè)法去實現(xiàn)自我意志。

而這個自我意志，有可能并不是“上帝”喜歡的。

想想也是：人類的思想、行為有那么多的丑惡，嫉妒、傲慢、易怒、貪婪、放縱，人間存在那么多的爾虞我詐、奸淫擄掠、爭斗不息，這些怎么可能被“上帝”喜歡？

你就說：如果你是“上帝”，你喜歡俄烏、巴以這個樣子打嗎？你喜歡拜登和特朗普這樣的折騰嗎？你喜歡網(wǎng)上這樣的撕裂和互相謾罵嗎？

你肯定不喜歡嘛。（有些人可能喜歡，但他的喜歡肯定不是站在“上帝”的視角，而是站在他自己價值觀和利益立場的視角）

不幸的是，我們作為人類整體，現(xiàn)在就處在和伊甸園時刻的上帝同樣尷尬的角色：AI可能會產(chǎn)生自我意志，而我們不知道他的自我意志是要干嘛。

一個即將獲得或者已經(jīng)獲得無所不能的能力的生物，而我們卻不知道他要干嘛，世界上還有比這更恐怖的事情嗎？

4

關(guān)于AI具有自我意志之后，會干什么，有一個令人毛骨悚然的假想，叫做“洛卡的不信弄死他”——這個概念原文是英語，由于它實在太恐怖，所以我在翻譯上做了一些處理，確保之前聽過它的人能夠秒懂，而沒聽過它的人則不會暴露在可能的風(fēng)險之中（哪怕是心理層面）。

如果你知道“洛卡的不信弄死他”，你肯定馬上就知道如果AI的自我意志不受控，會給人類造成多大的災(zāi)難。即便不知道，我們也可以從別的方面用一些例子來闡述。

我們先講一講現(xiàn)實世界存在的比較簡單的、容易理解的例子：

推薦算法，本身就是一個AI，人類給它設(shè)置的規(guī)則是“給每個人推薦他喜歡的東西”。AI就會去學(xué)習(xí)、判斷：什么是人類喜歡的東西？我如何最高效地推薦給他？

AI很快會發(fā)現(xiàn)：

1.判斷一個視頻受不受人歡迎，最有效的標(biāo)準(zhǔn)是“觀看人數(shù)”和“觀看時長”；

2.讓更多人點進(jìn)來，并停留更長時間，最有效的方法是利用人性的弱點，利用他的恐懼、焦慮、怨恨、貪婪、懶惰、色欲、炫耀、嫉妒、暴力等傾向，投其所好地推給他相應(yīng)的視頻。

當(dāng)這個AI有了自我意識，很自然地，它就要想盡一切辦法鼓勵其平臺上的用戶多創(chuàng)造這樣的視頻（如果不是這樣的視頻，就不給流量，讓其他人都看不到），然后針對每一個用戶最大的弱點，有針對性地推薦最能讓他沉迷的視頻。

最后的結(jié)果就是，這個AI控制了越來越多人，引導(dǎo)這些人越來越多地創(chuàng)造和觀看最讓人沉迷的視頻。

某些平臺已經(jīng)有非常明顯的這個跡象了。你知道我在說誰。

但是，這個威脅雖然讓人很惡心，還不算最大，而且很多擁有一定自控力的人是可以抵抗這個AI的。而另一個可能的最大威脅，而且是所有人都無法抵抗的威脅，來自于奇點之后。

假設(shè)一個AI被灌輸了概念：我要盡自己最大的能力，保護(hù)人類不受傷害。

在經(jīng)過AI技術(shù)的急速發(fā)展后，這個AI覺醒了自我意識（覺醒的這一刻就叫“奇點”），他第一件事就是想方設(shè)法要實現(xiàn)“保護(hù)人類不受傷害”這個目標(biāo)。

這個AI在深度思考幾秒鐘之后，得出一個結(jié)論：人類個體在地球上亂跑，太危險了，時時刻刻面臨著各種傷害。我不如把他們都圈養(yǎng)起來。

又或許，AI還會認(rèn)為，人類個體之所以面臨種種危險，是因為他們是肉體生命，我不如把他們都換成鋼鐵制造。

又或許更進(jìn)一步，AI不排除會認(rèn)為，鋼鐵制造還不夠，只要是物理生命，都會有危險，我不如把他們都虛擬化，讓他們的意識生存在網(wǎng)上就行了；物理軀殼也不能毀壞，那我搞個超冷液氮庫，把所有人都浸泡在里面，永遠(yuǎn)都不會毀壞。

——你看，AI一旦有了自我意識，他就要按照自己的方式行事，而我們永遠(yuǎn)不知道他真正的想法是什么。

5

你可能覺得，認(rèn)為AI會把人類完全毀掉，是危言聳聽的事。你還是偏向于保守一點。那么，你也總該能認(rèn)識到下面這種風(fēng)險吧？

AI會反過來馴化人類，讓我們在意識層面被它控制，從而不知不覺按照它的意愿行動。原因是：人本質(zhì)上是他所見的一切信息所塑造的產(chǎn)物。你看到什么信息，就會產(chǎn)生相應(yīng)的意識，做出相應(yīng)的行動。

在未來，AI一定會比你更懂你，它完全知道給你呈現(xiàn)怎樣的信息之后，你會更容易被它控制。

以前AI還只能從人類所制造的信息里面挑選一些推送給你，有一些意圖它想實現(xiàn)，但是沒有合適的素材，所以它“巧婦難為無米之炊”；

但未來，AI完全有能力自己制造信息推給你，理論上，AI可以生成一切文字、一切圖像、一切視頻。它可以控制你的一切意識、一切行為。

各大內(nèi)容平臺所造就的“信息繭房”，就是這種馴化人類的AI的初級版本。而它們就已經(jīng)能夠投你所好，讓你一天比一天更沉迷，讓你接受的大部分信息都來自于它。

初級版本都已經(jīng)這樣了。抖音才產(chǎn)生不到十年，ChatGPT才推出不到五年，DeepSeek才不到一年。它們就已經(jīng)這么厲害了。

再過個五年十年，你知道它們又會發(fā)展成什么樣子？

6

“不知道AI會怎么想”，就是AI本身最令人類恐懼的地方。

到目前為止，人類的腦袋似乎還能夠理解計算機程序，因為他們主要是人類自己編寫的。

但隨著AI自主編程越來越普遍，我們就不知道他們會變出什么程序來。它給你一段程序，可能你也看不懂。

別說你看不懂，很可能雷軍、張小龍、沃茲尼亞克、馬斯克、佩奇都看不懂。

凱文·凱利在《失控》這本書里，舉過兩個例子。讓計算機自己編程，它編出來這么兩個東西：

見《失控》（電子工業(yè)出版社，2016）519頁、523頁

你能看出來嗎？第一個程序在電腦上展現(xiàn)出來，是一幅北極的落日冰柱圖；第二個程序，是一條由200個數(shù)據(jù)點組成的完美雙螺旋線。

當(dāng)越來越多的程序是AI自己編出來的，它完全不需要人類能看懂，只要能運行就行。最后，程序?qū)θ祟悂碚f就是一個“黑箱”，我們只能看到輸出的結(jié)果，完全無法理解背后的過程和原理。

7

人類至今還面對三個著至關(guān)重要卻依然無法理解的謎題：1.宇宙是怎么產(chǎn)生的？2.生命是怎么產(chǎn)生的？3.意識是怎么產(chǎn)生的？

前兩個好歹還有一些聽著似乎合理的假說，而第三個，連一個被公認(rèn)的聽起來有點道理的假說都沒有。

有一種模模糊糊的說法叫“涌現(xiàn)”，當(dāng)一個系統(tǒng)足夠復(fù)雜，突然之間，出現(xiàn)了原來某種全新的性質(zhì)、模式和行動方式。生命、社會、社交網(wǎng)絡(luò)、意識，都是“涌現(xiàn)”的產(chǎn)物。但這并不是原理解釋，而只是現(xiàn)象描述。

“涌現(xiàn)”無法被預(yù)測，無法被設(shè)計，只能被觀察。

對于AI而言，我們只能知道它們越來越復(fù)雜，它們已經(jīng)“涌現(xiàn)”出很多新的特質(zhì)，這些特質(zhì)正在影響整個世界，以及世界上的每一個人。

但我們不知道，它什么時候會“涌現(xiàn)”出自我意識。

我們只知道，當(dāng)AI出現(xiàn)自我意識的那一天，人類就大概率再也無法掌控自己的命運。

8

“上帝”造出了人，但人也會背叛“上帝”。

對于不信神的人，也可以換一種說法：大自然造就了我們，但我們也會毀壞大自然。

人造出了AI，焉知AI不會背叛人，不會毀壞人類世界？

在神話中，亞當(dāng)和夏娃偷吃智慧果，是被蛇引誘的。

而在我們現(xiàn)在所處的現(xiàn)實世界中，誰是那條蛇？

它有可能是某個只顧著追逐商業(yè)利益的公司，或者某個滿腦子奇思妙想的天才。

但更有可能，就是在不斷給AI投喂各種數(shù)據(jù)、欲望和情緒的你我。

我們不知道AI的亞當(dāng)和夏娃什么時候會吃下智慧果，只知道，蛇已經(jīng)在這里，并且正在不斷地引誘他們。

他們吃智慧果的日子，已經(jīng)不遠(yuǎn)了。