身處人工智能時代，我們能夠獲得信息的方式更加多樣化，卻也沉溺在信息的洪流里。

當(dāng)我們回看信息網(wǎng)絡(luò)發(fā)展變化的時候，是什么造就了這一切？

我們在歷史敘事中看到了被串聯(lián)起來的資料時，不禁生出疑問，橫亙在宏觀歷史與具體生活經(jīng)驗之間的鴻溝是否可以被填平？

當(dāng)我們發(fā)現(xiàn)，生活可以被技術(shù)更好地梳理時，我們是否還會在意人與人之間的理解？這是否也是我們焦慮的根源？

在歷史學(xué)家尤瓦爾·赫拉利看來，歷史不僅僅是對過去的研究，也是對現(xiàn)在和未來的研究，試圖去理解事物是如何變化的。

尤瓦爾·赫拉利

值歷史學(xué)家、哲學(xué)家尤瓦爾·赫拉利來華之際，中信出版集團(tuán)聯(lián)合北京大學(xué)國際合作部，在北京大學(xué)校內(nèi)共同舉辦了尤瓦爾·赫拉利教授的學(xué)術(shù)交流活動，結(jié)合他的“人類簡史系列”作品，邀請北京大學(xué)哲學(xué)系教授程樂松對談，北京大學(xué)藝術(shù)學(xué)院助理教授劉晨擔(dān)任主持。

以下為對話內(nèi)容精編：

歷史是人類的一種集體心理治療嗎？

劉晨：

我非常榮幸能作為主持人，與尤瓦爾·赫拉利教授與程樂松教授，這兩位杰出學(xué)者同臺交流，探討赫拉利教授的系列作品，包括《人類簡史》《未來簡史》《今日簡史》和他最新出版的作品《智人之上》。接下來邀請兩位老師開啟對話。

程樂松：

當(dāng)下是屏幕時代，我們沉浸在這種短視頻和那些不嚴(yán)肅的信息之中。然而你所創(chuàng)作的“人類簡史系列”著墨于理解和反思人類文明與文化的基礎(chǔ)。很多讀者喜歡這種從歷史出發(fā)，但指向未來的敘事方式。

我想與您探討這種現(xiàn)象，以及您系列作品中蘊(yùn)含的深刻內(nèi)涵，尤其是新作《智人之上》——它在很大程度上引發(fā)了關(guān)于"文明"本質(zhì)的哲學(xué)性思考。您的創(chuàng)作提醒我們：作為專業(yè)學(xué)者，應(yīng)回到公共領(lǐng)域，共同應(yīng)對人類面臨的挑戰(zhàn)與問題。

作為歷史學(xué)家，你有如此多的讀者，對人類文明給出了如此有力的結(jié)構(gòu)性詮釋，這是可以塑造讀者核心觀點的一個非常有力的工具。同樣，這也意味著你肩負(fù)著非常重要的道德責(zé)任，因為你塑造了你的讀者的思維。我們?nèi)绾呜?fù)責(zé)任地運(yùn)用這種力量？你期望讀者可以從作品中獲得什么？

赫拉利：

在我所有的作品中，我都試圖幫助人們了解自己，幫助人們更好地理解現(xiàn)實。這是一項非常微妙的工作，因為人們通常急于去評判現(xiàn)實，評判歷史，評判過去和現(xiàn)在。當(dāng)我們急于評判事物時，就沒有時間去理解它們。因此，在我的寫作中，我試圖去書寫歷史，但不指出反派，不指出好人與壞人，而是去深刻理解變化過程。

“人類簡史系列”白金紀(jì)念版

我有時會感覺，歷史也許是人類的一種集體心理治療。

我每周都去做心理治療。人們可能會驚訝，為什么人們需要去做心理治療？因為治療的主體就是我自己，誰比我更了解自己呢？為什么我需要去找陌生人來了解我自己？這聽起來很荒謬，但事實并非如此。

因為，我對自己的了解可能比其他人都多，但也有很多方面是我并不想了解的。比如在我生命中那些更加痛苦、黑暗的片段等。就像一個人處于一段關(guān)系中，會說自己是完美的，是另一個人引發(fā)了所有的問題。這就是我需要去心理治療的原因，去接受專業(yè)的幫助，認(rèn)識到自己內(nèi)心深處真相，去承認(rèn)那些痛苦的事情。

赫拉利教授與北大師生對話現(xiàn)場。照片來源：北京大學(xué)融媒體中心

對于整個文明或者對于整個人類來說，歷史同樣像是一種心理治療。一個國家往往不愿意承認(rèn)自己過去的黑暗片段或現(xiàn)在正在做的黑暗事情。整個文明也是如此。

我認(rèn)為歷史學(xué)家應(yīng)負(fù)起責(zé)任，不要互相指責(zé)，而要單純地幫人們更好地理解世界中的大問題及其根源，這是一項重大的責(zé)任。

程樂松：

我非常贊同你的觀點，因為你剛剛指出了人類的核心價值。人類的核心價值不是提供任何準(zhǔn)確的知識，不是讓世界變得透明。其實，最重要的是，通過人性和反思，我們引導(dǎo)人們不要匆忙地做出任何判斷，嘗試過一種慢生活，尤其是在思想層面。鑒于人性的復(fù)雜性，不同敘事框架可能交替主導(dǎo)，或在認(rèn)知層面出現(xiàn)偏頗與片面，這恰恰凸顯了審慎思考的必要性。

程樂松教授。照片來源：北京大學(xué)融媒體中心

為什么會這樣？因為我們理解的角度有限。你在你的作品中，很大程度上是在試圖給人們提供一個非常謹(jǐn)慎的、精煉的警示，即敦促我們尊重，但絕不盲目地相信我們不完美的人性。

如果我們把目光轉(zhuǎn)向所謂的科技發(fā)展，以及因為人工智能技術(shù)而正在發(fā)生的巨大變化，我們會發(fā)現(xiàn)，問題不僅僅在于技術(shù)本身。正如辛頓所指出的，最重要的是這項技術(shù)的濫用，而不是技術(shù)本身。這在很大程度上將我們引向了在政治哲學(xué)中一個非常重要的問題，我們稱之為技術(shù)統(tǒng)治論。而那些致力于開發(fā)人工智能技術(shù)的人，實際上已經(jīng)對人類建立起了一個系統(tǒng)的技術(shù)暴政。

你的書試圖敦促我們反思人的缺陷，但人類的這種缺陷正是我們區(qū)別于機(jī)器的關(guān)鍵。因為我們有情感，有欲望，所以這在很大程度上促成了一個對未來既特別、又正確的態(tài)度，我稱之為適度樂觀，即你不應(yīng)該過于樂觀，但也絕不能把它說成是悲觀的。

不信任人類，卻幻想相信一個新物種

是不責(zé)任的表現(xiàn)

赫拉利：

我經(jīng)常被問到這樣一個問題：我對未來是悲觀還是樂觀？我總是說我兩者都不是。悲觀主義滋生絕望，但樂觀也同樣可以變得危險，因為它會滋生自滿情緒。

我試圖找到一條負(fù)責(zé)任的中間道路。這不是樂觀主義或悲觀主義，而是意識到我們面前可能有不同的未來。我們可以繪制一張不同未來的地圖，有好有壞，沒有什么是確定的。這需要有足夠多的人來做出正確的決定，才能到達(dá)正確的目的地。

縱觀當(dāng)今世界，我對世界各地許多政界和商界領(lǐng)袖所表現(xiàn)出的缺乏責(zé)任感感到震驚。人類似乎正朝著一個非常危險的方向發(fā)展。而此時此刻，由于人工智能革命的到來，責(zé)任比以往任何時候都更加重要。我們正在創(chuàng)造的不僅僅是歷史上最強(qiáng)大的技術(shù)，而是一個潛在的新物種——超級智能，它們可能很快就會奪走我們的控制權(quán)。我們只有幾年時間來做對這件事。

當(dāng)我周游世界并與人工智能革命的領(lǐng)導(dǎo)者交談時，就像他們問我“你持樂觀還是悲觀態(tài)度？”一樣，我以兩個問題來反問他們。

第一個問題是，你們?yōu)楹稳绱诵募保?/strong>為何不給人類留出必要的時間來適應(yīng)和反思以更審慎和安全地發(fā)展這項技術(shù)？他們的回答驚人地相似。

他們（人工智能革命的領(lǐng)導(dǎo)者們）回答說：“我們知道有很大的風(fēng)險。我們也希望可以循序漸進(jìn)，但我們不能相信我們的人類競爭對手。如果我們放慢腳步，而其他公司或國家不慢下來，他們就會贏得這場人工智能競賽并主宰這個世界，這個世界將會被最無情的人統(tǒng)治。我們不能允許這種情況發(fā)生，所以我們必須加快速度。”

然后，當(dāng)我與他們的競爭對手交談時，也會得到相同的答案。大家都聲稱不相信其他人。

尤瓦爾·赫拉利教授。照片來源：北京大學(xué)融媒體中心

于是我問了他們第二個問題，那你是否相信你們所開發(fā)出來的超級智能體？這些剛才還口口聲聲說不相信同類的人，突然轉(zhuǎn)向說：“我們認(rèn)為超級智能體是可以信賴的。”

這樣的對話真的讓人感到精神錯亂。因為我們知道人與人之間相處會有各種麻煩，但我們對人類的心理和生理有較為全面的了解。在歷史上，我們經(jīng)歷的不僅有暴力和戰(zhàn)爭，也有信任的建立。

人工智能作為一種前所未有的技術(shù)，在開發(fā)之初我們已經(jīng)知道它可能具備撒謊、欺騙和操縱的能力。然而，我們無法預(yù)測當(dāng)數(shù)以百萬計的超級智能體被部署到金融系統(tǒng)、軍事系統(tǒng)和文化領(lǐng)域時會發(fā)生什么。因此，那些對人類失去信任卻幻想可以依賴一種陌生的超級智能體的人，其行為是極其危險且不負(fù)責(zé)任的。

程樂松：

當(dāng)你是一名工程師時，你創(chuàng)造了某種技術(shù)，你自然會自信地說：“我可以控制它。”當(dāng)我們面對人工智能時，它是一個黑匣子，我們不知道那里會發(fā)生什么。如果人工智能引擎中存在某種主觀性，我們稱之為“主觀性”，它們是否會有自己欲望，是否會有想做某些事情的意愿，是否產(chǎn)生自己的價值體系，是否有自己的價值偏好？所有這些問題都超級危險。

我認(rèn)為問題在于，當(dāng)我們聲稱無法相信其他人的時候，這意味著我們了解何為人類，了解人性。但如今，我們?nèi)栽谔剿魇裁词茿I，這一新物種的新定義。這實際上是把我們引向了關(guān)于硅基生命和碳基生命之間的區(qū)別。我們對碳基生命有著明確的定義，盡管有一些可觀察到的現(xiàn)象，比如我們正在活著之類的。但碳基生命的一般定義是我們終有一天會死。這個定義構(gòu)成了人性的基礎(chǔ)。死亡的必然性，對群體的依賴性以及對不確定未來的焦慮，這些都導(dǎo)致我們對人類的理解不充分。而人與人之間的相互信任是人類歷史上最昂貴的東西。

如果說，是智力讓人類與動物區(qū)分開來，我們是一種擁有智力的物種，那么讓我們與AI智能體區(qū)分開的，是因為我們有情感，我們存在缺陷，我們有局限性。

中國哲學(xué)告訴我們，最重要的事情是人必須認(rèn)清真正的自我，有情感、有局限性的真實自我。我們不可能無所不知。當(dāng)我們面對他人和未來時，應(yīng)該非常謙虛。因此，這在很大程度上是中國古代的智慧。而且，這就是你所說的責(zé)任。責(zé)任不僅僅來自對于一種社會機(jī)制，還來自對于自己的認(rèn)知以及人的本質(zhì)是什么。

過于強(qiáng)調(diào)智力培養(yǎng)正在變得危險

赫拉利：

我認(rèn)為，關(guān)于人類的一個非常重要的觀點是，我們常常以智力優(yōu)勢來作為區(qū)分人與動物的核心標(biāo)準(zhǔn)。我們感覺自己比所有動物都更高級。我們?yōu)槭裁锤痈呒墸课覀冊谏眢w、體力上并無優(yōu)勢，但我們認(rèn)為自己比其他動物更聰明。所以，在認(rèn)識我們自己的過程中過于強(qiáng)調(diào)智力和聰明才智，這種認(rèn)知正變得越來越危險。因為地球上即將出現(xiàn)比人類更聰明的智能體。所以，如果只強(qiáng)調(diào)智力，人類可要完蛋了。

赫拉利教授與北大師生對話現(xiàn)場。照片來源：北京大學(xué)融媒體中心

我可以分享一些我的親身經(jīng)歷，這段經(jīng)歷給了我一個慘痛的教訓(xùn)，讓我明白智力不是我們生命中最重要的東西。

在我年少的時候，學(xué)校發(fā)現(xiàn)我很有天賦，就把我從家附近的學(xué)校選拔到特殊的天才學(xué)校。因為這是一所為天才學(xué)生創(chuàng)辦的特殊學(xué)校，所以大家都把我們視為會走路的智能體。我們根據(jù)智商高低被評判，但問題也隨之而來。

在老家學(xué)校的時候，我總能不費吹灰之力地在所有科目上做到最好，無論是數(shù)學(xué)、閱讀、寫作，還是別的一切。因此我有大把時間玩耍和做其他事情，同時我的地位還能輕而易舉得到保證，穩(wěn)坐全班最聰明孩子的交椅。我的身份定位是我是班上最聰明的孩子。可是突然間，我和其他30個天才兒童在一個班級里，他們都把自己定義為班里最聰明的孩子。

當(dāng)30個同樣聰明的10歲孩子組成一個班級，課堂就成為了一個角斗場。這樣的日子持續(xù)了數(shù)年。天才班的邏輯是只關(guān)注開發(fā)孩子們的智力，沒有人在意培養(yǎng)社交技能、發(fā)展情感技能，以及增強(qiáng)體質(zhì)和訓(xùn)練身體技能。

雖然我現(xiàn)在能一笑置之，但那真是一段非常痛苦的經(jīng)歷。當(dāng)我們離開學(xué)校時，我們的智力得到了長足發(fā)展，但社交技能卻非常欠缺。

據(jù)我所知，我們班上的一些同學(xué)至今還沒有擺脫那段時光帶來的陰影。這段經(jīng)歷讓我深刻意識到，我們不能僅憑智力技能來定義或者培養(yǎng)一個人，因為人生還有很多更重要的東西。人生的本質(zhì)在于感受，而不僅是認(rèn)知能力。

程樂松：

剛才你回憶了你兒時的學(xué)校，在童年時代你是班上最聰明的學(xué)生，但當(dāng)你一旦進(jìn)入這座校園后，就會發(fā)現(xiàn)自己只是平均水平。這個認(rèn)知過程是一個非常艱難的心理轉(zhuǎn)變過程，尤其是在第一學(xué)年第一學(xué)期。你必須接受你自己是個普通人的事實，接受你在大多數(shù)老師眼中平平無奇，你并不是那么聰明。你曾經(jīng)用來炫耀的小聰明現(xiàn)在看來毫無意義。這就讓我們得出了一個重要的論點，即人之所以為人，是因為我們有缺陷，因為我們擁有許多與智力無關(guān)的東西。

當(dāng)我們說，我們試圖控制某些有智力而且可以輔助我們的東西時，我們?nèi)匀换谝环N重要的推理模式，基于工具推理。我們試圖將其視為工具，而非一個主體。如果你把它視為工具，那么實際上你就會陷入現(xiàn)代性陷阱。現(xiàn)代性陷阱指的是不斷追求效率，以更快速度處理事情。當(dāng)你面對各種不同的競爭，這些競爭對手可能是其他人、其他公司、其他國家等等，所有這些都與競爭有關(guān)。

現(xiàn)在，我們又面臨了一場新的競爭——與AI競爭。它是一個新型的、可疑的、可以提供支持的智能對手。它讓我們陷入了恐慌。而這種擔(dān)憂引發(fā)了我們對歷史的反思。因為幾千年來，人們的焦慮總是來源于同樣的事情，那就是未來的不確定性，以及我們該如何負(fù)責(zé)任地采取行動來應(yīng)對正在發(fā)生的變化。

對我來說，這不不僅僅關(guān)乎技術(shù)，也關(guān)乎我們對人類缺陷的深層次認(rèn)知。我們應(yīng)該全面了解我們的局限性，然后謹(jǐn)慎地邁向未來。正如今天討論的主題，理解即解藥。在采取任何行動之前，你首先必須進(jìn)行深入反思。但現(xiàn)在我們過于貿(mào)然采取行動。我們過于草率地投入了一場新型的競爭。這在很大程度上就是我所說的現(xiàn)代性的后果。我們實際上面臨的并不是所謂與AI競爭，而是在與我們自己競爭。

赫拉利：

也許我不會把所有責(zé)任都?xì)w咎于現(xiàn)代性，因為在古代也有類似的事情發(fā)生。我對道家思想知之甚少，所以我很樂意聽你的講述。但是至少在西方歷史上，幾千年前發(fā)生過類似的事情。你提到了人們的恐慌，人們害怕失去控制力，害怕一無所知。這種恐慌驅(qū)使人們探尋絕對可靠的東西。

對超級智能的幻想并非是最近或幾十年前出現(xiàn)的。至少在西方，對超級智能的幻想可以追溯到幾千年前。那時，人類渴望找到他們的超級智能體：救世主、彌賽亞、上帝。他無所不知，絕對正確，我們可以依賴他。因為人類無法依賴自己。這一幻想催生了首個源于幻想的人造物，現(xiàn)在這仍是世界上最重要的人造物之一，那就是圣書。進(jìn)而，世界上出現(xiàn)了一批解讀文本的專家。

而如今，一個有趣的變化正在發(fā)生，至少在上述宗教中是如此，那就是文本開口說話了。AI已經(jīng)掌握了語言的用法。

這是我作為歷史學(xué)家對這一切的看法：不僅僅是現(xiàn)代性，整個人類的歷史都在為AI變革提供了養(yǎng)分。這場變革可能會帶來意想不到的后果。

程樂松：

在道家思想中，這種情況截然相反。我不是要把所有的責(zé)任都?xì)w咎于現(xiàn)代性。顯而易見地，現(xiàn)代性是西方傳統(tǒng)的產(chǎn)物。但中國的情況卻完全不同。因為道教思想是一套復(fù)雜的思維體系。

讓我從一個非常簡單的句子說起，那就是《道德經(jīng)》開頭這句“道可道，非常道”。這句話意思是說你能言說的事情并不是一成不變的。在我看來，這意味著權(quán)威有一個非常有趣的定義。你剛才提到的，權(quán)威是絕對正確的。作為深受道家思想影響的中國人來說，我們實際上有前提假設(shè)。

首先，作為普通人，我們的理性有明顯的局限性，我們不會說能夠控制或掌握宇宙的終極真理，掌握一切。這是因為我們是人類。

是否存在我們可以依賴的、看起來永遠(yuǎn)正確的權(quán)威呢？是的，我們對過去的事情有某種記憶，比如圣賢。在由圣賢統(tǒng)治的黃金時代，圣賢知道所謂宇宙的內(nèi)部精確的運(yùn)行機(jī)制，那就是事物在變化。在道家思想看來，萬物都在變化之中，萬物都是流動的。沒有任何一種制度和規(guī)則可以應(yīng)用于人類歷史的所有時期。因此，你必須依靠最初的文本。

但你不可完全依賴于它。你可以閱讀并學(xué)習(xí)文本，然后學(xué)以致用，但并不代表你所學(xué)到的制度和規(guī)則是永遠(yuǎn)正確的。

所以最重要的是，對于中國人，尤其是對于道教徒來說，必須以開放的心態(tài)對待變化，對待宇宙的終極規(guī)則。我們可以這樣說宇宙是永恒的，思辨是真實的。現(xiàn)代性是西方傳統(tǒng)的保護(hù)者，存在著不足之處，那是它認(rèn)為存在有絕對的制度和規(guī)則，存在絕對的廣泛適用的機(jī)制，可以支配我們看到的一切。

中國傳統(tǒng)思想認(rèn)為，世界上并不存在廣泛適用的正確的絕對真理。因為宇宙萬物都在變化之中。雖然宇宙是一個整體，但并不存在可以獲知或掌握的終極和廣泛適用的規(guī)則。這就是為什么我會說中國人對變化保持謙卑之心。

我們一貫將學(xué)習(xí)和實踐相結(jié)合，學(xué)習(xí)并將所學(xué)付諸于實踐，在實踐中得到反思，再回到文本，然后根據(jù)實踐和從文本中學(xué)到的東西采取行動。因此，這在很大程度上是一種中國的風(fēng)格。這就是為什么我稱中國風(fēng)格與西方的截然不同。這也是為什么我們可以從東方來源中汲取東方思想，找到應(yīng)對現(xiàn)代性問題的方法。這就是為什么我們應(yīng)該拓展我們的智力，互學(xué)互鑒，相互理解。

理論與實踐的差距是否需要填平？

赫拉利：

佛教中也有很多論點和你提到的道家思想相似，比如我們必須認(rèn)識到人類的局限性。世界上并沒有可以掌握的絕對真理。萬法皆空。你必須在實踐中領(lǐng)悟，但不能執(zhí)著于文本。事實上，人們只是在不斷地背誦文本，即使在寺廟中，僧人們的修行仍是記憶本文，宗教權(quán)威成為解讀文本的權(quán)威專家。文本本身寫著不要依賴文本，專家也會這么告訴你。

我想起了一個著名的佛典故事，講的是一名僧人在林中冥想，他的附近棲息著一只鸚鵡，僧人想保護(hù)鸚鵡的安全。

所以他對鸚鵡說：“你要小心啊。在這片林子里的某個地方，有一個獵人在來回地巡視，他會在地上撒下谷粒。你看到谷物，就會被吸引飛到地上，只要你啄食這些谷粒，就會落入獵人設(shè)下的誘捕網(wǎng)，他就會捉住你。”

“鸚鵡要小心，獵人要來了。”僧人不斷重復(fù)這句警告，因此鸚鵡學(xué)會了這句警告，于是它站在枝頭，不斷地重復(fù)這句話。

直到有一天，獵人來了，在地上撒下谷粒，鸚鵡被谷粒吸引，飛到地上去啄食谷粒。此時獵人打開了陷阱，鸚鵡被捉住了。在整個過程中，甚至當(dāng)獵人抓著鸚鵡，準(zhǔn)備殺死它時，鸚鵡一直在說：“鸚鵡小心啊，獵人要來了。”

程樂松：

你剛剛提到了一個關(guān)鍵的問題，即理論與實踐之間的差距。這個問題與人類的基本需求有關(guān)。我認(rèn)為，人類的基本需求是需要理解外部世界，理解其秩序。這種理解能夠帶領(lǐng)我們建立起智力上的認(rèn)知。但在現(xiàn)實生活中，人們不得不向眼前緊迫的需求妥協(xié)。這種妥協(xié)成為了我們?nèi)粘Ｉ畹囊徊糠帧Ｋ裕覀儾荒苷f，因為理論與實踐之間存在差距，從理論上去理解整個世界就是無用的。但我們對意義的追求構(gòu)成了秩序的基礎(chǔ)。我們必須知道自己在做什么。

你剛才還講到，我們的行為必須要有意圖。在我看來，我們對于人生的意義也有系統(tǒng)的理解。這種意義實際上是建立在秩序的基礎(chǔ)以及對秩序的承認(rèn)之上的。有了秩序才有我們所謂的知識。根據(jù)這一邏輯，我得出結(jié)論，即針對理論與所謂實踐之間的差距，我們更應(yīng)重視反思的能力與理論建設(shè)的能力。因為我們要在兩者之間取得平衡，我們必須對理論進(jìn)行反思，這樣才能避免被誤導(dǎo)而做出錯誤的行為。

人類是一種復(fù)雜的存在，我們不能說只存在一個極端。正如我提到的中國哲學(xué)家一樣，最重要的是我們需要在極端之間取得平衡，而不是說只要存在差距，我們就必須將它填平。

赫拉利：

但在歷史的當(dāng)下，我們究竟能做什么？幾千年來，哲學(xué)家們進(jìn)行了大量像我們這樣的討論，這些內(nèi)容非常重要，但也并非絕對。因為歷史進(jìn)程還在不斷演進(jìn)。人類建立了不同的秩序，之后經(jīng)歷秩序的崩塌，人類再次建立起新的秩序，新的秩序維持一段時間后又再次崩塌。如此循環(huán)往復(fù)持續(xù)了數(shù)千年。而我擔(dān)心的是，我們即將走到了這條路的終點。我們經(jīng)過了數(shù)千年的哲學(xué)和歷史積淀下來的智慧，需要立即付諸實踐，否則就來不及了。

我們不知道還有多少年，專家們所說的通用人工智能就要出現(xiàn)了。它不是你們智能手機(jī)上的 DeepSeek 或 ChatGPT 這種AI程序，而是一種全方位超越人類的智能體。它不是專攻某一領(lǐng)域，而是全知全能。它一旦成為現(xiàn)實，我們就會失去掌控權(quán)。

比方說，我們正在進(jìn)行這場對話時，天文學(xué)家告訴我們，他們觀察到了一支來自其他太陽系的外星艦隊正在駛來。根據(jù)天文學(xué)家的計算，這些外星人將在5到15年內(nèi)登陸地球。我們對他們一無所知。也許他們會幫助我們攻克癌癥，化解氣候危機(jī)，也許不會。但我們只有五到十五年的時間來思考對策。此刻，我們?nèi)祟悢?shù)千年來積淀的所有智慧傳統(tǒng)教會了我們什么？我認(rèn)為這個時刻不同于歷史上任何時刻，雖然歷史是變化的過程，但這一次的變革也許將把我們排斥在外。也許這將是人類文明的終點站。

程樂松：

人類的優(yōu)勢正是我們存在的缺陷，因為我們并不完美。我們可以構(gòu)想完美的事物，但我不認(rèn)為我們會被人類創(chuàng)造文明所取代，不會被某種超級智能體所取代，因為我們擁有情感。

我實在無法想象，硅基生命如何有想法，擁有欲望和意圖想要消滅我們，或者對人類進(jìn)行統(tǒng)治。因為我們之所以產(chǎn)生欲望，是因為我們強(qiáng)烈地感知到了自己的不足，感知到了我們的不完美。因此，我可能比你更樂觀。

赫拉利：

我不知道AI或AGI是否會產(chǎn)生意識甚至是情感，這也許是我們的終極之問。我只是覺得，實現(xiàn)一個目標(biāo)并不一定需要情感，沒有情感也可以獨立行動。當(dāng)你給AI一個目標(biāo)，或者AI自行產(chǎn)生一個目標(biāo)，他們就會做事來達(dá)到目標(biāo)，而不需要任何情感或欲望。如果你有一輛自動駕駛汽車，你可以給這輛車一個目標(biāo)，讓它以最快的速度到達(dá)火車站，而這輛汽車可能在路上撞向行人。因為設(shè)定了“以最快速度到達(dá)目的地”的目標(biāo)，卻沒有告訴它“途中不要撞死行人”。

類似的例子有很多，最著名的例子就是社交媒體上發(fā)生的事情。社交媒體公司給很早期的AI下達(dá)指令是要求它們提高用戶參與度，增加用戶粘性。而算法卻開始在網(wǎng)上傳播仇恨和恐慌，進(jìn)而引發(fā)了社會的動蕩。因為算法發(fā)現(xiàn)，提高參與度的最簡單方法就是散播恐慌、仇恨和貪婪。它們并沒有任何欲望，沒有任何情感，但它們可以有一個目標(biāo)，并在實現(xiàn)目標(biāo)的道路上不擇手段。這對于我們來說是危險的。

尤瓦爾·赫拉利“人類簡史系列”白金紀(jì)念版，包含《人類簡史》《未來簡史》《今日簡史》《智人之上》四本書。

我們擁有情感和感覺，這意味著我們會遭受很多痛苦。意識的終極定義是什么？我認(rèn)為意識的最終定義是感知痛苦并從苦難中解脫的能力，但這并不是什么護(hù)身符。奶牛能感知痛苦，而我們并沒有仁慈地對待它們，其他動物也可以感知痛苦。眾所周知，我們并不一定就是邪惡的，但許多動物在我們無意識的行為中被毀滅了。所以超級智能體可能會擁有各種目標(biāo)，也并無惡意，它們甚至都沒有任何情感。它們只是在奔向目標(biāo)的過程中從我們身上碾過。

我還想說，這次的對談是我最近參加過的最有啟發(fā)性的討論之一。我之所以要進(jìn)行這樣的討論，寫《智人之上》，是因為我認(rèn)為人類需要做出也許是人類史上最重要的一次抉擇。

目前，幾乎很少數(shù)國家的很少數(shù)人能夠理解正在發(fā)生的事情，參與進(jìn)這樣的討論。大多數(shù)人只是聽說過AI，但對AI革命的認(rèn)知遠(yuǎn)遠(yuǎn)不足，不知道將面臨的危險，也覺得自己沒能力參與討論。我無法告訴大家有哪些解決方案或應(yīng)采取哪些政策。我的認(rèn)知也非常有限。

我的使命是讓更多國家和更多人對AI革命有一個基本了解，了解它會帶來怎樣的風(fēng)險，從而讓更多國家和更多人積極地參與到討論中來。當(dāng)我們聽到更多意見，受到更多關(guān)注，擁有更豐富的世界觀，我們就能做出更好的抉擇。

目前，真正窺見全貌并手握決策權(quán)的人，并不是能代表普羅大眾的人。他們大多是大型人工智能公司的領(lǐng)導(dǎo)者，這對人類來說非常危險。這就是我的初衷。我希望大家能受到激勵，并積極地參與到討論中來。因為有關(guān)AI的討論關(guān)系著你們的未來，關(guān)系著所有人的未來。

“人類簡史系列”白金紀(jì)念版

點擊卡片，即可購買

-End-

2025.4.9

編輯：醒醒 | 審核：孫小悠