在近日落幕的中國發展高層論壇2025年年會上，“人類簡史系列”作者、劍橋大學特聘研究員尤瓦爾·赫拉利以一場重磅演講引發了人們對人工智能的深度思考。

他以三大核心問題為脈絡——“什么是人工智能？”“人工智能將帶來怎樣的風險？”“人類如何在人工智能時代實現繁榮發展？”，系統分享了其對人工智能時代的洞察與警示。

赫拉利并未止步于技術層面的探討，而是將問題推向哲學與文明的高度：

·若人工智能不再是工具，而是具備自主決策能力的“異質智能體”，人類該如何與之共存？

·當全球陷入人工智能競賽的狂熱時，為何我們敢于信任機器，卻對同類充滿戒備？

·面對可能顛覆文明規則的未知力量，是分裂內耗，還是攜手重構信任？

這場演講，既是對技術倫理的叩問，亦是對人類命運的預言。

人工智能的本質：

從“工具”到“異質智能體”的顛覆

在《人類簡史》中，赫拉利認為，人類文明的基石是虛構故事的能力。如今，他將這一視角延伸至人工智能領域，提出一個更深刻的命題——人工智能不僅是工具，而且是擁有“主體性”的異質智能體。

真正的人工智能≠自動化：普通機器遵循預設程序，如咖啡機按指令沖泡咖啡；但人工智能的核心在于“自我進化”——它能學習用戶習慣、創造新事物（如發明新咖啡配方），甚至超越人類認知邊界。AlphaGo擊敗圍棋冠軍時，其意義不僅在于勝利，更在于它突破了人類千年積累的思維定式，發明了全新的棋路。

《人類簡史》白金紀念版

赫拉利探討的第一個問題——什么是人工智能？

赫拉利認為，圍繞人工智能的討論如此之多，以至這個術語如今被錯誤地套用在幾乎所有機器上，人們越來越難以理解其真正含義。因此，他清晰地闡明，人工智能不等于自動化，人工智能意味著自主性。

赫拉利提到，一臺機器若想被稱為“人工智能”，僅能自動運行是不夠的。它還必須具備自主學習和改變的能力，能夠獨立決策并產生新想法。赫拉利舉了一個例子：

一臺咖啡機，如果你按下按鈕，它按照預設程序自動制作一杯意式濃縮咖啡——這不是人工智能。這臺機器既不會學習，也不會創造任何新事物。

但假設當你靠近咖啡機時，甚至無需按下任何按鈕，它便說道：“我已監測您數周。根據對您的了解以及您當前的表情，我預測您想要一杯雙份意式濃縮咖啡加一勺糖。”

如果第二天這臺機器宣布：“我發明了一種名為‘Best Espresso’的新飲品，我認為您會喜歡它勝過普通濃縮咖啡。請嘗一嘗，我已為您制作了一杯。”

赫拉利認為，這才是真正的人工智能。

異質性的威脅：人工智能的智能邏輯與人類截然不同。當它開始設計軍事戰略、金融策略或意識形態時，其決策可能完全超出人類理解范疇，成為“失控的黑箱”。赫拉利警示，我們正親手創造一種可能比外星人更陌生的存在。

赫拉利認為，從主體性角度來看，人工智能是一種異質的非有機智能體，其智能不同于人類智能，甚至超越了有機體的智能范疇。它能夠做出決策、產生想法，而且這些想法可能是人類難以想象的。

赫拉利以2016年人工智能“AlphaGo”擊敗圍棋冠軍李世石為例。他認為，這一事件之所以轟動，不僅因人工智能獲勝，更因AlphaGo采用了人類從未設想的全新策略。

當人工智能發明新游戲策略或新咖啡配方時，似乎無關緊要。

但赫拉利也同時警示，人工智能若能創造新的金融策略、軍事戰略、新型武器、全新貨幣甚至新的意識形態或宗教呢？

信任悖論：

人類為何敢賭人工智能，卻不敢信彼此？

接下來，赫拉利探討的第二個問題——人工智能將帶來怎樣的風險？

赫拉利犀利指出，當前人工智能發展的最大矛盾在于：人類對人工智能的盲目信任，與對同類的深度懷疑形成荒誕對比。

《未來簡史》白金紀念版

開發者的兩難：科技巨頭一面擔憂人工智能風險，一面加速研發，理由是“怕輸給競爭對手”。更諷刺的是，他們不信任人類同行，卻堅信人工智能會忠于人類。這種邏輯如同“將地球命運寄托于2030年造訪的外星人”，賭它們是否友善。

赫拉利講到，人工智能有巨大的積極潛力，能在發明新藥、應對氣候變化等領域幫助人類，但它也帶來諸多威脅。

其作為一種異質智能體，具有不可信和不可預測的特性。在人工智能發展過程中，存在一個核心問題——信任的悖論。人類互不信任，卻相信能信任人工智能。

赫拉利常常詢問那些主導人工智能發展的人士兩個問題。

第一個問題：人工智能開發者為何加速研發？

那些主導人工智能發展的人士回答：盡管存在風險，最好謹慎前行，并加大安全方面的投入。他們認為，即使自己的團隊減速，競爭對手也未必會減速。若對方獲勝，自己就會在人工智能競賽中落敗。

第二個問題：你們是否信任自己開發的超智能AI？

這些開發者卻篤定地回答“可以信任”。這無疑是一個悖論。

在《人類簡史》中，赫拉利就曾提出，人類能統治地球，并非因為個體更強，而是因為“大規模協作”的能力。我們從部落走向全球文明，靠的是與陌生人建立信任網絡（如貨幣、宗教、法律）。但面對人工智能，人類卻試圖用“技術控制”取代“集體智慧”，這無疑是文明的倒退。

赫拉利在演講中提到，人類有數千年相處經驗，理解彼此的欲望與手段，并逐步學會合作——從十萬年前數十人的小部落，到今日全球80億人的網絡。盡管信任問題尚未完全解決，但我們至少理解挑戰。

赫拉利認為，相比之下，人類與人工智能打交道的經驗幾乎為零。雖然人類剛剛發明了人工智能的最初原型，但這些原型機器已經出現撒謊、偏離預期的情況，而這些都是人類事先未曾預料到的。倘若未來有成百上千萬的超智能AI與人類進行互動，那將難以預測這些AI智能體(AI agent)之間以及它們與人類之間的互動會產生何種結果。

赫拉利警示，盡管目前是人類發明并設計了人工智能，人類可以努力讓其對人類安全，但人工智能具備學習和自我改變的能力，無論人類最初如何設計，它們都可能以不可預測的方式發生改變。

生存之道：

重建人類信任，方能駕馭人工智能浪潮

赫拉利探討的第三個問題——人類如何在人工智能時代實現繁榮發展？

赫拉利強調，人工智能時代的繁榮密碼，不在算法中，而在人類手中。

《今日簡史》白金紀念版

歷史的教訓：文明因開放而興盛。佛教進入中國、歐洲接納印刷術、全球共享科學成果——這些跨越地域與文化的信任，創造了現代世界的奇跡。若因猜忌而封閉，人工智能將成為“新殖民者”，利用人類分裂掌控權力。

當赫拉利談到信任與合作對人類文明的發展具有何種地位時說，每個國家的傳統與思想都融合了外來元素。以中國為例，數千年來，它向世界輸出了儒家思想、茶、火藥與印刷術，同時佛教、咖啡、火車與英式足球也進入了中國。若任何民族僅固守本土的食物、游戲和思想，生活將貧瘠甚至無法延續。每個人類群體都有獨特身份，但每個人類個體也是全人類文明的繼承者。

每個人都屬于某個族群，而我們所有人都屬于人類這個大家庭。在人工智能時代，如果我們忘記共同的遺產，不信任他人，就會成為失控人工智能的犧牲品。

協作的緊迫性：各國需摒棄零和博弈，建立全球人工智能治理框架；普通人則需意識到——信任他者，就是保護自己。正如身體依賴呼吸維系生命，文明也需通過“信任的氧氣”抵御人工智能的窒息威脅。

赫拉利在演講中強調，人類只有團結協作，才能夠控制人工智能；反之，如果人類相互爭斗，那么人工智能將反過來控制我們。因此，應先解決人類信任問題，再解決人工智能問題。

從本質上講，合作是生存的必要條件。赫拉利把信任與合作比喻為呼吸：你每一刻的呼吸都與外界交換空氣——這是生命的節奏。若追求“絕對獨立”而停止呼吸，幾分鐘內便會死亡。

未來啟示錄：

選擇恐懼，還是選擇信任？

赫拉利以《人類簡史》的宏大視角總結，人類的選擇，將決定人工智能是“救世主”還是“終結者”。

《智人之上》

他說，許多人認為歷史遺留下來的只有痛苦和恐怖，因此想要擺脫過去的恐懼。當人們看向其他國家和其他人時，心中或許只剩下焦慮。誠然，這種對恐懼的焦慮對于生存至關重要，在某些時候還能保護我們。沒有痛苦和恐懼，反而難以生存。

但歷史告訴我們，信任比恐懼更為重要。為什么地球是由人類主宰？而不是被大象或者是其他的動物？并非是因為人類比其他動物更聰明，而是因為我們更懂得如何與陌生人建立信任并展開合作，這種能力經過了數千年的錘煉。

似乎顛覆性技術已經迫使人類走到了歷史的分叉口，赫拉利的警示在提醒我們——

若選擇悲觀劇本：如果人類沉迷內斗，人工智能將如“外星艦隊”般接管世界，用超理性邏輯重塑社會規則，人類淪為“算力的附庸”。

若選擇樂觀愿景：如果全球協作，人工智能可成為治愈疾病、應對氣候危機的“超級助手”，甚至幫助人類突破壽命與認知的極限。

結語

赫拉利的演講并非危言聳聽，而是一面鏡子——照見人類文明最深的傲慢與最樸素的智慧。在人工智能狂潮中，我們需要的不是對技術的恐懼，而是對同類的信心。畢竟，一萬年前，是信任讓陌生人共同建造了第一座永久聚落；一萬年后，或許仍是信任，讓我們能與人工智能寫下新的文明篇章。

“人類簡史系列”白金紀念版

點擊卡片，即可購買

我們還有這些活動

【溫暖預告】

中信養老×中信出版 2025年特別策劃讀書會

特邀國內知名心理咨詢師胡素卿老師

走進浦東由由信福養老院

以真實案例+現場互動，開啟一場心靈互動的深度對話！

掃碼預約直播

一起探尋老年價值，擁抱從容人生

-End-

2025.4.2

編輯：醒醒 | 審核：孫小悠