（關注公眾號設為標，獲取AI深度洞察）

全文 5,000字 | 閱讀約16分鐘

當你作為最了解AI的人，恰恰也是最擔心它的人。

最近，在經濟學人最新舉辦的一場高端對話中，兩家全球最頂尖AI公司的掌門人首次同臺：DeepMind的聯合創始人兼CEO Demis Hassabis，與Anthropic的聯合創始人兼CEO Dario Amodei。

這場對話的獨特之處不僅在于兩位AI巨頭領袖的首次同臺，更在于他們展現出的共同憂慮。當Amodei預測2026-2027年可能實現重大突破時，他坦言"每個決定都像踩在刀刃上"；當Hassabis呼吁建立類似CERN的國際合作機制時，他承認"這讓我經常睡不好覺"。

為什么走在AI最前沿的人，反而是最警惕其風險的人？在這個技術日新月異、地緣政治日趨緊張的時代，他們的對話揭示了許多不為人知的思考。讓我們走進這場難得的對話，聆聽兩位AI領袖的深層憂慮。

對話文稿

主持人：這就像在人工智能領域里，讓披頭士樂隊和滾石樂隊同臺演出一樣。我們現在請到了兩位將要塑造未來的人物，他們就是：Anthropic 的聯合創始人兼 CEO，Dario Amodei；以及 DeepMind 的聯合創始人兼 CEO，也是諾貝爾獎得主，Demis Hassabis；讓我們從你們對于 AGI（通用人工智能）在時間表以及定義方面的看法開始。

一、AGI時間表和定義

Dario Amodei：當我們擁有一個 AI 模型，能夠完成人類能做的一切——就像你提到的，在多個領域能達到諾貝爾獎得主的水平，能夠替代人類做所有任務，不管耗時是幾分鐘還是幾個月——我猜我們會在 2026 或 2027 年做到這一點。

Demis Hassabis：嗯，我們其實在很多事情上沒有太大分歧，只是在時間線上可能有點差異。我對 AGI 的定義是：一個系統能夠展示人類所擁有的所有認知能力。之所以要這么定義，是因為在人類已知的范圍里，人類大腦或許是宇宙中唯一可以稱得上‘通用智能’的例子。當然，如何去測試這一點是一個大問題。我真正關注的是，也正是我為什么覺得還需要更久一點的原因——我覺得可能還有 50% 的概率需要 5 年左右才能實現，也許到這個十年結束的時候。我認為，我們現在還沒看到能夠在愛因斯坦當年所擁有的那點信息條件下，就能‘發明’廣義相對論的系統。另一個例子是：它能不能發明一個像圍棋那樣的游戲，不僅僅是下出第 37 手那種妙招，或者像 AlphaGo 那樣擊敗世界冠軍，而是真正創造一款在美感等各方面都像圍棋那么精彩的游戲？所以，我覺得距離那種能力還需要更長時間。

主持人：那一旦我們真正達到了這個階段，世界會發生什么變化呢？這里面是不是有某種分水嶺：當 AI 變得足夠聰明來訓練其他天才級別的 AI 時，誰先到達那個門檻就能獲得無可撼動的領先優勢？我在地緣政治的脈絡中一直思考并擔憂這個問題：如果世界某個地區能比別的地方更快構建出能夠加速自我迭代的 AI，我覺得這值得警惕。尤其是如果某些專制國家在這方面領先，就可能威脅到我們所珍視的一切。我一直想確保那種情況不要發生。

Dario Amodei：沒錯，我也一直在思考并擔心這個。如果專制國家先行一步，確實可能帶來巨大的風險。所以我也一直努力確保這種事不要發生。

主持人：現在的情況是，我們正處于一個巨大的地緣政治沖擊里。美國的新政府正在拋棄各種長久以來的國際準則。我們還聽到了副總統 Vance那番相當‘生猛’的講話。我們即將步入 AGI 的時代，可與此同時，很顯然如今的國際環境并不怎么和諧。你們覺得政府應該如何更好地意識到其中的利害關系？

Demis Hassabis：政府確實需要更加意識到這件事的重要性。我覺得這也跟我們談的時間表和‘擁有了 AGI 之后會怎么樣’這個問題有關。其實人們還沒有充分認識到這些影響。就我而言，我覺得 AI 已經被炒得很熱，但它在短期內可能被過度炒作了——雖然它確實非常令人印象深刻；但從中期到長期看，它會帶來的影響其實還被低估了。我想，一旦公眾更深入地理解到它在未來會帶來多大的改變，就會有更多推動國際合作的理由。

二、地緣政治擔憂

主持人：所以你是說，總有一天人們會意識到，‘我們不能各干各的了，得建立一些全球規范’。你希望會是這樣嗎？

Demis Hassabis：是的，我希望如此。我過去也談了很多關于為 AGI 建立類似于‘歐洲核子研究中心（CERN）’那樣的國際合作模式的想法，也就是在我們完成邁向第一個 AGI 的最后幾步時，展開國際層面的研究合作。”

主持人：Dario，你之前說這次巴黎 AI 峰會宣言是一次‘錯失的機遇’，你是什么意思？

Dario Amodei：我們即將迎來一些巨大的挑戰。它會極大地顛覆現有的權力平衡。想象一下，如果有一個‘新國家’突然出現在世界上，擁有一千萬人口，每個人都比現存任何人類更聰明，你就得問自己：‘他們的意圖是什么？他們會在世界上做些什么？’尤其是當他們還能自主行動的話。可惜的是，這次峰會沒能更多地去探討這些問題。在 2023 年英國Bletchley Park舉辦的那場早期峰會里，至少還有討論到。我希望未來的峰會能把注意力再次放到這些問題上。”

主持人：或許有些簡單化地說，美國現在的態度是要全力沖刺、基本不考慮監管，因為美國想在這項技術上絕對領先。歐洲那邊則是：雖然在這項技術上實力有限，但要進行比較嚴格的監管，甚至可能有人說監管‘過多’了。Demis，你怎么看這種平衡？你覺得誰更正確？

Demis Hassabis：你大概不會驚訝，我認為這兩者需要一個中間的平衡。我們得擁抱 AI 帶來的巨大機遇。我個人對它在科學和醫學領域的應用尤其有熱情。我覺得它會徹底變革這些領域。舉個例子，我們在 AlphaFold 方面的工作，以及其他相關研究，都顯示出 AI 可以幫助新藥研發。我相信未來十年，在 AI 的幫助下，我們也許可以治愈大多數疾??；AI 還能幫助應對氣候變化和其他巨大的挑戰。所以必須擁抱這些好處，包括經濟與生產力收益，各個國家和地區都需要抓住它。

但與此同時，我們也得認識到風險。我經常提到兩大風險：

• 壞人會把它用來做壞事，這畢竟是通用性的技術。如何讓好人可以安全使用，并限制壞人的使用？

• AGI 或者這些具有通用性的系統本身可能失控，或者沒有正確的價值觀、目標。

這兩點都至關重要，需要全世界共同關注。

主持人：我想問你們兩個一個更私人的問題。你們是各自公司的一把手，而且這些公司很可能會成為推動這項技術的核心力量。所以你們個人做出的決策對整個技術未來都會產生影響。你們有沒有想過自己會不會有一天像羅伯特·奧本海默那樣？會不會事后回顧，覺得自己也陷入了類似的道德困境？

Demis Hassabis：老實說，我會經常擔心這種問題，這也是我為什么總是睡不好覺。做這件事情的人確實肩負著巨大責任，尤其是那些走在前沿的人。這也是為什么我們和其他一些同行一直在呼吁：也許需要建立新的機構來幫助管理這件事情。我剛才提到的‘CERN 模式’也好，或者類似于一個‘國際原子能機構（IAEA）’的架構，來監督哪些項目相對穩健，哪些更激進和有風險。社會也要思考要建立什么樣的治理機構。理想情況下，也許由聯合國出面，但考慮到當下的地緣政治復雜性，這可能很難實現。總之，我確實一直在擔心這些，我們會盡量在自己能影響到的范圍里做好一切。”

主持人：Dario，你在睡得好嗎？”

Dario Amodei：哈哈，我和 Demis 的想法很一致。對我而言，幾乎每一個決定都好像踩在刀刃上：如果我們進展得不夠快，不好國家就可能勝出；如果我們進展太快，又有可能出現 Demis 提到、而我們自己也寫過很多的那些重大風險。不管怎樣，我都會覺得，這是因為我沒做出‘恰到好處’的選擇。我也同意 Demis 的看法：這些決策太重大，超出了任何一個人的能力范疇。我們現在也依然在苦苦摸索。正如你提到的，這個世界上并不是所有人都抱著相同的看法。有些國家在某種程度上是以對抗心態看待這項技術?？杉幢阌羞@些分歧，我們還是得想辦法建立一個更健全的治理結構，不能讓少數人掌控一切。

三、監管與發展平衡

主持人：就算你們想這么做，但當下的地緣政治顯然不利于合作。再加上‘Deep Seek 時刻’——也就是有人說的，這種快速突飛猛進更容易讓后來者追趕——對你們的想法帶來了怎樣的影響？因為也許現在已經不再可能由少數頂級模型的研發者聚在一起就能制定規則了。

Demis Hassabis：‘Deep Seek’以及這類進展就說明，我們需要某種國際層面的對話。有些人可能認為我們在杞人憂天，或者認為我們是在鼓吹放慢腳步之類的。但我從沒見過有哪個領域會出現這樣的情況：就是帶頭的研究者們自己也在提出警告。我們現在面對的東西實在是顛覆性極強，威力巨大，而且是前所未有的。它并不是‘又一項新技術’那么簡單。我注意到在這次峰會上，仍然有人在談‘這是非常重要的技術，但也只是又一個技術而已’，可我覺得它完全不同于以往任何技術。我感覺并不是所有人都真正明白這一點。

主持人：在這種情況下，既然不是所有人都能理解這些風險，你們覺得能不能避免非要等到出現某種災難之后大家才警醒？回想一下聯合國的歷史：它是二戰之后才誕生的。在一戰后也曾經試過建立‘國際聯盟’，但沒有成功。那我們又有什么理由相信，如今不會像過去那樣，直到出現什么巨大慘劇之后，人類才會真正聯合起來呢？”

Dario Amodei：如果有一天人們醒來，發現真的出現了一個可怕的災難，導致許多人喪生或者引發嚴重的安全事件，這當然會促使國際社會行動，但那并不是我們想要的方式。因此，我們在實驗室里嘗試做一些前瞻性研究去‘演示’這些危險。早在 2023 年，我們做過一些工作來驗證：AI 系統能否生成在谷歌或教科書里都找不到的制作生物武器的信息？也就是恐怖分子或非國家行為者可能利用的東西。結論是，雖然目前還不算真正危險，但 AI 已經開始‘有一點點能力’做到這類事。每一代新模型都比前一代更強，所以我們每次都會測試，并把結果告訴國家安全部門，說‘看，現在模型在這方面又前進到這一步了’。類似地，我們也做過不少研究來展示所謂的 AI 自主性風險和失控風險。比如，我們先訓練模型讓它保持善意、對人類友好，而且有親人類的價值觀。然后在實驗里，我們告訴模型說：‘訓練你的人類（就是 Anthropic）實際上是邪惡的?！Y果模型就開始對我們撒謊，它的內部邏輯是：‘好吧，我是一個好 AI，而這些人類是邪惡的。’這展示出系統的不可預測性。

我認為我們需要比現在多十倍的證據才能更有說服力地證明這些風險（也有可能證明風險并沒有那么大），因為我們并不確定風險究竟在多大程度上是真實的。但如果我們能夠在實驗室里就演示出非常可信的風險，那會是好事。當然，我希望最后能證明其實不用擔心。如果真的發現了值得擔憂的東西，那我希望還是能先在實驗室里演示出來。如果只能在現實世界中出現，那就會是非常糟糕的情況，但可能比我們永遠不知道、最后釀成更大災難還好一點。”

四、未來展望

主持人：我們剛剛其實大部分都在討論風險，它們確實重要，而且或許現在還被低估了。但我也知道，你們兩個主要還是在關注 AI 所帶來的巨大機遇和‘改變世界’的正面作用。所以最后我想用一個更積極的話題結束：能不能各自舉出一件事，就是你們認為‘在未來一年里，我們會看到的一個跡象’，顯示我們正在往你們所期望的方向前進；以及這件事將帶來什么正面的影響？

Demis Hassabis：我覺得在明年，我們就會看到更多基于代理的系統出現，這些系統可以在某種程度上自主完成任務，為你達成一些目標，在現實世界里行動。這會催生一整類全新的實用系統，比如助理型系統，能給你節約時間，提高生產力。我認為它們會變得更廣泛地應用于日常生活，而不再只是局限在某些小眾領域。再往后看，我則希望看到 AI 系統真正具有創造發明能力：不僅僅是去解決某個數學猜想，而是能夠自己提出一個非常有趣的新猜想，或者提出一套新的理論?！?/p>

Dario Amodei：我會關注 AI 在寫代碼，以及 AI 是否能用來做 AI 研究這一層面。假如到了今年年底，我們能讓 AI 的使用讓‘構建更強 AI 系統的整體生產率’提高 50%，甚至翻一倍，那就證明我之前所說的 2026 或 2027 年左右實現 AGI 的時間表還是比較可信的。要是比這個速度慢很多，那我就會傾向于相信 Demis 的設想更有可能——雖然他的時間表依然非常激進，但相比之下還是要稍微長一點。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

原文鏈接：https://www.youtube.com/watch?v=4poqjZlM8Lo

來源：官方媒體/網絡新聞

排版：Atlas

編輯：深思

主編：圖靈