全文 11,000字 | 閱讀約42分鐘

　　導語：2025年達沃斯世界經濟論壇上，Google DeepMind首席執行官Demis Hassabis不僅分享了獲得諾貝爾獎的感受，更首次確認：第一批由AI設計的藥物將于2025年底進入臨床試驗階段。在這場由英國金融時報主持的對話中，Hassabis詳細闡述了AI在醫藥研發領域的突破性進展，并就AGI發展時間表、AI安全治理等話題分享了深刻見解

　　【核心要點預覽】

　　首款AI設計藥物將于2025年底進入臨床試驗

　　AlphaFold已被250萬研究人員使用,預測了2億種蛋白質結構

　　目標是將新藥研發周期從10年縮短至1年

　　預測AGI或將在5-10年內實現

　　呼吁建立全球性AI監管框架

　　昨天2025年的達沃斯一場專訪中,當諾貝爾化學獎得主、Google DeepMind首席執行官Demis Hassabis走上世界經濟論壇的講臺時，他帶來了一個振奮人心的消息：AI制藥即將邁出關鍵一步。

　　在這場由英國金融時報主持的深度對話中,Hassabis首次確認,第一批由AI設計的藥物將于今年年底進入臨床試驗階段。這一突破性進展意味著,AI不再僅僅是實驗室里的研究工具,而是真正開始改變醫藥研發的進程。傳統新藥研發往往需要5到10年甚至更長時間。而通過AI技術,DeepMind將這一周期縮短至1年。為此,他們已與禮來(Eli Lilly)和諾華(Novartis)展開合作,重點關注腫瘤學、心血管疾病和神經退行性疾病等領域。

　　Hassabis表示這些進展很大程度上得益于AlphaFold的突破。作為一個能夠預測蛋白質三維結構的AI系統,AlphaFold已經被250萬名研究人員使用,預測了全部已知的2億種蛋白質結構。

　　采訪文稿

　　主持人 :在你獲得諾貝爾獎之前，你已經在這個領域取得了巨大成就。那么，我們從這里開始吧。當你得知獲獎消息時，是什么樣的感覺？

　　Demis Hassabis：老實說，這一切都讓我感到非常不真實，即使到現在，我仍然覺得像在夢里一樣。這對我來說是一生的夢想成真，我進入人工智能領域的初衷就是為了推動科學進步，把 AI 作為一種終極工具來推進科學研究，尤其是對人類健康的貢獻，比如新藥研發，而 AlphaFold 在這一領域至關重要。

　　一、AlphaFold的顛覆性影響

　　主持人 :你能簡單介紹一下 AlphaFold 是什么嗎？

　　Demis Hassabis：當然。AlphaFold 解決的是蛋白質折疊問題。我們之所以獲得諾貝爾獎，就是因為這個項目。它能夠僅憑蛋白質的氨基酸序列或基因序列，就預測出其完整的三維結構。這非常重要，因為蛋白質是生命的基本構成部分，所有生物機能都依賴于蛋白質。蛋白質在體內會折疊成特定的三維結構，而這個結構決定了其功能。因此，如果我們想研究疾病的機制，或者了解生物如何運作，甚至嘗試設計新的藥物，我們就必須精準掌握蛋白質的三維結構。AlphaFold 解決了這一關鍵問題。

　　主持人 :你是如何慶祝這一成就的？

　　Demis Hassabis：其實這有個有趣的故事。我們是在 10 月 9 日突然得知這個消息的，這完全出乎意料。因為通常來說，諾貝爾獎的授予可能會在科學突破后的 10 年、20 年，甚至 30 或 40 年之后，而我們這次僅用了 4 年。恰好第二天，我的幾個朋友正好在城里，其中包括一些世界頂級的國際象棋和撲克選手。我小時候的一位朋友正在舉辦一個撲克+國際象棋之夜，邀請了一群世界冠軍。我原本就計劃去那里，所以最后成了一場超級激烈的家庭撲克賽，可能是世界上最強的家庭撲克局之一。那天晚上真的很特別，Magnus Carlsen 也在場，氣氛非常熱烈。哦對了，我們拍了一張有趣的照片，我應該發到 X（前 Twitter）上分享一下。（笑）當然，在那場撲克賽中，沒人會故意讓別人贏，競爭還是很激烈的。

　　主持人 :你剛才提到，通常來說，這種成就的認可需要很長時間才能獲得，而這次獲獎卻異常迅速。在你看來，這是否也是對 人工智能整體 的一種認可？畢竟，你的諾貝爾獎是與其他兩位人工智能領域的科學家共同獲得的。

　　Demis Hassabis：是的，我認為這正是諾貝爾委員會傳達的信息。他們今年的選擇不僅包括了物理學獎中與 AI 相關的工作，還包括 Geoffrey Hinton 和 John Hopfield等人所做的基礎性研究，這些都是當之無愧的成就。從某種程度上說，這可以看作是人工智能領域的“成年禮”，標志著 AI 終于成熟到可以真正 幫助解決深層次的科學問題。此外，諾貝爾獎委員會通常不會僅憑研究的 理論突破 頒獎，而是要看到其 實際影響。畢竟，諾貝爾的遺囑中明確提到，獎項應授予“對人類有巨大貢獻”的研究。因此，他們往往會等待這些成果在現實世界中展現出實際影響后才做出決定。這通常需要幾十年時間。但在 AlphaFold 的案例中，影響力來得極快，這不僅對 DeepMind 團隊來說是一個巨大的認可，也對 Google 整體而言是一個肯定。

　　主持人 :能具體談談 AlphaFold 產生的影響嗎？

　　Demis Hassabis：當然，舉幾個簡單的數字：AlphaFold 目前已有 250 萬 名研究人員在使用。我們已經預測了 全部已知的 2 億種蛋白質 的結構，而如果采用實驗方法來測定，平均 一個博士生需要整個博士生涯才能解析一個蛋白質。換句話說，解析 2 億個蛋白質的結構 原本可能需要 10 億年的博士生時間，但我們將這項成果免費開放給全球科學界。這正是我所說的 “數字速度的科學” —— 傳統上，科學突破的應用推廣通常是一個漫長的過程，但 AI 技術可以極大地加速這一進程，特別是在醫學和健康領域。

　　主持人 :聽起來令人興奮。那么你們現在正在進行的重大研究突破有哪些？你可能不便透露具體的疾病研究方向，但有哪些領域你認為會有突破？

　　Demis Hassabis：目前我們在兩大方向上投入了大量精力。

　　第一，我們在基礎研究方面 持續推進，不斷改進 AI 模型，以更好地理解 生物學、化學、物理、數學，甚至是 天氣預測。這些模型都是基于我們的通用人工智能系統構建的。比如，我們正在研究 AlphaFold 3，它將能夠處理生物系統的 動態變化，進一步拓展 AI 在生命科學中的應用。

　　第二，我們也在 推動實際應用。最近，我們成立了一家新公司 Isomorphic Labs，專門利用 AlphaFold 技術，結合更多 AI 工具來推進 藥物研發。

　　但蛋白質結構預測只是藥物研發的 一部分，要找到合適的藥物，我們還需要解決許多 相鄰問題，比如 如何設計藥物分子、如何確保它不會有毒副作用、如何讓它具有良好的溶解性和吸收率 等。這些挑戰的復雜度 不亞于 AlphaFold 的蛋白質結構預測。因此，我們需要構建一系列 同樣復雜 的 AI 模型，把所有這些因素整合在一起，最終才能 徹底變革 藥物研發流程。

　　二、首款AI設計的新藥

　　主持人 :傳統上，新藥研發的周期非常長，通常需要 5 到 10 年，甚至更長的時間。你們的 AI 技術是否能加速這一過程？

　　Demis Hassabis：是的，我們的目標是 讓整個藥物研發過程加速 10 倍，這將是醫學領域的 一場革命。如果我們能將新藥研發的周期從 10 年縮短到 1 年，那將極大地改變人類健康的未來。

　　主持人 :那么，你認為 第一款由 AI 設計的藥物 什么時候會真正進入市場？所以，你們在研發 AI 生成的新藥？

　　Demis Hassabis：是的，AI 生成藥物已經成為研發的核心部分。我們與 禮來（Eli Lilly） 和 諾華（Novartis） 建立了重要的合作伙伴關系，這些合作我們去年已經對外宣布了。目前，我們正在與他們一起推進一些新藥項目，尤其是一些非常棘手的目標——他們的化學家們一直無法找到合適的候選化合物，而我們喜歡這樣的挑戰。此外，我們還有自己的內部藥物研發項目，覆蓋了多個重大治療領域。我們的 AI 工具具有 通用性，因此可以應用于任何疾病研究。但目前，我們重點關注 腫瘤學（Oncology）、心血管疾病（Cardiovascular）、神經退行性疾病（Neurodegeneration） 等主要疾病領域。

　　主持人 :你是說，到今年年底，你們的第一批 AI 生成藥物就會進入臨床試驗階段？

　　Demis Hassabis：是的，到 今年年底，我們將有第一批藥物進入臨床階段。

　　主持人 :（驚訝）這可是一條重大新聞！我希望《金融時報》能搶先報道，而不是讓其他記者捷足先登。

　　三、谷歌的AI產品系列

　　主持人 :我知道你的主要興趣在于科學研究，但現在你不僅負責 Google DeepMind，還負責 Google 整個 AI 領域的工作。從去年開始，Google 在 AI 領域的競爭非常激烈。去年很多人認為 Google 仍然 落后于 OpenAI，但今年，你們實現了多個突破。對你來說，最重要的突破 是哪個？

　　Demis Hassabis：我們在過去一年里取得了 巨大進展，并希望在此基礎上繼續推進。你可能還記得，去年年底，我們發布了一系列全新的 AI 模型，包括 Gemini 2.0，以及其更小但極其高效的 Gemini 2.0 Flash 版本。這一模型的規模雖然較小，但性能極其強大，尤其適用于 大規模用戶群體，支持 數十億用戶的應用場景。

　　主持人 :是的，我看到它在各種評測中表現得非常出色。

　　Demis Hassabis：是的，Gemini 2.0 在評測中的表現確實很出色，我們還在研發更大的模型，并將在不久后發布。除此之外，我們還開發了一些 非常前沿 的 AI 模型。例如，我們推出了 V2 視頻生成模型，這可能是目前全球最先進的視頻生成 AI。

　　主持人 :V2 視頻生成模型有什么特別之處？

　　Demis Hassabis：它可以精確模擬 物理世界的動態，生成的畫面 極其逼真。例如，有一個測試標準聽起來可能有點搞笑，但它卻是評估 AI 視覺理解能力的重要基準之一——讓 AI 生成一段 切番茄的視頻。乍一聽可能覺得沒什么，但實際上 切番茄 是一個非常復雜的 AI 任務。因為你不僅需要正確地模擬 刀、手指、番茄 之間的空間關系，還要確保切下的番茄不會神奇地自己復原。而 V2 視頻生成模型已經可以 精準地 處理這些問題，這是我們目前最接近 世界模型（World Model） 的 AI 之一。

　　主持人 :你剛才提到 世界模型（World Model），它意味著什么？

　　Demis Hassabis：世界模型的目標是讓 AI 不僅能理解語言，還能夠 理解現實世界，包括 空間、時間、因果關系 等復雜信息。這是實現 通用 AI 助手（Universal Assistant） 的關鍵一步。我們目前正在開發一個名為 Project Astra 的 AI 助手，它仍處于 研究原型階段，目前正在進行內部測試（Trusted Tester Beta）。

　　主持人 :普通用戶 什么時候 可以使用這個 AI 助手？

　　Demis Hassabis：這取決于測試進展，目前仍有很多 研究難題 需要解決。但如果一切順利，我們預計在 今年晚些時候，會有一個版本向公眾開放。我對這個項目的發展方向感到非常興奮，尤其是我們已經在多個關鍵 AI 領域處于領先地位。

　　四、AI領域公司競爭

　　主持人 :讓我們談談 AI 領域的競爭。你的競爭對手最近推出了一款具備 推理能力 的現代大模型（LLM），那么 Gemini 2.0 具備推理能力嗎？你們如何在這一方面取得突破？

　　Demis Hassabis：是的，我們也有自己的 推理模型（Thinking Model），這是目前所有頂級 AI 實驗室都在重點研究的方向。核心問題是：如何讓模型在推理過程中不斷優化答案？目前的 AI 主要依賴 預訓練（Pre-training） 和 后訓練（Post-training），但在 推理階段（Inference Time），它仍然是一次性生成答案，而不是反復思考。但如果讓 AI 在推理過程中 回顧并修正自己的回答，甚至使用外部工具（如搜索引擎）來驗證答案的準確性，那么它的整體推理能力就會大幅提升。這是一種非常強大的方法，因為它可以減少當前 AI 模型常見的 幻覺（Hallucination） 問題。事實上，這一方法本身也有 擴展法則（Scaling Law），即：AI 進行的思考時間越長，答案的準確性就越高。

　　主持人 :所以這類似于 Google DeepMind 早期在 AlphaGo 里的方法？

　　Demis Hassabis：完全正確！其實，我們 早在十多年前 就在 AlphaGo 和其他游戲 AI 里 開創了這一研究方向。當時，我們所有的游戲 AI 都是 基于智能體（Agent），并且使用 搜索算法（Search） 來進行推理。如今，我們正在把這一方法應用到更復雜的任務中，比如 現實世界的推理。但這比圍棋或國際象棋 難得多，因為游戲規則是固定的、邏輯清晰的，而現實世界充滿了 噪聲和不確定性。例如，在游戲 AI 里，我們可以讓 AI 思考 100 步后得出最優策略。但如果 AI 的世界模型 只有 1% 的誤差，那么 推理 100 步后，誤差就會被無限放大，最終導致完全錯誤的結論。這也是當前 AI 在 長鏈推理（Long-Chain Reasoning） 方面遇到的最大挑戰之一。我們已經在思考如何讓 AI 進行更深度的推理了，這是目前 AI 領域最前沿的挑戰之一，也是 Google DeepMind 長期研究的核心優勢。我們正在不斷優化 AI 的推理能力，讓它真正能在復雜環境中進行 深度思考 和 可靠決策。

　　五、AI的幻覺問題

　　主持人 :這也是為什么我會關注 AI 的 推理能力（Reasoning）。當前所有人都在使用的大型語言模型（LLMs）都存在一個基本問題：幻覺（Hallucinations），我相信你肯定經常被問到這個問題。有一種可能的解決方案是，讓 AI 對自己的答案進行事實核查（Fact-Checking），但目前這種方法似乎并沒有被廣泛采用，為什么？

　　Demis Hassabis：其實，這正是我們目前在努力解決的關鍵問題。我們對 事實性（Factuality） 非常關注，而 Gemini 2.0 在這方面比之前的版本改進了很多。當然，這仍然是一個持續優化的方向，特別是對我們 Google 和 DeepMind 來說，事實性是極其重要的。此外，如果我們希望用這些 AI 真正推進科學研究，那么它們必須極度精準，不能憑空編造研究論文或引文等內容。因此，科學研究其實是測試 AI 事實性能力的 最佳試驗場。

　　目前，提升 AI 事實性的主要方法有幾種：

　　改進預訓練數據：在 預訓練階段（Pre-training），我們可以優化訓練目標，過濾掉錯誤信息，提高數據質量，從根源上減少幻覺。

　　結合外部工具進行事實核查：例如，我們可以讓 AI 在生成答案的同時 調用 Google 搜索 進行事實核查。畢竟，Google 搜索本身就是世界上最強大的事實查詢工具之一，因此在 LLM 內部嵌入搜索引擎是非常自然的解決方案。不過，AI 需要學會 何時調用搜索引擎，以及 在什么情況下應該進行事實核查，這仍然需要大量的訓練，并不是完全自動的過程。

　　增強 AI 的推理能力：如果我們給予 AI 更多的推理時間，并讓它有機會回溯自己的答案，甚至多次檢查，那么它的答案就會更加準確。這與人類的思維過程類似，思考時間越長，得出的結論往往越準確。

　　主持人 :有些人告訴我，幻覺其實也是創造力的一部分。你是否認同這個觀點？

　　Demis Hassabis：在某些特定領域，這種說法可能有一定道理。但關鍵在于是否是有意的。換句話說，我們希望 AI 的幻覺是可控的、可預測的，而不是隨機發生的。我們應該讓用戶能夠主動觸發 AI 的創造力，而不是讓 AI 無意間編造信息。比如，在 創造性寫作、藝術生成 等領域，適度的“幻覺”可能會產生新穎的想法。但在 醫學、法律、科學 等領域，幻覺是不被接受的。所以，我的觀點是，幻覺可以成為 AI 的一種功能（Feature），但不能成為缺陷（Bug）。我們需要一種方法，讓用戶可以選擇何時讓 AI 發揮創造力，而不是讓幻覺無意間影響 AI 生成的答案。

　　六、日常生活中AI應用

　　主持人 :說到大型語言模型（LLMs），你自己是如何使用 Gemini 的？你又如何告訴你的孩子去使用它呢？

　　Demis Hassabis：我的孩子們最喜歡用 AI 生成圖片（Image Generation） 這些創意工具，他們覺得很有趣。而我個人最常用的是 基于 Gemini 的研究工具，比如 NotebookLM。

　　主持人 :NotebookLM？能具體介紹一下嗎？

　　Demis Hassabis：當然。NotebookLM 是一個強大的研究工具，你可以把你感興趣的 論文、網站、文獻 放進去，然后 AI 會為你生成一檔 個性化的播客，用生動的方式講解這些內容。最初，我以為 AI 只是簡單地 總結信息并朗讀出來，但事實證明，如果 AI 之間互相討論和批評，效果會更好。這種交互式的方式極大地提高了信息的吸收效率。目前，NotebookLM 最新版本甚至允許用戶 實時打斷 AI 播客，直接向“主持人”提問，并引導討論方向。我幾乎每天都用它來快速掌握某個研究領域的基本概念，然后再決定是否深入學習。

　　主持人 :你過去一直強調，你們所有的研究最終都是為了 通用人工智能（AGI）。但我仍然想問，你認為 AGI 到底要解決什么問題？

　　Demis Hassabis：對我個人而言，我一直在思考的終極問題是：現實的本質是什么？從小時候開始，我就對宇宙的 終極奧秘 充滿好奇。我認為，我們對這個世界的理解仍然非常有限。通常，如果你對這些終極問題感興趣，你會去研究物理學，因為物理學試圖揭示宇宙的基本法則。而物理學確實是我在學校里最喜歡的學科之一。但后來，我讀了 Richard Feynman（費曼）、Steven Weinberg（溫伯格） 等偉大物理學家的著作后，我開始思考一個問題：也許，我們需要更強大的工具來幫助我們理解現實，即使是最聰明的科學家，也可能需要 AI 的幫助。

　　對我來說，人工智能就是我對這個終極探索的貢獻。如果我們真正想理解：

　　宇宙的物理法則

　　意識的本質

　　時間的概念

　　夢境為何存在

　　那么我們需要 AI 來協助我們。

　　主持人 :（笑）我很好奇，為什么不多一點人去思考這些問題呢？

　　Demis Hassabis：我一直在思考這些問題，我覺得這正是 科學和哲學的核心意義。

　　七、實現AGI時間表

　　主持人 :那么，按照你的預測，我們什么時候能真正實現 AGI？

　　Demis Hassabis：這取決于我們的研究進展，但我相信，我們正在 逐步接近答案。

　　主持人 :所以，從某種意義上來說，人工智能不僅僅是科學的問題，它也涉及哲學？

　　Demis Hassabis：是的，我個人非常熱愛哲學，我認為我們正處于一個需要新一代偉大哲學家的時代。如果有哲學家在聽這次采訪，我想強調，現在比以往任何時候都更需要思想家去思考我們即將走向的未來。要真正理解現實的本質，包括所有的物理法則，我們可能需要一個接近 AGI 級別的人工智能。

　　主持人 :那么，按照你的判斷，AGI 什么時候會實現？是 10 年？5 年？50 年？這方面的討論一直很多。

　　Demis Hassabis：我通常不會給出確切的時間表，因為這在很大程度上取決于你如何定義 AGI。但我們在 DeepMind 的定義一直非常一致，已經保持了十五到二十年。我們的觀點是，AGI 必須具備人類所有的認知能力，因為人類大腦是目前宇宙中已知的唯一“通用智能”實例。如果你要創造真正的通用智能，那么它至少要能夠完成所有人類能夠做到的事情，包括創造力等更高級的認知能力。按照這個定義，我認為我們距離 AGI 還有五到十年，也許還缺少一到兩個關鍵性突破。

　　主持人 :但誰應該來決定我們何時真正達到 AGI？是科學家、AI 研究人員？還是政府、社會？

　　Demis Hassabis：我認為，這個決定不能由某一個群體單獨做出，而應該是整個社會的共同決定。包括科技公司、學術界、公民社會、政府機構，以及最終會受到 AI 影響的所有人。在 DeepMind 和 Google，我們一直在努力與盡可能多的利益相關方進行交流。例如，我們組織 AI 科學論壇，并經常與英國皇家學會、美國國家科學院等機構保持溝通。但問題在于，我們目前可能還沒有合適的全球治理機構來協調這些討論。我希望有一個類似聯合國這樣的組織來主導全球 AI 監管討論，但目前全球在這方面的進展還不夠快。

　　主持人 :所以你認為，AI 監管需要一個國際性的框架，而不僅僅是國家層面的政策？

　　Demis Hassabis：是的，人工智能的影響范圍超越國界，任何一國的單獨行動都不足以有效管理它的發展和應用。因此，我們需要一個全球性的 AI 監管機制，類似于氣候變化方面的國際合作。我很高興看到 AI 領域的國際討論正在加速，例如英國的全球 AI 峰會、即將在韓國舉行的會議，以及下個月將在巴黎舉行的峰會。我會去參加巴黎的會議，因為我們需要加快這些全球討論的步伐，明確如何部署這些系統，讓它們造福人類，同時降低風險。

　　主持人 :在監管問題上，我們首先得弄清楚 AI 可能帶來的主要風險。你最擔心的是什么？

　　Demis Hassabis：總體來說，我最擔憂的主要有兩類風險。第一類是 AI 可能被不法分子濫用。由于 AI 是一種通用技術，它可以被重新配置，用于不同目的。而通用性越強的 AI，越容易被濫用。例如，它可能被用于生成虛假新聞和深度偽造內容，或者被用于自動化網絡攻擊，甚至涉及生物技術風險，比如 AI 設計新型病毒。這些問題是我們必須認真面對的。

　　主持人 :這也是為什么你不支持 AI 代碼完全開源的原因嗎？

　　Demis Hassabis：這個問題其實比“支持或反對開源”復雜得多。我們深度支持開放科學和開源社區，例如 AlphaFold 這個項目完全開源，所有研究人員都可以免費使用它來解析蛋白質結構。此外，現代 AI 產業中，大部分前沿研究都基于 Google DeepMind 過去十年的公開論文，比如 Transformer 和 AlphaGo 相關研究都是自由分享的。但與傳統技術不同，AI 是一種極其通用的技術，開源意味著無法撤回。如果 AI 以 API 方式提供，當發現潛在風險時，仍然可以關閉訪問權限，但如果 AI 完全開源，那就無法收回，一旦落入不法分子手中，就可能被惡意利用。因此，我們支持最大化 AI 的積極用途，同時也需要合理的安全機制，防止它被濫用。

　　主持人 :除了被濫用的問題，你還擔心 AI 可能會在某個時間點變得難以控制？

　　Demis Hassabis：這與 AI 的涌現能力有關。傳統技術，比如汽車發動機，是可預測的，我們可以在發布前徹底測試，確保它的功能不會超出預期。但 AI 并不是這樣，即使我們測試了六個月，也無法完全預測它在全球數十億人使用后會不會出現意外的新能力。例如，有可能某個聰明的開發者無意中發現了 AI 新的推理模式，從而導致它具備了原本不應該具備的能力。這是 AI 與任何以往技術不同的地方。即使 AI 研究團隊非常謹慎，AI 仍然可能在現實世界中表現出意想不到的能力。正是如此，這也是為什么 AI 監管如此復雜。我們目前的 AI 仍然只是狹義智能，但它正在迅速進化。當 AI 接近 AGI 級別時，風險可能會變得更大。我認為，我們已經過了“是否應該研發 AGI”的爭論階段，因為 AGI 遲早會被實現，問題在于我們如何確保它的安全發展。科技的歷史表明，如果某種技術是可能實現的，并且有價值，那么它最終一定會被推動實現。AGI 也是如此，關鍵是我們如何以負責任的方式推進它的發展。

　　主持人 :聽完你的分析，我感覺 AGI 真的近在眼前了。

　　Demis Hassabis：是的，未來十年，AI 可能會徹底改變世界，我們要確保它的發展是安全和有益的。所以我們必須直面這些問題，努力確保 AI 以最安全的方式進入世界。這也涉及到 AI 的自主性，以及應該如何設計 AI，國際社會是否能就此達成一致，因為 AI 其實有很多安全的設計路徑。如果你從 AGI 的設計空間來看，有許多方法可以讓 AI 變得可控、可理解，但也一定存在一些方法可能會讓 AI 變得難以理解、難以控制。我們現在需要的正是這方面的研究。但這不僅僅是一個技術問題。事實上，我甚至更樂觀地認為，只要有足夠的時間，足夠多的聰明人才，我們終究能解決這些技術上的挑戰。但更難的問題在于全球的地緣政治協調，比如如何避免“囚徒困境”或“公地悲劇”這樣的局面。

　　八、AI監管的復雜性

　　主持人 :這就把話題帶到了唐納德·特朗普。在過去 24 小時內，他已經退出了多個國際協議。你怎么看 AI 領域在未來四年內達成國際共識的可能性？看起來這種可能性微乎其微，而且很可能會出現去監管化，而不是加強監管。這讓你感到擔憂嗎？

　　Demis Hassabis：我認為我們還需要再看看這屆政府會真正做些什么，現在下結論還為時過早。不過，我對這屆政府中有許多深諳科技的人士感到欣慰。他們不僅理解 AI 發展的機遇，也深知其潛在的風險。很多我認識的人都清楚 AI 帶來的影響，不論是積極的還是消極的。所以我希望這能成為一件好事，因為他們對技術有足夠的認知，也能夠推動 AI 發展走上一條理性之路。我常說，我們需要在 AI 發展上做到既 大膽 又 負責任。我們必須大膽地抓住 AI 帶來的各種機會，例如推動經濟增長，提高醫療系統的效率，加速新藥研發，甚至在氣候變化等全球性挑戰上發揮作用。很多社會性難題，我實在看不出如果不引入 AI 這樣的前沿技術，我們還能如何解決它們。但與此同時，我們必須以科學的方法來指導 AI 發展的方向，確保 AI 以一種可控、合理的方式被部署。

　　主持人 :這很有趣，因為埃隆·馬斯克當初曾主張對 AI 發展設立暫停期，想要放慢進程，而現在他自己也成了競爭者，推出了 Grok。他不僅是 OpenAI 的競爭對手，而且可能會成為政府偏愛的合作方。你認為這是否會造成問題，甚至超越去監管化所帶來的影響？

　　Demis Hassabis：我確實很了解埃隆，早年我們是好朋友，也共事過一段時間。他是 DeepMind 早期的投資者，我們已經認識 12 年了。從最初開始，我們就一直在討論 AI 的發展方向，我甚至可以說，我當初讓他對 AI 產生了興趣。但現在 AI 的發展已經超越了單純的公司競爭、產品競爭的層面，我們談論的不是市場上的幾家企業，而是整個人類的未來，是人類的生存狀態和社會的走向。這才是 AI 發展真正關乎的核心問題，我認為有些人已經意識到了這一點，而更多人也應該開始意識到它的重要性。

　　有時候我會說，現在的 AI 討論中短期的炒作實在太多了。你每天在 X（前 Twitter）上都能看到各種關于 AI 的噪音，很多人說 AGI 明年就會出現，或者各種夸大的預測，似乎所有人都陷入了某種狂熱之中。但實際上，AI 在 中長期（5 到 10 年）的變革才是被嚴重低估的。這場技術革命的深遠影響尚未被充分認識，而我們目前對 AI 的討論仍然過于短視。

　　主持人 :這點確實很有趣，我也感到驚訝的是，AI 在企業中的采用速度并沒有想象中那么快。許多人在 ChatGPT 推出后的第一年里都覺得自己必須嘗試 AI，他們確實進行了一些實驗，但似乎還沒有真正找到適合的應用場景。

　　Demis Hassabis：是的，我也注意到了這一點。很多企業在過去一年里試圖探索 AI 的應用方式，但他們還沒有完全摸清該如何最大化利用 AI。這可能有幾個原因。首先，AI 本身仍然是一個快速演化的領域，很多企業可能會覺得技術發展太快，導致他們在投資 AI 方面變得猶豫。其次，雖然 AI 具備巨大的潛力，但要讓 AI 真正融入企業的核心業務流程，并不是一件輕而易舉的事。對于許多傳統行業來說，他們可能還沒有完全理解 AI 能為他們的業務帶來什么改變。

　　但我認為這種情況很快會改變。接下來的幾年，我們會看到 AI 在企業級應用上的大規模擴展，一些關鍵技術突破將使 AI 變得更加高效和易用。到那時，AI 將不僅僅是一個“實驗性的工具”，而是成為企業運營中不可或缺的一部分。

　　主持人 :如果一切進展順利，那將是一個令人驚嘆的世界。

　　Demis Hassabis：這是你所抱持的樂觀主義部分，你的科技樂觀主義幾乎無人能及。但在通往這個未來的過程中，我們必須謹慎前行。就像你之前提到的，實現 AGI 有很多不同的路徑，有一些方法能夠確保 AI 服務于人類，幫助我們實現那個美好的未來，我認為這將是一件了不起的事情。我甚至把它看作是“將人類意識擴展到宇宙”的一種方式，就像卡爾·薩根（Carl Sagan）所描繪的愿景一樣，我們可能正站在實現這一夢想的門檻上。然而，如果發展方向出現偏差，若是 AI 被不法分子濫用，或者 AGI 本身帶來了風險，后果可能會極其嚴重。因此，我們必須在樂觀與謹慎之間找到平衡點，整個社會和 AI 研究領域都需要認真思考如何引導這項技術的安全發展。這正是我們要面對的關鍵問題。不過，我依然對人類的聰明才智充滿信心。人類是極具適應能力的生物，我們的思維能力非凡。每當我想到，我們是如何依靠這樣一顆進化自狩獵采集時代的大腦，創造出現代科學與技術，我都會感到驚嘆。每次乘坐 747 飛往加州，我都會想，我們是如何造出這種龐然大物的？如果向遠古時代的祖先解釋，他們肯定無法相信。但事實是，我們做到了，我們已經走到了今天，所以我也相信，我們有能力解決 AGI 帶來的問題。

　　當然，這必須是在全球范圍內的合作下完成，并以正確的方法進行，而不是盲目推進。我們需要全球最頂尖的科學家來共同研究 AGI 的設計方案。我曾經和世界上最偉大的數學家之一 Terence Tao 討論過這個問題，我一直認為，如果我們能召集所有像他這樣聰明的人一起研究 AGI 的安全性，我們一定能找到技術上的解決方案。關鍵的問題是，我們是否能解決地緣政治和社會層面的問題。我甚至認為，這方面的挑戰可能比技術本身更加棘手。

　　主持人 :或許，我們應該先放慢 AGI 發展的腳步，先集中精力解決安全性問題，然后再加速推進。

　　觀眾提問

　　問題1：Demis，我想問問你剛才提到的“具備自主性的 AI”——如果 AI 變成了自主智能體（Agent），并且這些 AI 開始相互作用，尤其是在金融服務等現實世界的應用場景中，那誰應該對它們的行為負責？

　　Demis Hassabis：這是一個非常好的問題。事實上，AI 之所以正在朝著智能體（Agentic AI）方向發展，正是因為這樣的 AI 比傳統的非自主系統更加有用。今天的 AI 主要是被動的問答系統，比如你向一個聊天機器人提問，它會提供一個答案。但如果你讓它推薦一家餐廳，為什么不能讓它直接幫你預訂座位呢？顯然，這才是更方便的體驗。所以，從一個更實用的角度來看，用戶會更傾向于選擇具備自主性的 AI，因為它們能節省時間，提高效率，讓生活更便利。但如果放眼未來，一兩年后，甚至三年后，我們會看到 數百萬個 AI Agent 在網絡中自主交互。比如，未來可能會有 AI 代表商家與消費者進行自動化談判，這意味著我們可能需要重新思考網絡基礎設施和應用架構，整個互聯網的交互方式將被徹底重塑。這將是 AI 發展帶來的另一個被嚴重低估的變革。

　　問題2 :我有時間再問兩個快速問題。首先，中美之間似乎正在進行 AI 競賽，你認為如果其中一方領先，會對全球格局和 AI 發展方向產生怎樣的影響？其次，目前 AI 訓練數據主要來自大型科技公司，你認為這是否會導致 AI 存在數據偏見，從而影響最終對用戶的服務？

　　Demis Hassabis：關于國際競爭的問題，我們確實看到中國的 DeepSeek AI 昨天剛剛發布了一款非常有競爭力的模型。理想情況下，AI 研究應該是國際化協作的，而不應該陷入“軍備競賽”的模式。但現實情況是，這已經超出了我的預測范圍。我過去十到十五年一直在警告相關決策者，如果 AI 發展陷入競賽模式，可能會帶來嚴重后果，而事實正朝著我最初擔心的方向發展。如果 AI 競賽繼續升級，可能會導致一種“賽跑效應”——即使有些團隊或國家愿意放慢腳步，集中力量解決 AI 的可控性和安全性問題，但如果其他團隊仍在全速前進，那么他們可能別無選擇，只能繼續跟進。這正是全球 AI 監管所面臨的最大難題之一。至于數據偏見的問題，這確實是一個挑戰。AI 的訓練數據主要來自大型科技公司，而數據本身可能包含固有的偏見。這不僅是一個技術問題，也涉及到社會公平性。因此，我們需要更加多樣化的數據來源，并采取更透明的 AI 訓練方式，以確保 AI 不會強化或擴大數據中的偏見。

　　問題3：那么，隨著生物 AI 系統的進步，會不會有人利用 AI 設計出致命的病原體？這是否會成為全球安全的新威脅？

　　Demis Hassabis：首先，我要強調一點，即便沒有 AI，現有的生物技術已經足以設計病原體。AI 可能會加速這一過程，但它并不是唯一的決定性因素。在我們發布 AlphaFold 2 之前，我們專門咨詢了 30 位生物安全專家、倫理學家，以及多位諾貝爾生物學獎得主，以確保這一技術的益處遠遠超過風險。他們一致認為，這項技術的醫學價值極高，因此我們最終選擇將其開源。

　　但隨著 AI 的進步，我們確實需要建立更強的檢測系統，以防止 AI 被用于生物恐怖主義。例如，如果 AI 以 API 形式提供，我們可以在后臺運行檢測機制，一旦發現有人試圖利用 AI 生成危險病原體，就可以立即封鎖訪問權限，并向相關機構報警。這也是為什么開源 AI 可能會帶來安全隱患，而受控的 API 訪問可以提供更好的防護。

　　問題4 :回到中美 AI 競賽的問題，如果 AI 研究陷入競爭模式，而不是合作模式，這是否意味著我們應該放慢腳步，為全球 AI 監管爭取時間？

　　Demis Hassabis：這正是我們需要思考的問題。如果沒有競賽壓力，我們可能會選擇放慢 AGI 研究的速度，優先解決安全性、控制力和價值體系的問題。但現實是，即使某些團隊放慢腳步，其他團隊可能仍會繼續前進。全球需要達成某種共識，否則單方面的延緩可能毫無意義。十多年前，我曾向多位高層人士警告過這一點——如果不及早采取行動，AI 發展將不可避免地陷入競賽模式。不幸的是，事實證明，我當初的擔憂正在變成現實。

　　主持人 :在這個充滿謹慎樂觀的氛圍中，我們必須結束這場討論了。非常感謝 Demis，也感謝所有的觀眾提問。

　　Demis Hassabis：謝謝大家，很高興能與大家交流。

　　原文鏈接：https://www.youtube.com/watch?v=ICv03VysLaE&t=16s

　　來源：官方媒體/網絡新聞

　　排版：Atlas

　　編輯：深思

　　主編：圖靈