（關注公眾號設為標，獲取AI深度洞察）

全文 3,000字 | 閱讀約13分鐘

作者：Kevin Roose

從2025年開始，才三個月時間，DeepSeek的R1,Grok 3, Claude 3.7 Sonnet, GPT-4.5等先進AI模型相繼推出，AI展現了驚人的技術進步速度。

在過去幾年里，AI 在多個領域開始超越人類，比如數學、編程和醫學診斷等，且它們的能力正日益提升。

或許在 2026 或 2027 年，也可能更早——甚至是今年——就會有 AI 公司宣布他們已經創造出 AGI，即一種能夠完成幾乎所有人類認知任務的通用型 AI。 屆時，關于 AGI 的定義爭議以及是否真正達到了 AGI 水準的討論將不可避免。但這些爭論并不重要，真正關鍵的是，我們正失去對人類級智能的壟斷，一個擁有超強 AI 的世界正在到來。

在未來十年里，AI 將創造數萬億美元的經濟價值，并改變全球政治和軍事格局，掌控這一技術的國家將占據主導地位。各國政府和大型企業對此已有共識，并投入了巨額資金爭奪領先地位。

然而，大多數人和機構對現有 AI 的沖擊仍毫無準備，更遑論未來更強大的系統。而各國政府也缺乏切實可行的應對方案，既無法有效規避風險，也未能充分利用 AI 帶來的機遇。

與此同時，堅決否定 AI 進展的懷疑論者仍在斷言 AGI 只是幻想。但他們不僅低估了 AI 的發展速度，還誤導公眾，讓人們對即將到來的變化掉以輕心。 無論你認為 AGI 是人類的福音還是潛在威脅，現在仍難下定論。但可以確定的是，它的到來將引發一系列重大經濟、政治和技術問題，而目前，我們仍沒有答案。

一、現在就是為 AGI 做準備的最佳時機

這些想法聽上去或許有些危言聳聽。但我并不是一個沉迷科幻的未來主義者，也不是一個炒作 AI 投資的商人，更不是看了太多《終結者 2》后陷入狂想的人。

我是一個記者，花了大量時間與那些構建最先進 AI 系統的工程師、支持這項技術的投資人以及研究其影響的專家交流。而從這些人的言談中，我逐漸意識到，AI 領域正在發生的變革，遠比大多數人想象的更深遠。 在 舊金山，AGI 早已不是什么邊緣概念。這里的人們談論"感受到 AGI"，而打造超越人類智慧的 AI 已成為 硅谷 一些巨頭的明確目標。每周，我都會遇到 AI 領域的工程師和創業者，他們的共識是——變革即將到來，而且規模空前，可能徹底改變世界。

過去一兩年間，曾經被認為是'短期預測'的觀點（即 AGI 可能會在本十年內實現），如今已經接近成為行業共識。"去年從 OpenAI 離職的獨立 AI 政策研究員 Miles Brundage 最近告訴我。

在舊金山灣區之外，大多數人對 AGI 仍然聞所未聞，更談不上為它的到來做準備。而在新聞行業，認真對待 AI 進展的記者，仍然可能被嘲諷為過度輕信或是為科技公司搖旗吶喊的'吹捧者'"。

坦白說，我能理解這種反應。盡管 AI 已經助力諾貝爾獎級別的科研突破，盡管每周有 4 億 人在使用 ChatGPT，但現實中，大多數人日常接觸到的 AI 仍然讓人不耐煩。我能理解那些在 Facebook 上看到滿屏 AI 生成垃圾內容，或是被笨拙的客服機器人折騰得焦頭爛額的人，他們可能會嘲笑："就這？還要統治世界？"

我曾經也持懷疑態度，但現在，我不得不承認自己看走了眼。有幾件事讓我開始重新審視 AI 的發展，并認真對待它的未來影響。

二、行業內部的警鐘已敲響

如今 AI 產業中最令人不安的一點是，最了解這項技術的人——領先 AI 公司的工程師和高管們——往往也是對其發展速度最為擔憂的一群人。

這種情況并不常見。回到 2010 年，我曾報道社交媒體的崛起。當時，Twitter、Foursquare 和 Pinterest 的內部人士并不會警告他們的產品可能引發社會動蕩。Mark Zuckerberg 也不會測試 Facebook，試圖找出它是否能被用于制造生物武器或發動網絡攻擊。

但如今，那些真正掌握 AI 進展信息的人——那些正在打造最先進 AI 系統、能接觸到公眾尚未見過的技術的工程師——卻在警告我們，重大變革近在眼前。領先的 AI 公司已經開始為 AGI 做準備，并在研究其潛在風險，比如它們是否具備欺騙能力，是否會變得更加自主，甚至具備策劃復雜計劃的能力。

OpenAI 首席執行官 Sam Altman 曾表示："開始指向 AGI 的系統已經進入視野。"

Google DeepMind 首席執行官 Demis Hassabis 認為，AGI 可能還需要三到五年才能實現。

Anthropic 首席執行官 Dario Amodei（盡管不喜歡 AGI 這一術語，但基本認同其核心概念）上個月告訴我，他認為我們距離"在幾乎所有領域都比人類更聰明的 AI" 僅剩一到兩年。

或許我們應該對這些預測持保留態度。畢竟，AI 公司的高管可能會因市場炒作而夸大 AGI 進展，以獲取更多投資或更高估值。

但許多獨立專家——包括 AI 領域的開拓者 Geoffrey Hinton 和 Yoshua Bengio，以及 拜登政府 前 AI 顧問 Ben Buchanan——也持相同看法。此外，許多經濟學家、數學家和國家安全領域的專家也在發出類似警告。

當然，并非所有專家都認同 AGI 即將到來。但即使忽略所有 AI 公司的人員，或那些在行業中有既得利益的人，依然有大量獨立且權威的聲音在發出警示，而這些聲音，不容忽視。

三、AI 的能力正在飛速提升

在我看來，與專家的預測同樣重要的，是 AI 近期的實際進展——對于任何經常使用它的人來說，這些改進都是顯而易見的。

回顧 2022 年，當 OpenAI 推出 ChatGPT 時，即便是最先進的 AI 模型仍然會在簡單的算術題上犯錯，面對復雜推理問題時頻頻失敗，甚至會憑空捏造事實，產生"幻覺"。當時的聊天機器人在特定場景下可以令人驚嘆，但遠遠達不到可以承擔關鍵任務的程度。

而現在，AI 的進步已不可同日而語。專門化模型在 國際數學奧林匹克競賽（IMO）上達到了獎牌級水平，而通用模型的推理能力已經強大到需要開發更復雜的測試來衡量其能力。雖然 AI 仍然會犯錯，但最新模型的幻覺現象已大幅減少。許多企業如今也已將 AI 融入核心業務，直接面向客戶提供服務。

這種進步的部分原因在于 AI 模型規模的不斷擴大。更龐大的模型、更豐富的數據、更強大的計算資源，通常能帶來更優質的性能，而如今的領先模型相比早期版本已經大幅增長。

但這并非唯一因素。近年來，AI 研究在技術層面也取得了重要突破，尤其是"推理"模型的出現。這類模型會在給出答案前進行額外的思考步驟，以提高邏輯推理能力。

例如，OpenAI 的 o1 和 DeepSeek 的 R1 采用了強化學習技術——這一方法曾讓 AI 在圍棋比賽中超越人類。它們如今能夠解決許多以往令模型束手無策的問題。GPT-4o 在 2024 年的 AIME（美國數學邀請賽）上僅得 9%，而幾個月后發布的推理模型 o1 在同一測試中的得分高達 74%，展現出驚人的能力飛躍。

這些技術進步使 AI 在白領知識型工作中的應用價值日益凸顯。我的同事 Ezra Klein 最近寫道，ChatGPT 的高級功能 Deep Research 能夠生成深度分析報告，其質量"至少相當于他共事過的研究員的平均水平"。

我自己也發現，AI 工具在工作中的用途越來越廣泛。我不會用 AI 直接撰寫文章，但它已經成為我的得力助手——幫助我準備采訪、總結研究論文，甚至開發個性化應用來處理行政事務。幾年前，這些功能幾乎難以想象。而且，我很難相信任何認真使用 AI 進行工作的用戶會認為它的進步已經停滯。

如果你想真正理解 AI 的進步速度，不妨去問問程序員。一兩年前，AI 編碼工具的主要作用是提升程序員的工作效率，而不是取代他們。但今天，越來越多的軟件工程師告訴我，AI 已經承擔了大部分實際編碼工作，而他們的角色正逐漸變成 AI 的監督者。

Y Combinator（YC）合伙人 Jared Friedman 近日透露，在 YC 目前孵化的初創公司中，約四分之一幾乎完全依賴 AI 編寫代碼。"如果是一年前，他們還需要從零開始開發產品，"他說，"但現在，95% 的代碼都是由 AI 生成的。"

四、未雨綢繆，勝于措手不及

作為一種謹慎的認知態度，我必須承認，我和許多人的預測可能是錯誤的。 或許 AI 的發展會遇到難以預料的瓶頸——比如能源短缺，使得企業無法建設更大規模的數據中心，或者高性能芯片供應受限，阻礙模型訓練。也可能是當前的技術架構和訓練方法尚不足以實現 AGI，我們仍需進一步的重大突破。 但即便 AGI 的到來比預期晚十年——比如 2036 年而非 2026 年——我們仍然應該從現在開始做好準備。

實際上，大多數為 AGI 做準備的建議，本質上都是我們本來就該做的事情：升級能源基礎設施、強化網絡安全、加快 AI 生成藥物的審批流程、制定防范 AI 風險的監管規則、在學校推廣 AI 素養教育，并將培養重點從即將被淘汰的技術技能轉向社會和情感發展。這些舉措即便與 AGI 無關，也值得推行。 一些科技界人士擔心，過早的恐慌可能會導致 AI 監管過度，扼殺創新。但 特朗普政府 已表態希望加速 AI 發展，而非放慢腳步。同時，各大 AI 公司正投入數千億美元研發新一代模型，且資金流入仍在加速，因此，這些企業主動踩剎車的可能性微乎其微。

相比過度準備，我更擔心的是，許多人在 AI 真正影響他們的生活之前，根本不會意識到它的威力——等到 AI 取代他們的工作、讓他們陷入騙局，或直接影響他們的安全時，才會后知后覺。這與社交媒體的崛起如出一轍。Facebook 和 Twitter 早期并未被視為威脅，等到它們對社會產生深遠影響，我們才發現監管為時已晚。

這正是為什么，我認為我們應該從現在開始認真對待 AGI，即便它的確切到來時間和具體形式仍然未知。

如果我們選擇無視它，或者只是心存僥幸，就可能錯失主動塑造這項技術的關鍵機會——而一旦錯失，后果將難以逆轉。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

參考資料：https://www.nytimes.com/2025/03/14/technology/why-im-feeling-the-agi.html

來源：官方媒體/網絡新聞

排版：Atlas

編輯：深思

主編: 圖靈