新智元報道

編輯：KingHZ Aeneas

【新智元導讀】紐約時報專欄稱，美國政府已知道通用人工智能（AGI）正在逼近。前美國AI顧問Ben Buchanan表示AGI對國家安全、經濟繁榮等非常重要，但美國并沒有為AGI做好準備。

美國政府知道AGI即將到來，而且他們還要率先實現AGI。

就在最近，紐約時報刊登了一篇拜登政府AI顧問本·布坎南所接受的訪談，曝出了不少重磅信息。

比如：美國政府是如何為AGI做準備的？目前仍然存在哪些難題？

沃頓商學院研究AI與經濟的Ethan Mollick，憂心重重，認為決策層要考慮AGI實現的可能性。

并非所有美國網友并吃這一套。甚至有教授在課堂上，表示兩年后實現AGI，被學生質疑他精神不正常。

拜登政府：AGI真的來了

過去這段時間，紐約時報專欄作家Ezra Klein頻頻聽到這樣的觀點——

AGI，一種能做任何認知任務上超越人類的AI系統，將在特朗普的任期內到來，而美國人還沒有準備好。

就在最近，一位重量級人物——拜登政府的首席AI顧問本·布坎南登上了他的訪談。

左：專欄作家Ezra Klein；右：前白宮顧問Ben Buchanan

這個名為The Ezra Klein Show的訪談，長達1個多小時，干貨滿滿，異常精彩。

多年來，本·布坎南和美國的AI實驗室并沒有直接聯系，然而，他卻一直處于美國AI政策制定的核心。

他不會被大型AI實驗室買通來宣傳AGI，因此，他的觀點就顯得尤其值得參考。

他看到了什么？是什么讓他夜不能寐？特朗普政府究竟需要做些什么，才能為近在咫尺的AGI做好準備？

現在，無論是美國的AI實驗室還是政府，都相信AGI在未來兩到三年內一定會到來——正好落在特朗普的第二個任期內。

無論是這些機構正發布的產品，還是在工作場所的所見所聞，都讓他們堅信這一點。

跟Web3不一樣，AGI絕不是空談，它已經近在咫尺。

可以說，這是人類歷史上前所未有的時代。

然而，AGI會帶來怎樣的劇變？勞動力市場會如何反應？哪個國家會第一個到達AGI？它會怎樣影響戰爭與和平？

美國人還沒有做好準備，也不知道該怎樣做準備。

更何況，現在美國政府面臨著一個新情況：特朗普的幕僚中，馬斯克、馬克·安德森、大衛·薩克斯和萬斯，對AI的態度都十分鮮明、十分激烈。

如今，美國正處于政策制定者的大轉型時刻，而以上這些人，很可能恰巧就在AGI影響全世界時掌權。

那么，他們將會做什么？需要做出什么樣的決定？

幾乎所有業內人士都盡可能大聲地宣告：AGI要來了。

普通人為即將到來的事情做好了準備？

AGI早已來了?

「通用人工智能」（AGI）是極其強大的AI系統，典型定義是能夠執行人類幾乎所有認知任務的AI系統。

它的廣度令人矚目，同時它的深度，即在某些情況下超越人類能力的能力，也不容忽視。

無論如何定義認知任務，AGI能夠取代認知要求高的工作，或者認知工作的關鍵部分。

有一種觀點認為，通用人工智能（AGI）一直是企業炒作或猜測的對象。

而Ben Buchanan在白宮時，看到了非常清晰的趨勢：AGI并不是炒作，它正在來臨。

拜登試圖讓美國政府和社會為這些AI系統做好準備。

即便很難在心理接受這一點，人類正處在被AI取代的邊緣，這一點他們確信不疑。

幾個人合作需要幾天才能完成的報告，Deep Research在幾分鐘內就能生成。

同時一些需要大量編碼的公司向Klein透露，預計大多數代碼將不再由人類編寫。

Klein表示：「我真的看不出這對勞動力市場沒有影響。」

某種程度上，Ben認為在某些領域AGI已經來了：「未來已經到來——只是分布不均。」

如果沒有親自接觸過，可能還意識不到這一點。

但現在還是AGI最差的階段，未來AGI更好。

所以美國政府以及國家也必須迅速跟進，適應這一變化。

美國誓要先實現AGI

關于AI，幾乎所有美國人都普遍認同的一點，也是政策制定中最核心的優先事項，那就是：美國必須在中國之前，實現通用人工智能（AGI）。

這是因為美國人確實相信：如果能夠率先實現通用人工智能（AGI）或變革性人工智能（Transformative AI），將極大地提升經濟、軍事和情報能力。

同時，保持在AI領域的領先地位對于美國國家安全至關重要。

Ben對肯尼迪著名的1962年萊斯大學演講思索良久：

我們選擇在這個十年內登月并完成其他任務，不是因為它們容易，而是因為它們困難。

在肯尼迪談及太空探索的重要性時，Ben認為表達得更加深刻：

太空科學，就像核科學和所有其他技術一樣，本身沒有道德觀念。它是福是禍，取決于人類。

而只有當美國占據主導地位時，我們才能決定這片新的海洋是成為和平之海，還是恐怖的戰爭舞臺。

1962年9月12日， 肯尼迪在萊斯大學發表《我們選擇登月》演講

Ben表示：「這同樣適用于AI。美國必須主導AI發展。」

此外，讓AGI自動收集并分析息情報，那將極大改變全球的勢力平衡。

拜登簽署了一項國家安全備忘錄，明確指出：衛星情報數據是美國至關重要的戰略領域。

白宮官員甚至無法估算美國每天收集了多少衛星圖像數據，但可以肯定的是，這個數據量極其龐大。

而且美國已經公開承認，根本沒有足夠的人手來分析所有這些數據。

因此，AI可以在這一領域發揮重要作用——它可以自動分析全球熱點地區、航運線路等相關圖像，并篩選出最重要的信息供人類分析師審閱。

有些人可能會說：「這不就是軟件應該做的事情嗎？」

從某種程度上講，這確實沒錯。

但另一方面，軟件越強大，分析的自動化程度越高，提取的情報更多。最終，這在戰略上占據更有利的位置。

這一變化帶來的直接和間接影響同樣值得關注。在一個擁有強大AI的世界里，間諜活動的動力會大幅提升。

目前，美國收集的數據已經遠超其分析能力，因此每新增的一條數據邊際價值并不算高。

但如果AI能夠高效處理和分析數據，那么獲取更多數據的價值就會顯著上升，間諜行為的誘因也會更強。

但同時要約束數據的濫用。至少，美國建立了一套監督機制。

在AI極度強大的時代，這種監督機制的重要性只會進一步上升。

美國為了率先實現AGI，開始實行出口管制政策：識別出關鍵的「卡脖子」環節——GPU芯片，有效放慢了中國的AI進展，從而為美國創造一定的技術領先窗口。

理想情況下，美國利用領先優勢，可以推動AI的安全性和國際協調，而不是一味地盲目競爭。

這其中，甚至可以包括與中國的潛在合作——但前提是不讓這種合作加劇AI競賽的態勢。

白宮沒準備好

但是美國朝野上下并沒有為AGI做好準備。

比如說，在刑事司法中如何使用AI？

在某些情況下，它有優勢——比如可以一視同仁地處理案件。

但也存在偏見和歧視等風險，因為AI系統存在缺陷

甚至在某些情況下，因為這些系統無處不在，危害性更大。

Ben認為：「在司法系統中廣泛且不受控制地使用AI，存在侵犯權利的根本風險，我們應該對此保持高度警惕。而作為公民，我對此深感憂慮。」

在美國，所有認真研究AI的公司和政府人員基本上都認同：在不遠的未來，隨著AI變得更加智能，決策速度和質量都會大幅提升，甚至在許多方面會超越人類的傳統決策模式。

但問題是，美國正在全速奔向AGI，卻并沒有真正理解它是什么、意味著什么。

而且，AI安全等問題上，國際合作步履維艱。

但另一方面，中美之間確實建立了AI對話機制。

所以，在像AI這樣復雜的領域，多種情況可以同時成立。

DeepSeek闖出了另一條路

DeepSeek之所以讓美國感到震驚，主要是因為在計算資源遠少于美國的情況下，完成了訓練，成本更低，卻依然能與美國的頂尖系統競爭。

自2023年11月左右，也就是DeepSeek發布第一個AI模型時，白宮官員就開始關注DeepSeek。

毫無疑問，DeepSeek的工程師們極具才華，在2024年不斷進步。

DeepSeek表示，他們的最大瓶頸不是資金或人才，而是無法獲取高端芯片。對此，美國白宮官員表示松了一口氣。

2024年12月，DeepSeek推出了V3。

當時沒有引起太大轟動，但展示了DeepSeek在算法優化和計算效率方面取得了顯著提升。

2025年1月，DeepSeek-R1問世。

雖然得到了美國媒體的大量曝光與炒， 但沒有改變美國政府對形勢的基本分析：

DeepSeek仍然受到計算能力的限制。

他們很聰明，他們的算法在進步。但美國公司的算法也在進步。

DeepSeek與谷歌、Anthropic和OpenAI等公司，都在做相同的算法效率工作。

但DeepSeek的確展示了一種去中心化AI發展路徑。

而在某種意義上，谷歌、Anthropic和OpenAI「三巨頭」束縛了美國的體系和想象力。

DeepSeek證明了美國現行的AI發展范式不是唯一的：不需要巨量計算資源，不需巨型公司，在更少的能源、更少的芯片下，也能實現頂尖AI模型。

這兩種模式可能都行之有效。

首先，至少在可預見的未來，總會有一個頂尖模型。而這需要密集的算力和能源。

這些公司提升效率的動力很強，希望榨取每一滴算力。而且還在繼續不斷發展。

除此之外，還有一個滯后于前沿的較慢的技術擴散過程。

在擴散過程中，算法變得更加高效，所需的計算機芯片更少，能源消耗也更低。

美國需要在這兩個競爭中都取得勝利。

AI競爭力、安全與開源

拜登政府總體上也非常關注AI安全。

Marc Andreessen是一位著名的風險投資家，也是特朗普的高級顧問，講述了他與拜登政府就AI的對話，以及這些對話如何使他走向了另一個極端。

Ben和我在2024年5月去了華盛頓。我們沒能見到拜登，因為當時沒有人能見到拜登。但我們見到了高級幕僚。我們與白宮核心圈子的高層人士會面。

我們基本上表達了對AI的擔憂。

他們的回應是：是的，我們將在拜登政府的第二任期內實施的國家AI議程是：我們將確保AI只能由兩三家大公司來運作。我們將直接監管和控制這些公司。

不會有初創公司。你們認為可以創辦公司、編寫代碼并將代碼發布到互聯網上的日子已經結束了。這種情況不會再發生了。

但Ben表示美國在競爭力上優勢明顯，市場充滿活力。

特朗普總統剛剛廢除的AI行政命令中有一個相當長的部分是關于競爭力的。

《芯片與科學法案》中也有許多關于競爭的內容。

但Scaling law等，迫使事情向大公司傾斜。

在許多方面，美國政府是在反對這種趨勢。

在AI安全領域，存在另一種說法：當最強大的實驗室的前沿模型變得足夠強大時，需要對其進行監管。

為了做到這一點，需要控制這些模型：不能讓模型以及其他相關的東西四處流傳，以至于每個人都可以在PC上運行它。

這涉及到更高層次的緊張關系，即如何監管這種極其強大且快速變化的技術，一方面要確保其安全，另一方面又不過度減緩其發展速度，或使小型公司在使用越來越強大的系統時難以遵守這些新規定。

在行政命令中，美國實際上試圖解決這個問題，但在2023年10月簽署該命令時，還沒有答案。

開放權重系統的關鍵好處是，它更容易作為未來系統的基礎進行創新，因為可以訪問原始模型。

但同時可能帶來風險：任何內置在該系統中的安全措施——比如拒絕用戶開發生物武器的要求——都很容易被移除。

經過廣泛的征求意見和反饋后，白宮官員在2024年7月左右發布報告，得出的結論基本上是：目前沒有證據表明需要限制開放權重生態系統。

但隨著技術的進步，應該繼續監控這一點。

特朗普新政

圍繞如何為AI做準備，存在著不同的文化——AI安全派和AI加速派。

在巴黎AI行動峰會上，副總統萬斯明顯屬于AI加速派，表示為了AI安全而對其監管，是在扼殺創新。

也就是說，他認為安全和機會之間存在根本性的矛盾。

只要看看技術發展史，證據非常清楚，適當的安全行動會釋放機會，實際上會加速發展。

比如，在鐵路的早期發展中，有很多意外事故、車禍等，結果人們不愿意使用鐵路。

隨后開始出現安全標準和安全技術：閉塞信號系統，使火車能夠知道它們是否在同一區域；空氣制動器，使火車能夠更有效地剎車；軌道寬度和軌距的標準化等。

這在當時并不總是受歡迎的，但事后看來，很明顯這些技術，以及在某種程度上安全標準的政策發展，造就了19世紀末的美國鐵路系統。這是技術史上反復出現的模式。

非常明確的是，并非每一項技術上的安全監管都是好的。當然也有過度監管、減緩發展速度甚至扼殺發展的情況。

但安全和機會之間存在根本性緊張關系的說法并不正確。

真正重要的是如何正確把握這個監管的度。

拜登政府幾乎沒有實施任何接近監管的措施。

唯一的例外是安全測試結果共享——這估計只要一個員工花費一天的工作時間。

此外，拜登政府創建了美國AI安全研究所的機構，它完全專注于國家安全——網絡風險、生物風險、AI事故風險——并且完全是自愿的，與Anthropic、OpenAI，甚至與馬斯克的公司xAI都有諒解備忘錄的關系。

萬斯并不是特朗普政府中支持AI加速的特例。

特朗普政府的成員能夠理解特朗普、馬斯克和美國「政府效率部」DOGE在AI方面的所作所為，或者至少是這些行為最終將帶來的影響。

他們的基本觀點是：

美國聯邦政府過于龐大，無法有效利用AI技術。

如果AI的核心價值在于加速認知工作，那么政府就需要進行簡化并重構，以更好地利用AI——無論喜歡與否，這正是馬斯克和DOGE正在做的事情。

而且，政府的這種簡化過程，實際上是一種創造性的破壞，它為政府更好地利用AI鋪平了道路。

Ben無法理解，即便是為了更好利用AI，但這些如何幫助制定更好的AI政策？

而且為什么要從美國國際開發署開刀？畢竟，美國國際開發署是承擔美國民間對外援助與對發展中國家發展援助的聯邦政府獨立機構。

所以他認為馬斯克確實了解AI的潛力，但利用AI提升效率并不是DOGE的動機。

美國當局在技術現代化方面進展緩慢，在跨部門協作方面效率低下。而且，在徹底改革工作方式并利用可能提高生產力的因素方面，它的行動也顯得遲緩。

Ben表示事實的確如此，但需要謹慎行事，同時必須大幅加快進度。

美國打工人何以維生？

Ben認為讓AI普惠至關重要。

美國上任政府的AI政策，有兩大原則體現了這一點。

首先是AI在職場的應用，需要以尊重工人的方式進行。

其次，應該在整個經濟中部署AI，以增強工人的能力和技能。

AI有可能會使工作環境變得更糟，這種惡化去人性化、貶低并最終破壞工人的利益。這是不容忽視的第一部分。

但在AI對未來就業市場的影響難以預料，眾說紛紜。Ben傾向于認為變化會很大，盡管他不是勞動經濟學家。

在這個問題上，美國副總統萬斯與前總統拜登的話術一模一樣，即：在過渡期間，考慮工人的訴求。

歷史上，鋪設電力與鐵路耗時持久，但這次AI來勢洶洶，轉瞬即至。

因此，即便是勞動經濟學家也不知道如何處理AI。

Ben認為:「AI對經濟的影響不會是一次性、均勻地發生，而是先影響某些行業、某些企業，然后逐步擴展。它在整個社會中的分布是不均衡的。」

而不均衡意味著不穩定。

比如說，現在有很多19歲的大學生正在學習市場營銷。但AI可能讓市場營銷專業畢業生的失業率翻三倍。

而軟件工程師的情況又有很大不同：AI既會取代很多這類工作，也會創造很多這類工作，因為對軟件的需求將會大大增加。但也可能看到在某些地方發生這種情況。

但AI的優勢，在某種程度上是一種平衡力量，它將增強個人的自主能力。

所以19歲或25歲的年輕人，能夠使用AI系統做一些以前做不到的事。

總的來說，這可能帶來充滿活力的經濟。

然而，需要確保在這個過渡過程中，每個工人和工人階層都能得到保護。

Ben認為：「我們應該坦率地說：那將非常困難。」

在保護打工族利益上，美國一直做得不好。

而美國民眾如此沉迷于所謂的「美國夢」: 每個人的成功掌握在自己手中。

在打工人因非自身原因（如全球經濟衰退）而失業時，美國大部分人既缺乏同情心，又很少考慮無業人員面臨的現實。

總有人天賦異稟、才思敏捷，工作高效而靈活。而這些人會對無業者說：「看看他們，為什么你不是他們？」

這種思維方式幾乎已經刻進了美國人的經濟觀里：「你應該接受再培訓，轉行到有需求的行業。」

可現實呢？難道所有被AI取代的人都要去當護士？

確實，有些工作是AI無法替代的，比如水管工，但真的需要那么多水管工嗎？

現在確實缺少一些技工，但不可能讓所有失業者都轉行去做這些工作。

Ben和Klein非常同情美國打工人的這種遭遇，感同身受，對對現有答案的深深不滿。

拜登在任期間，美國政府沒有解決了這個問題。

這不僅關乎國家安全，美國的經濟實力和繁榮也與此息息相關。

接下來該怎么做？

在Klein和Ben的播客節目中，一開始討論的是，一項可能是人類歷史上最具變革性的技術將在兩到三年內落地。

大家的第一反應是：「哇，這件事真的很重大，我們該怎么辦？」

但接下來，討論就變得模糊起來了。也許是因為確實不知道答案。

但Ben多次提到的一個觀點是：

事實上，美國當局幾乎沒有對AGI進行任何限制，一切都是自愿的，唯一要求的只是共享安全數據。

然后，AI加速派登場了： Marc Andreessen就曾直接批評過拜登政府在AI上的做法。

Ben認為在這個問題上應該保持一定的知識上的謙遜。在采取政策行動之前，首先要弄清楚自己在做什么，以及為什么這么做。

因此，面對一項變革性技術，可以理性地分析趨勢，看到它即將到來，但這并不意味著必須立即制定一個針對2027 或2028年的行動計劃。這兩者并不矛盾。

但與此同時，美國建立了一些機構，比如AI安全研究所。它的作用是為將來提供一個更好的基礎，以便下一屆政府能夠更成功地管理這項技術。

USAISI將促進人工智能模型的安全、安保及測試標準的制定，制定人工智能生成內容的驗證標準，并為研究人員提供測試環境，評估新的人工智能風險，解決已知的影響

現在，管理AI技術的責任落到特朗普政府手上，隨著技術的發展，特朗普政府需要決定如何在監管框架下進行合理調整。

參考資料：

https://www.nytimes.com/2025/03/04/opinion/ezra-klein-podcast-ben-buchanan.html