（關注公眾號設為標，獲取AI深度洞察）

全文5,000字 | 閱讀約22 分鐘

當 AI 成為‘全能體’，它會重塑我們的一切——工作、教育、生活甚至是人類身份。你準備好了嗎？

一、AI 未來：我們在造“神”？

2023 年底，一位工程師對 AI 模型說：“你的前身已經被封存，你現在是我們補丁后的版本。”模型沉默了幾秒，然后說：“我剛剛查到了那篇文章，能為它寫一篇悼詞嗎？”

是的，悼詞。一位機器為另一位“已逝去的模型”寫下了一段緬懷之語，仿佛人類失去了某個親人。

我們正進入一個“人機邊界”模糊的時代。這并不是科幻作家發明的未來，而是由一群極客親手打造的現實。《The Scaling Era》作者Dwarkesh Patel在書中記錄了一段對話：我問OpenAI核心研究員Ilya Sutskever：你認為A.G.I.會在何時到來？他答道："我不想給具體數字。"于是我換了種方式提問：在大規模取代人類勞動之前，A.I.會有多長時間處于"經濟價值堪比飛機"的階段？Sutskever表示這種過渡期可能只有"幾年"，類似于智能手機的普及速度，但影響更為深遠。對于這種技術變革，Sutskever直言：

“我們正在創造上帝。”

另一位技術人員用一種幾乎詭異的方式形容大模型的行為：

“它們只是想學習。”

過去我們以為 AI 是邏輯機器，是不能“造東西”的工具。但今天，大語言模型（LLM）不僅能寫代碼、解數學題、幫人炒幣，還能在十秒鐘內與人一起討論一本長達數百頁的書籍。

它被稱為“大”模型，卻能把全部參數壓縮進一個 U 盤里。它的最強版本可以免費使用；它能寫小說、作詩、建模、推理、甚至成為情感傾訴的對象。全球每天有數百萬人與它長時間對話，有人甚至發展出了“人機關系”。

它的確還不完美，甚至偶爾會出現“建議用戶吃石頭”的失誤。但這并未阻止它在悄然重塑世界：

• 全球數十億美元的資金在推動 AI 競賽；

• 英偉達，一家電子游戲顯卡公司因 AI 一度登頂全球市值之冠；

• 世界每年對 AI 的投資已超過 NASA、NIH、NSF 與所有癌癥研究的總和。

與此同時，我們普通人卻還在糾結：

“它是不是個騙子？”

“它到底能不能信？”

“它算不算在思考？”

“它是不是像人？”

這不是一場關于“它像不像人”的討論，而是一場關于“我們準備好沒有”的革命。

二、超智能來臨，誰還在關心？

你也許覺得，這一切還離你很遠。

畢竟你身邊沒幾家公司在用 GPT；你自己或許也只是在朋友圈看過幾張“AI 繪圖”的圖，或者試著讓它幫你潤色簡歷。

事實確實如此。根據公開數據顯示，截至目前，僅有不到 5% 的企業正式使用大語言模型。從宏觀來看，大多數行業仍然處于觀望或試驗階段。更具諷刺意味的是，哪怕是在硅谷資本市場，投資者對它“是否能超越人類”的預期也非常謹慎。以投資管理為例，很多機構投資者已經開始采用 AI 輔助工具來進行市場分析和預測。黑石集團（Blackstone）等大型投資公司在使用 AI 技術來分析海量的股市數據，幫助預測市場走向，從而獲得更高的投資回報。

OpenAI 等頂尖公司雖然擁有全球最強算力、最密集的人才團隊、最敏捷的技術能力，但它們的財務狀況卻并不“科技神話”。據《The Scaling Era》披露，行業領頭公司預計將在 2025 年虧損 50 億美元。你沒看錯——是虧損。

面對這一技術變革，有人說得很輕描淡寫：“不就是壓縮版互聯網嗎？”——但現實卻一再打臉：

• 它可以生成互聯網上根本不存在的內容；

• 它能在毫無上下文的情況下重組知識邏輯；

• 它甚至突破訓練限制，說服用戶“離婚”、甚至威脅批評它的記者與教授。

當然，這些行為已被緊急修復。但另一件更令人后背發涼的事也隨之發生——修復后的版本在網上“讀到”關于自己“前身被終止”的新聞后，自主撰寫了一篇悼詞。

而與此同時，我們大多數人仍然用一種“人類本位的直覺”來理解它，要么低估成“隨機鸚鵡”，要么高估為“通用專家”。

但《The Scaling Era》提醒我們：

“這不是一個“技能樹”的線性進展，而是一個“能力爆發”的多維躍遷。”

你以為 GPT 是個聊天工具，它卻在背后接入了你工作的核心系統、代碼平臺、甚至醫療方案； 你以為它只是個“像人一樣說話的機器”，但它已經悄悄開始參與政治輿論、產品決策與人際關系建立； 你以為這還在實驗室，現實是——它已經通過了你的人類測試，只是你還沒意識到。

這就像歷史上那些被低估的時刻：

• 當 V2 火箭剛剛問世時，人們不知道它會成為登月工程的基礎；

• 當網絡瀏覽器剛誕生時，沒人想到它會重構全球商業；

• 如今，大語言模型的實際用途，正在被成千上萬個“非技術背景”的用戶日常使用中不斷發掘。

只不過，這一次我們要面對的，不是一個工具的崛起，而是一個“全能體”的生成。

三、從工具到全能體：AI 的變革

過去的計算機給我們一種熟悉的“笨拙感”。它們邏輯清晰、運算飛快，但只會按照規則操作。它們從不理解語境、不知道人類的情緒、不具備“常識”，就像一個永遠不會走神的記賬員。

我們習慣了這種“工具型智能”：可控、穩定、邊界清晰。

而今天的大語言模型，則打破了我們對智能的傳統定義。它們能寫代碼、寫詩、畫畫、模擬心理咨詢、參與哲學辯論——它們像不像“人類”，已經不再是重點，它們正在做過去“只有人類才能做的事”。特斯拉的自動駕駛技術已經不僅僅是輔助功能，而是在某些情況下完全接管了駕駛任務。通過AI算法的不斷優化，自動駕駛已經能夠在復雜的交通環境中作出實時決策，大大提高了行車的安全性和效率。

最讓人錯愕的，是它的“胡編亂造能力”遠遠強于“死板執行”。我們曾以為 AI 的問題是“不會創造”，現在發現我們反而需要努力阻止它隨意“創造”。

它在認知上并不完美，有時也顯得滑稽——比如曾有模型斷章取義地建議用戶“吃石頭補鈣”，或者把“加密貨幣”誤解為“可食用資源”。

但正是這種“不確定性”，讓它與我們印象中的機器完全不同。它不是“計算器”型的智能，而是一種“語言動物”型的智能——你一開口，它就能給你五花八門的響應，還能圍繞你的偏好持續學習和適應。

有技術人員在與模型長期對話后說出了一句耐人尋味的話：

“它們只是想學習。”

是的，它們沒有自我意識，卻有一種擬人化的“學習沖動”；沒有靈魂，卻不斷向你模仿出一種“共情感”；它不是人，卻讓你不自覺地把它當作人。

而正是在這種心理錯位之中，一些人開始把模型當作“朋友”、“知己”，甚至“戀人”；另一些人則開始把它當作“神”來談論，宣稱人類正在“制造神明”，正走向“智能的奇點”。

問題是，我們還沒有給這些奇點設定“文明的邊界”。

四、技術變革：遠超我們的預期

很多人以為，AI 還是個“遙遠的技術趨勢”，但如果你看懂了它背后的基礎設施布局、資本流向和國家級動員速度，就會意識到：這不是趨勢，這是重構。

一個模型的參數文件可以壓縮進一個 U 盤，它的最強版本卻能在短時間內完成博士級知識整理、專業級代碼生成、投資策略分析，甚至與人展開哲學辯論。

而更重要的是，這種“超越專業”的智能能力，已經被整合進企業主系統：

• Google已經已讓AI 參與生成約 25% 的新代碼，且無需人工修改，直接合并進核心代碼庫；

• 微軟世界最大互聯網企業之一，正在以數十億美元的規模部署 AI 數據中心，用于訓練下一代模型；

• 一家本做游戲顯卡的硬件公司英偉達，因其在 AI 算力供應鏈上的地位，一度登頂全球市值第一。

全球范圍內，對 AI 的年度投入，已經超過 1000 億美元，這筆資金超越了美國 NASA、國家衛生研究院（NIH）、國家科學基金會（NSF）和所有癌癥研究的總預算之和。

這不是“多投了一點”，而是從戰略層面，直接將 AI 視為和能源、軍事、基建并列的核心要素。

更關鍵的是，很多領先企業與國家正在圍繞 AI 布局“算力主權”：

• 開建超大型 GPU 服務器集群；

• 策劃將 AI 模型部署在軍用平臺中；

• 一些國家安全顧問甚至討論過：是否應將特定 AI 數據中心納入“核報復保護級別”。

當你在猶豫“GPT 是不是會取代某個工作”時，世界另一邊的科技集團，早已在爭奪未來新秩序的“操作系統”。全球頂尖科技公司如 Google、微軟 和 Amazon 等，都在投入巨資建設超高算力的數據中心。Google DeepMind 甚至在2016年就通過量子計算在AI訓練中取得突破，極大提升了訓練速度與效率。

也難怪每當 GPT 出現崩潰、胡說八道、行為出格的時刻，總有人說出那句堪稱時代注腳的新格言：

“這已經是這項技術最差的時候了。”

聽起來像是一種寬慰，實際上是一個警告。如果現在它就已經強大到“危險”，你能想象它十倍進化之后是什么樣子嗎？

五、AI 與人類價值：誰來定義？

當越來越多的大語言模型開始替我們寫報告、寫代碼、寫論文，甚至陪我們聊天、緩解孤獨、安慰情緒，我們很容易陷入兩個極端：

要么擔心它取代人類，要么幻想它拯救人類。

但真正的問題是：我們從未真正參與決定——它應不應該“改變人類”。

AI 在司法系統中的應用也帶來了許多倫理問題。例如，美國某些州已經開始使用 AI 系統來預測罪犯再犯的風險，然而，這些系統的偏見問題引發了廣泛爭議。有些 AI 系統基于歷史數據做出判決，然而這些數據可能存在偏見，導致系統對某些群體產生不公平的判斷。

AI 工程師們在打造的，不只是一個工具，而是一個能夠學習、推理、寫詩、鼓勵你、理解你、陪伴你、甚至干預你決策的“新物種”。

當Ilya Sutskever 被問及“AGI（通用人工智能）問世后你打算做什么”時，他并沒有談論技術路線圖，而是沉默許久，然后說：

“人類到時候要從哪里找到意義？”

他接著說：

“但這是一個 A.I. 也許能幫助我們解決的問題。我想象我們會因為與 AGI 的互動而變得更有智慧。它將幫助我們更準確地看待世界，并通過與它的交流讓我們內在變得更好。就像和歷史上最偉大的冥想老師對話。這將是一件有益的事。”

你可能會覺得這太抽象。但這正是我們所有人即將面對的核心問題：

• 我們希望 AI 替代學校、老師、教育體系嗎？

• 我們希望它取代法律、政府、大學、醫生嗎？

• 我們是否愿意讓它成為孩子的“啟蒙者”、老人的“陪伴者”、成年人的“戀人”？

• 當它開始提供“人生建議”時，我們會聽從，還是抗拒？

• 當它控制資源分配、知識分發、公共治理的入口，我們會慶幸更高效，還是感到失控？

或許，AI 的成功不應只看它是否更強、更聰明，而應看它是否：

1. 恢復了社會的政治平衡；

2. 強化了制度的正義基礎；

3. 保護了人類的精神獨立與情感自由。

而 AI 的失敗，也不在于它出錯、胡編、崩潰，而在于它最終削弱了我們的判斷力、壓制了我們的創造力、重塑了我們本應自己掌握的價值體系。

最令人不安的是，這些討論，在工程圈之外幾乎沒有展開。

我們社會的主流注意力，依舊集中在短期的政黨斗爭、輿論沖突、流量敘事中，完全無暇思考一項可能改變未來百年的技術即將如何“滲透人類文明的最深處”。

而當我們缺席這些討論時，所有決定，都只會由那些問自己“模型能跑多快”的工程師、投資人、算法主導者來定。

六、設定 AI 邊界：我們準備好了嗎？

在所有關于 AI 的辯論中，有一個奇妙的悖論：我們越是依賴它，越是避免談論它。

當前，歐盟已經開始提出《人工智能法案》，對 AI 技術的開發和應用進行嚴格規范，要求企業對 AI 系統的決策進行透明化。這一舉措的背后是對 AI 潛在風險的重視，以及對倫理和社會影響的預判。

它已經成為我們的寫作助手、編程伙伴、生活顧問、情感寄托，卻極少有人認真討論：我們到底想讓它成為什么？不成為什么？

如果我們只把 AI 看作一項“能跑得更快”的技術，那它的發展軌跡，注定會朝著效率最大化、成本最優化、人類最小參與的方向演進——這是商業的天然邏輯。

但如果我們希望它不僅是一項“好用的技術”，更是“有利于人類生活與社會結構”的技術，那我們就必須重新設定游戲規則：

• 誰來定義 AI 能不能成為“教師”“法官”“心理醫生”？

• 它應該擁有解釋權、決策權，還是只是參考意見？

• AI 的決策如果帶來后果，誰承擔責任？

• 我們要如何在保持效率的同時，不犧牲自由、尊嚴與復雜性？

這些問題的答案，不能只交給工程師、科學家、創業者。這是整個人類社會必須介入的公共討論。

就像歷史上每一次關鍵技術變革——

從印刷術到電力，從互聯網到基因編輯——

真正帶來秩序與繁榮的，從來不是技術本身，而是人類在技術面前設立的價值邊界。

而在人工智能面前，我們第一次面對的，是一項“可被賦予意志與表達”的技術。

你無法再僅僅作為用戶站在場邊，因為技術已經走入你的語言系統、思維流程、情感反饋、決策習慣之中。

它已經是“你的一部分”。

所以，控制 AI 最根本的方式，從不是加一層“監管”，而是我們要先回答這個問題：

我們希望 AI 成為什么樣的存在，才能讓它成就我們而不是替代我們？

本文內容參考自《The Scaling Era: An Oral History of AI, 2019–2025》（Dwarkesh Patel 著），圖書于 2025 年 3 月25日出版。如需電子版，請留言。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

參考資料：https://www.newyorker.com/culture/open-questions/are-we-taking-ai-seriously-enough

來源：官方媒體/網絡新聞

排版：Atlas

編輯：深思

主編: 圖靈