（關注公眾號設為標，獲取AI深度洞察）

全文 5,000字 | 閱讀約18分鐘

最近，2024年諾貝爾物理學獎得主、"AI教父"Geoffrey Hinton在多倫多大學的重要講座中，直言不諱地指出了AI產業面臨的重大困境。

學生詢問是否已經在算力和數據層面遇到瓶頸時，Hinton給出了自己的思考："我覺得說我們會遭遇'收益遞減'是合理的，因為你每翻倍計算量才能得到一點點性能提升，從對數的角度看，這確實會越來越貴。"他進一步解釋道："單靠擴大規模就帶我們走了很遠，已經得到相當聰明的模型。未來我們借助新想法、新的工程技巧，相信也會繼續推動進步大模型性能提升。"

這一判斷與Hinton在講座中的另一個比喻不謀而合，他提到："就像當年把CPU頻率越做越高。但接下來我們又能有新想法、新路徑，好比CPU轉向并行計算。"這種從"垂直轉水平"的思路，或許正是AI產業突破當前困境的關鍵。 當前的行業數據印證了Hinton的判斷。Anthropic公司CEO Dario Amodei之前采訪透露："現在（訓練頂級AI模型的成本）是1億美元。而今天正在訓練中的一些模型成本更接近10億美元。"他預測到2025-2027年間，模型訓練成本可能達到驚人的100億甚至1000億美元級別。

隨著AI訓練的成本和能源消耗呈指數級增長，業界面臨一個嚴峻問題：繼續加大投入是否還值得？Hinton在多倫多講座中給出的方向，或將為AI的下一階段發展提供全新思路。

一、對話環節

主持人：讓我先從你多次提到的一點開始——關于關聯（correlations）以及相關函數（correlation functions）在學習過程中或理解系統運行機制時所起的作用。在大多數物理學領域，我們都是用相關函數來描述宇宙的。即便是那些在大型對撞機上進行的粒子碰撞，你也可以把它們看作是這些所謂的量子場之間的相關函數，或者像Kushner教授所研究的氣候科學。如果你有一個隨機時間序列數據，那么其中可以提取出的一部分信息便是‘此時刻的天氣與彼時刻的天氣之間有多大相關性’。我在想，如今我們有這些參數規模達萬億級的模型，內部包含海量數字。我們是否可以用物理學中基于相關函數的某些直覺，去挖掘這些大型網絡內部的含義或可解釋性呢？

Geoffrey Hinton：也許可以，但我不知道具體怎么做。很多人都說：‘在我們真正理解這些大型神經網絡如何工作之前，我們永遠無法信任它們?！?我認為我們可能永遠也無法在細節層面上理解這些大模型的工作機理。我們當然知道它們的宏觀結構——畢竟是我們自己設計了網絡的架構。但它們真正如何工作，取決于它們從數據中學到了什么。當一個擁有萬億個實數參數的系統做出決策時，也許根本就沒有比這萬億參數的取值更簡潔的解釋了。當然，大多數研究者都覺得我們還是能做得比‘只看參數’更好一些，但我并不認為我們能好太多?！?/p>

主持人：那我也想接著問一下。你提到的受限玻爾茲曼機就像一種酶，它催化了深度學習方面的一些進展。我的理解是，此前也出現過幾次受到物理啟發的突破，為深度學習帶來了神奇的飛躍。我想到的一個例子是‘縮放律’（Scaling Laws）：當你增加網絡規模，或者給予它更多的計算時間，它的表現就越來越好，而且那種變好符合物理學家所說的冪律分布——如果用特定方式作圖，就會得到一條直線。我理解這個想法也來自于物理系統經常表現出的那種行為，比如凝聚態物理、高能物理系統等都常見這種冪律。而且這些例子已經出現了好幾次，所以我覺得這絕非偶然。

Geoffrey Hinton：物理學家花了很多心思思考各種問題，而且他們都很聰明。許多數學思想也是源于人們對物理現象的思考。比方說，牛頓的一些數學理論就來自他對‘月亮為什么沒掉到地球上’這種問題的思考。所以物理學家最先發現一些高級數學技巧，并不奇怪?！?/p>

主持人：那我想問一下，你覺得物理學的視角在哪些方面最能幫助我們理解深度學習？或者換個說法，和心理學、生物學、傳統計算機科學等視角相比，物理視角的優勢在哪里？

Geoffrey Hinton：我也希望能回答這個問題……斯坦福的Surya Ganguli是從物理學界轉到這一領域的，他做了一些非常出色的研究，來揭示模型在訓練時權重究竟發生了什么變化。我個人相信，物理學家的見解一定會有用。 不過我想先變身‘政客’，稍微轉移一下話題，談一個確實與物理學直接相關并且非常有用的例子。那就是：機器學習里用到的變分方法就來自物理學。我想試著向普通大眾描述一下，怎么用變分方法（或者說從變分方法得到的啟示）來理解模型之間是如何進行高效通信的。設想你有兩種不同的方式來編碼同一個事件，現在需要在一個發送端和一個接收端之間進行通信，希望用盡可能少的比特數穿過通信信道。想象一下，你想告訴別人‘正在下雨’。作為一個加拿大人，你既可以用英語說‘It’s raining’，也可以用法語說‘Il pleut’。我不會說法語，但我想大概就是這么說的——其實我并不是真正的加拿大人。一個普通人的想法是：如果用英語“it’s raining”和法語“il pleut”都需要10比特來傳達同一個信息，那就隨便挑一種說法就行了，反正都是10比特。但如果從物理學家的角度，就會想：‘既然有兩種不同的編碼方法，那我們能不能用隨機的方式去選擇哪種編碼？’比如，我們拋個硬幣，決定使用哪種說法。

乍看起來，這似乎并沒有什么好處：你拋了硬幣，要么說‘It’s raining’，要么說‘Il pleut’，依然得發送10比特的內容。但如果接收端也有同樣的隨機數發生器，就不一樣了。當發送端拋硬幣決定用哪種方式時，接收端也能產生同樣的隨機數，并知道你拋出的結果。所以事實上，我們可以通過傳遞我們用來進行‘拋硬幣’決策的那個隨機比特，來把額外信息也一起傳輸過去。換句話說，接收端收到10比特表明‘正在下雨’的同時，還能得到那個額外的隨機比特的信息。但如果這個隨機比特在這里不真的是隨機，而是我們想通信的另一個隱蔽信息——比方說你做點私活，想順帶把某些信息傳給對方，那么你就可以利用‘是說英語還是法語’這個選擇，來一位一位地傳遞額外信息。所以，從物理學啟發來看，有時候隨機選擇某種編碼方式，其實是最優的。如果你把一個自由能函數拿過來，那么發送所需的比特數就類似‘能量’，而對應的概率就像‘熵’。最佳方案就是用玻爾茲曼分布的方式選擇編碼。若某種編碼比另一種略長，你可以少用它，但并不是完全不用。結果就是，來自統計物理的結論會在這種有‘多種編碼可選’的通信理論中出現：比起只使用‘最便宜’的那個編碼方式，帶有隨機性的選擇反而更優。這就是一個小小的例子，展示了物理學是怎樣在通信或者編碼理論里出現的?！?/p>

主持人：這確實是一個很好的例子，也說明了多個學科思想在這里交匯。信息論中香農對‘熵’的研究如今已經在量子信息乃至物理系統的信息理解中遍地開花。我想順著‘協作’和‘信息傳遞’的話題往下說。物理學有大規模國際合作的悠久傳統，像歐洲核子研究中心（CERN）就是其中一個典型案例。這個機構由很多歷史因素促成，比如二戰結束后為了促進國際合作，卻也做出了了不起的成就，比如發現了希格斯玻色子，后來獲得了諾貝爾獎。這說明當一群非常聰明的人為同一個目標協同合作時，就能取得驚人的進展。我在想，如今我們在AI領域也可能需要類似于CERN那樣的大型國際合作。那會是什么樣子？大家怎么參與？它可能如何組織？又能做些什么？

Geoffrey Hinton：就目前的政治形勢而言，如果真要搞個AI領域的‘CERN’，那肯定得建在歐洲。但這里面有一個很大的問題——AI在研發致命自主武器上會很有用，而那些售賣武器的國家，如美國、俄羅斯、中國、以色列和英國，都可能想自己研發這類武器，不太可能愿意合作。AI同樣也有助于密碼攻擊和網絡攻擊等等。所以種種因素會讓各國都不太情愿做這種國際合作。假設當年CERN建立的時候，人們已經掌握了原子彈、氫彈，然后還存在某種比氫彈更強的大殺器，我們是否還能像CERN那樣地去探究高能物理、并且保持國際協作？可能就做不到了。當時他們之所以敢建CERN，是因為大家覺得‘我們已經有氫彈了，在高能物理上再怎么研究恐怕也造不出更可怕的武器’，于是可以安心合作。如果真的能讓各國聯合搞一個大型AI研究中心當然好，但我覺得政治阻力會非常大。各國政府恐怕都不會愿意。

主持人：也許我再問最后一個問題，然后就請現場觀眾提問。你剛才提到的類比，認為深度學習可能像大型、改變世界的武器，比如核武器。確實能看到很多相似之處：核彈背后的物理學理論其實是我在粒子物理研究生課程里要教的基礎知識；但是如果你真的挖到足夠的材料，就能造出毀滅性的炸彈。現在我們也面對AI這樣一種‘工具’，它無疑會帶來許多積極影響，但也可能被用來做非常糟糕的事情。我們應該如何在追求對AI的理解與追求安全之間取得平衡呢？

Geoffrey Hinton：我有一個比較明確的想法：我們不可能讓大家像在網上買東西那樣去買核武器用的可裂變材料。因為對核彈來說，最難的就是獲取可裂變材料。雖然整個過程都不容易，但得到可裂變材料最花錢，也最難。如果你想阻止別人擁有核武器，你就把他們制造可裂變材料的設施炸掉。所以肯定沒人會想隨意公開出售這類材料。但Meta卻開了一個非常糟糕的先例，他們把大型基礎模型的權重公開了。要知道，這些大模型能做什么主要受制于你訓練它所需的資金和數據量，而一旦你有了訓練好的模型權重，你只需要投入相對少得多的資源就可以‘微調’（fine-tune）它去做各種事情。所以我覺得他們放出這些模型權重是非常瘋狂的行為。有人把它叫做‘開源’，但它完全不像我們平時所說的‘開源代碼’。當你開源代碼時，人們可以審閱代碼說：‘喔，這行代碼有問題。’但你開源的是權重，沒人會去一行行看說：‘咦，這個權重有點可疑?！?大家只會拿到權重后，直接用它做別的事情，還起步就非常強大?？上莻€‘船’已經開走了（意指為時已晚）。他們公開了這些大型模型的權重，這意味著任何網絡罪犯只要能籌到幾十萬美元，就能拿到它，并自行做二次訓練。對不起，但現實就是這樣，非常糟糕。

主持人：既然這些東西都已經出現在世界上，你覺得我們還能從中學到什么？能幫助我們預防某個更大型模型帶來的災難嗎？

Geoffrey Hinton：我相當悲觀。我的朋友Yann LeCun（在Meta工作的）就非常樂觀；從某種程度上，你是什么樣的性格，就會影響你對未來的預判。而且有研究發現，悲觀的人往往更準確。有心理學研究表明，如果你問美國普通的健康人，‘接下來五年里，你或者你直系親屬遭遇嚴重車禍的幾率是多少？’ 他們可能會說1%，但真實概率可能是10%。再問他們‘未來五年你或你家人得癌癥的概率是多少？’ 他們也會低估。就人性而言，大家普遍低估糟糕情況出現的可能性。而偏執型精神分裂患者往往會高估，輕度抑郁的人則正好估得準。

問答環節

學生1：Hinton博士，你好！感謝您精彩的演講，不僅適合專業人士，也讓公眾受益匪淺。最近有本新書叫《Genesis》（注：由基辛格等人合著）。書中提到，應當在未來AI的研發中融入人類的道德基礎（ethos），并將其作為整個全球性監管框架的一部分。也就是您提到的，需要全球合作才能推動AI的發展，同時又有安全、倫理等方面的考慮，特別是在AGI（通用人工智能）或更高層次出現之前。每當一種新技術出現，人們總會討論應當何時監管。那現在對人工智能而言，是不是已經太晚了？或者我們現在監管是否為時尚早？

Geoffrey Hinton：首先，我們是沒法讓AI發展減速的，因為它在各行各業都有巨大價值。幾乎所有產業都能用上AI，比如在醫療、教育、材料設計（如應對氣候變化）等等領域都會非常有用。所以AI不會放慢腳步。問題在于：我們能不能讓它以安全的方式發展？現在看來，各國政府并沒有太強的政治意愿去推動這件事。大家會談到歧視、偏見之類的問題，因為那是他們懂的。但是，大多數人并沒有真正意識到這些系統其實已經能夠‘理解’它們在說什么。我們現在制造的是‘外星智能’，目前它們還在我們的控制之下，但我們卻正在把它們變成‘代理人’，也就是讓它們能夠自主對世界采取行動。在這種情況下，它們很快就會意識到，要實現自己的目標，首要的事情是獲取更多的控制權。因此我很擔心，現階段我們非常需要的是‘強有力且明智的政府’，由‘聰明且思慮周全的人’來掌權，而實際上現在并不是這樣的政治環境。

學生2：你好，Geoff。我想問一下關于‘冪律’的事情。有人提出這樣一個理論或觀點：只要我們給模型提供更多計算力和數據，性能就會相應地以對數形式提升。Sam Altman曾經提到，這種性能的增長與計算力、數據量的對數呈相關。但自從GPT-4發布后，我們似乎沒再看到那種質變式的飛躍，GPT-4之后的每一次語言模型更新都有點平淡無奇，比如GROK3也讓Elon Musk和XAI那邊十分吹捧，但其實性能并沒有特別突出。請問你覺得我們是不是已經在算力和數據層面遇到了瓶頸，需要另一些新方法了？

Geoffrey Hinton：我覺得說我們會遭遇‘收益遞減’是合理的，因為你每翻倍計算量才能得到一點點性能提升，從對數的角度看，這確實會越來越貴。但話說回來，單靠擴大規模就帶我們走了很遠，已經得到相當聰明的模型。再加上新想法、新的工程技巧，也會繼續推動進步。我會對‘就此停滯’感到非常驚訝。其實很多人早就斷言要‘停滯’，結果并沒有。當然，可能下一步要更多的好點子來繼續前進。就像摩爾定律為例，幾乎我這輩子，大家都在說‘摩爾定律就要到頭了，電腦不會再變快’?？墒聦嵤牵S著晶體管越做越小，計算機速度不停攀升；后來有人說當CPU主頻到達1GHz就沒法再提高了，但我們又走了一條‘垂直轉水平’的路——開始把計算做得越來越并行，比如NVIDIA的GPU，從而讓摩爾定律延續并甚至加速了。我覺得深度學習也會這樣：通過單純的規模擴張已經讓我們走到了這一階段，就像當年把CPU頻率越做越高。但接下來我們又能有新想法、新路徑，好比CPU轉向并行計算?，F在有太多聰明人在搞這件事，我相信會出現好創意讓它繼續發展。

學生3：你好。我想問一個關于主動推斷的理論問題。該理論中感覺神經元和運動神經元是并行的，而且它們緊密耦合。感覺神經元里產生的誤差信號會激活運動神經元來進行某種修正——這更多談的其實是激活值，而不是權重。但我在想，這里面有沒有可能存在類似‘反向傳播’的機制？就如果感覺和運動神經元并行運行，是否可能實現某種形式的反向傳播？

Geoffrey Hinton：的確，你可以在大腦里做出一個簡化版的反向傳播，只是沒法像數字計算機那么高效。有人推測小腦里可能就存在類似反向傳播的學習，因為視覺的輕微偏差會被用來訓練前庭系統，讓它變得更快。視覺偏差可以成為反向傳播的誤差信號，早就有人這樣猜測過。你也可以用時間差來替代反向傳播信號。表面上看，反向傳播是在前向傳播過程中發送神經元激活，在后向傳播中傳回每個神經元對誤差的敏感度（導數）。這是兩種完全不同的信息。但是你可以用某種時間差去表示那個‘誤差導數’——比如用兩次激活之間的差異來表示誤差信號。也有些證據表明，大腦也許在用這種時序差異來充當誤差導數。舉個例子，在視覺系統里，你有位置檢測神經元，也有運動檢測神經元。表面上，如果我想檢測運動，可以把兩次位置的差值拿來用就行，但大腦并沒有直接這么干，而是特意用一批專門的運動檢測神經元。有人推測，這可能是因為你需要用位置神經元兩次激活的差值來表示誤差導數，而不能把它們浪費在檢測運動上。我和Yoshua Bengio等人曾經寫過一篇論文，討論如何用時間差替代誤差導數，實現類似反向傳播的機制。當然，這種方法不會像數字計算機里那樣高效，它沒法在瓶頸位置容納海量信息傳遞。但如果神經網絡足夠寬松，容量富余，就能允許這樣做，并在一定程度上實現近似反向傳播。但究竟人腦是否真的這么干，目前我們還沒有非常確定的答案。試圖理解大腦在感知學習中做了什么，一直是頗為困難的事情。

學生4：非常感謝您精彩的演講，實在是太有意思了。我有很多問題想問，但只能選一個。我們剛才看了很多‘圖像生成’的案例（并非圖像識別），我想問一下，這和‘清醒狀態’與‘睡眠狀態’之間有沒有什么關系？就像在生成圖像時，已經訓練好的系統是否在一種‘睡眠狀態’里根據它學到的內容來進行生成呢？

Geoffrey Hinton：我得強調一點：玻爾茲曼機這個想法，雖然提出了在熱平衡條件下如何從統計物理中獲得學習信號，但現實中并沒有確鑿證據顯示大腦真這么干。而且，RBM在工程上其實也不是最好的方式。所以，也許大腦確實有某種‘用睡眠來進行反向清除或微調’的機制，但我并不認為它真的是在做玻爾茲曼機那一套。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

原文鏈接：https://www.youtube.com/watch?v=juif0T8NOsY&t=4130s

來源：官方媒體/網絡新聞

排版：Atlas

編輯：深思

主編：圖靈