（關(guān)注公眾號(hào)設(shè)為標(biāo)，獲取AI深度洞察）

全文 4,000字 | 閱讀約15分鐘

諾貝爾基金會(huì)昨日首次公開(kāi)了對(duì)2024年物理學(xué)獎(jiǎng)得主Geoffrey Hinton的官方采訪視頻。作為人工智能領(lǐng)域的傳奇人物，Hinton教授在這段珍貴的訪談中不僅分享了他獲獎(jiǎng)的有趣經(jīng)歷，更對(duì)AI的未來(lái)發(fā)展做出了令人震驚的預(yù)測(cè)。

"我估計(jì)在未來(lái)5到20年內(nèi)，AI有50%的幾率變得比人類更聰明。" Hinton教授在采訪中表示，這一判斷來(lái)自他對(duì)當(dāng)前AI發(fā)展速度的觀察和專業(yè)評(píng)估。作為神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)，辛頓的預(yù)測(cè)值得我們深思。當(dāng)被問(wèn)及我們還有多少時(shí)間來(lái)應(yīng)對(duì)AI超越人類智慧的挑戰(zhàn)時(shí)，他指出："可能會(huì)更長(zhǎng)，也可能更短，但20年內(nèi)發(fā)生的可能性很大。"Hinton教授在采訪中坦言，他曾經(jīng)以為獲得諾貝爾物理學(xué)獎(jiǎng)是一場(chǎng)夢(mèng)。"我不是物理學(xué)家，這可能是惡作劇，"他回憶道，"我甚至做了統(tǒng)計(jì)推理：一個(gè)試圖理解大腦如何工作的心理學(xué)家獲得諾貝爾物理學(xué)獎(jiǎng)的幾率有多大？我估計(jì)大概是兩百萬(wàn)分之一。"

這位被譽(yù)為"AI教父"的科學(xué)家不僅分享了他如何從主流學(xué)界的質(zhì)疑中堅(jiān)持自己的研究方向，還深入討論了AI帶來(lái)的短期和長(zhǎng)期風(fēng)險(xiǎn)。從就業(yè)替代到假視頻傳播，從網(wǎng)絡(luò)攻擊到可能的生物武器設(shè)計(jì)，Hinton的警告既有深度也不乏緊迫感。

文稿整理

主持人： 歡迎來(lái)到今天的采訪。我們非常榮幸地邀請(qǐng)到2024年諾貝爾物理學(xué)獎(jiǎng)得主Geoffrey Hinton教授。教授，恭喜您獲獎(jiǎng)！首先，我想問(wèn)您，您是如何得知自己獲得諾貝爾物理學(xué)獎(jiǎng)的？

Geoffrey Hinton：謝謝。那天我正在加利福尼亞的一家酒店房間里休息，手機(jī)放在床頭柜上，屏幕朝下，而且是靜音模式。我當(dāng)時(shí)側(cè)臥著，手機(jī)剛好在我的視線范圍內(nèi)。突然，手機(jī)屏幕亮起并開(kāi)始震動(dòng)，屏幕邊緣露出一點(diǎn)光亮。我當(dāng)時(shí)在加利福尼亞，而我認(rèn)識(shí)的大多數(shù)人都在東海岸，所以我很好奇是誰(shuí)會(huì)給我打電話。我拿起手機(jī)，看到一個(gè)我不認(rèn)識(shí)的國(guó)際電話號(hào)碼，區(qū)號(hào)和國(guó)家代碼都不熟悉。接聽(tīng)后，一個(gè)帶有瑞典口音的人問(wèn)我是否是杰弗里·辛頓，然后告訴我獲得了諾貝爾物理學(xué)獎(jiǎng)。

我的第一反應(yīng)是：“等等，我不是物理學(xué)家，這可能是惡作劇。”我懷疑這不太可能是真的。但他接下來(lái)所說(shuō)的話聽(tīng)起來(lái)很可信，隨后又有其他帶著瑞典口音的人加入通話，我才逐漸確信這是真實(shí)的。不過(guò)，在接下來(lái)的兩天里，我一直覺(jué)得這可能是個(gè)夢(mèng)。我甚至做了一些統(tǒng)計(jì)推理：一個(gè)試圖理解大腦如何工作的心理學(xué)家獲得諾貝爾物理學(xué)獎(jiǎng)的幾率有多大？我估計(jì)大概是兩百萬(wàn)分之一，這還是比較寬松的估計(jì)。而如果這是在夢(mèng)中，我獲得諾貝爾物理學(xué)獎(jiǎng)的幾率可能是二分之一。所以，夢(mèng)中的可能性比現(xiàn)實(shí)高一百萬(wàn)倍。

我開(kāi)始想，這可能就像小時(shí)候夢(mèng)到自己會(huì)飛一樣。夢(mèng)里你覺(jué)得自己能飛，感覺(jué)很美妙，但醒來(lái)后發(fā)現(xiàn)只是個(gè)夢(mèng)。一個(gè)月后，你再次夢(mèng)到自己會(huì)飛，記得上次是個(gè)夢(mèng)，但這次感覺(jué)像是真的。我以為這次獲獎(jiǎng)可能也是這樣，所以有幾天我一直在等待，看自己會(huì)不會(huì)“醒來(lái)”。但我至今還沒(méi)“醒來(lái)”。

主持人：您在學(xué)術(shù)世家長(zhǎng)大，這種環(huán)境對(duì)您產(chǎn)生了怎樣的影響？

Geoffrey Hinton：我在成長(zhǎng)過(guò)程中，學(xué)術(shù)上的成功壓力很大。我從小就知道，要么成為一個(gè)成功的學(xué)者，要么被視為失敗者。

主持人：是什么讓您對(duì)人工智能（AI）產(chǎn)生興趣的？

Geoffrey Hinton：我有一個(gè)高中同學(xué)，他比我聰明很多。大約在16或17歲時(shí)，有一天他來(lái)學(xué)校，談?wù)摯竽X中的記憶可能像全息圖一樣分布在整個(gè)大腦中。那時(shí)全息圖剛剛被發(fā)明，時(shí)間大約是1965年左右。他對(duì)心理學(xué)家Lashley的理論很感興趣，即記憶是分布在許多神經(jīng)元中的。我對(duì)此也非常感興趣，從那以后，我一直在思考大腦是如何工作的。

主持人：AI帶來(lái)的最大風(fēng)險(xiǎn)是什么？

Geoffrey Hinton：AI的風(fēng)險(xiǎn)分為短期和長(zhǎng)期兩種。短期風(fēng)險(xiǎn)非常重要且緊迫，主要是人們?yōu)E用AI。例如，AI可能取代大量工作崗位，導(dǎo)致貧富差距加大，因?yàn)锳I提高的生產(chǎn)力并沒(méi)有公平分配，有些人失去工作，而另一些人變得更富有，這對(duì)社會(huì)不利。我們需要想辦法應(yīng)對(duì)，但目前還不清楚該怎么做。其他短期風(fēng)險(xiǎn)包括假視頻，這已經(jīng)開(kāi)始發(fā)生；還有網(wǎng)絡(luò)攻擊，比如惡意分子利用大型AI模型設(shè)計(jì)更高效的攻擊。最初可能是制作更有效的釣魚(yú)攻擊，去年釣魚(yú)攻擊增加了1200%，很大程度上是因?yàn)榇笮驼Z(yǔ)言模型讓這些攻擊更具針對(duì)性。此外，AI還能更高效地設(shè)計(jì)類似新冠病毒的生物武器，未來(lái)這種設(shè)計(jì)將變得相對(duì)容易，這意味著一個(gè)瘋狂的人就能造成巨大混亂。如果公開(kāi)大型模型的權(quán)重，風(fēng)險(xiǎn)會(huì)更大，因?yàn)槿藗兛梢晕⒄{(diào)這些模型去做壞事。現(xiàn)在有些人已經(jīng)開(kāi)始公開(kāi)模型權(quán)重，我認(rèn)為這是瘋狂的。

還有歧視和偏見(jiàn)的問(wèn)題。例如，如果你用歷史數(shù)據(jù)訓(xùn)練一個(gè)AI模型來(lái)決定囚犯是否應(yīng)該獲得假釋，而歷史數(shù)據(jù)表明白人囚犯能獲假釋，黑人囚犯不能，AI就會(huì)延續(xù)這種模式。我對(duì)此不像其他人那么擔(dān)心，因?yàn)锳I模型的權(quán)重可以被固定，我們可以測(cè)量其歧視程度，而人類不行。如果測(cè)量人的歧視，他們會(huì)意識(shí)到自己在被測(cè)試，行為會(huì)改變，就像大眾汽車排放測(cè)試的作弊事件一樣。所以，我認(rèn)為AI的歧視和偏見(jiàn)更容易被測(cè)量和糾正。我們的目標(biāo)不應(yīng)該是完全消除歧視和偏見(jiàn)，而是讓AI的歧視和偏見(jiàn)遠(yuǎn)低于人類，低于它們所替代的系統(tǒng)。這是短期風(fēng)險(xiǎn)中的一個(gè)重要問(wèn)題，但我們?cè)谶@方面有望取得進(jìn)展。

長(zhǎng)期風(fēng)險(xiǎn)是AI超越人類智慧后可能帶來(lái)的問(wèn)題。研究人員對(duì)AI何時(shí)會(huì)變得比人類更聰明存在分歧，但大多數(shù)領(lǐng)先的研究者認(rèn)為，除非人類自我毀滅，這遲早會(huì)發(fā)生。我們不知道當(dāng)AI比我們更聰明時(shí)會(huì)發(fā)生什么，因?yàn)槲覀儚奈唇?jīng)歷過(guò)這種情況。有人說(shuō)一切都會(huì)沒(méi)事，有人說(shuō)AI必然會(huì)接管，這兩種說(shuō)法都很瘋狂。我們真的不知道會(huì)發(fā)生什么，正因?yàn)槿绱耍覀儸F(xiàn)在需要做大量基礎(chǔ)研究，確保我們能控制比我們更聰明的AI。控制更聰明事物的例子很少。我知道的唯一好例子是嬰兒控制母親，但兩者的智力差距不大，而且進(jìn)化為此付出了巨大努力。通常情況下，更聰明的事物不會(huì)被不那么聰明的事物控制。有些人認(rèn)為我們可以設(shè)計(jì)AI，讓它永遠(yuǎn)受控，但這些AI會(huì)像我們一樣智能，它們的運(yùn)作方式與我們非常相似。它們不是傳統(tǒng)意義上的計(jì)算機(jī)代碼——你寫(xiě)一段代碼告訴神經(jīng)網(wǎng)絡(luò)如何學(xué)習(xí)，但一旦它開(kāi)始學(xué)習(xí)，它會(huì)從數(shù)據(jù)中提取結(jié)構(gòu)，最終的系統(tǒng)不是任何人直接編程的。我們無(wú)法完全預(yù)測(cè)它的行為，就像教育孩子一樣，我們只能通過(guò)獎(jiǎng)勵(lì)好行為、懲罰壞行為來(lái)引導(dǎo)它們。所以，訓(xùn)練AI時(shí)，我們需要讓它們學(xué)習(xí)良好的行為，而不是像現(xiàn)在這樣，用所有能獲取的數(shù)據(jù)訓(xùn)練它們，包括連環(huán)殺手的日記。如果你在養(yǎng)育孩子時(shí)，讓孩子通過(guò)閱讀連環(huán)殺手的日記學(xué)習(xí)閱讀，你會(huì)覺(jué)得這是個(gè)壞主意，但我們現(xiàn)在對(duì)AI的訓(xùn)練方式卻類似。

主持人：您認(rèn)為我們還有多少時(shí)間來(lái)應(yīng)對(duì)AI超越人類智慧的挑戰(zhàn)？

Geoffrey Hinton：我估計(jì)在未來(lái)5到20年內(nèi)，AI有50%的幾率變得比人類更聰明。可能會(huì)更長(zhǎng)，也可能更短，但20年內(nèi)發(fā)生的可能性很大。其他研究人員可能有不同看法，但這是我的猜測(cè)。實(shí)際上，這是一年前的猜測(cè)，所以現(xiàn)在可能是4到19年內(nèi)。

主持人：作為一名科學(xué)家，成功需要哪些個(gè)人特質(zhì)？

Geoffrey Hinton：這取決于你所在的領(lǐng)域，以及你是否在嘗試與主流觀點(diǎn)不同的研究。對(duì)于神經(jīng)網(wǎng)絡(luò)，長(zhǎng)期以來(lái)它們被認(rèn)為是荒謬的，許多人認(rèn)為它們永遠(yuǎn)不會(huì)起作用。在這樣的領(lǐng)域工作，你需要對(duì)自己有信心，即使所有人都說(shuō)你錯(cuò)了。我小時(shí)候有兩個(gè)經(jīng)歷對(duì)此很有幫助：

一是我的父母是無(wú)神論者，但他們把我送進(jìn)了一所基督教私立學(xué)校，從7歲開(kāi)始。那里的老師和同學(xué)都信神，但我覺(jué)得這明顯是胡說(shuō)。后來(lái)我發(fā)現(xiàn)，確實(shí)有很多人不信神。這個(gè)經(jīng)歷讓我在面對(duì)神經(jīng)網(wǎng)絡(luò)被普遍質(zhì)疑時(shí)，能夠堅(jiān)持自己的信念。

另一個(gè)經(jīng)歷是，我大約9歲時(shí)，和父親一起聽(tīng)了一個(gè)關(guān)于大陸漂移的廣播節(jié)目。當(dāng)時(shí)，大多數(shù)地質(zhì)學(xué)家認(rèn)為大陸漂移是胡說(shuō)八道。這個(gè)理論大約在1920年由氣候?qū)W家韋格納提出，他有很多證據(jù)表明大陸會(huì)移動(dòng)，但他不是地質(zhì)學(xué)家，地質(zhì)學(xué)家們認(rèn)為這是無(wú)稽之談，拒絕將其寫(xiě)入教科書(shū)，覺(jué)得這會(huì)誤導(dǎo)學(xué)生。但最終證明大陸漂移是正確的。這與神經(jīng)網(wǎng)絡(luò)的情況很相似：我們有證據(jù)表明神經(jīng)網(wǎng)絡(luò)應(yīng)該能學(xué)習(xí)復(fù)雜任務(wù)，因?yàn)槿祟惔竽X就是這樣工作的，但大多數(shù)AI研究人員認(rèn)為知識(shí)必須是天生的，或通過(guò)符號(hào)規(guī)則學(xué)習(xí)，他們甚至拒絕在期刊上發(fā)表神經(jīng)網(wǎng)絡(luò)相關(guān)內(nèi)容。現(xiàn)在，神經(jīng)網(wǎng)絡(luò)領(lǐng)域已經(jīng)發(fā)生了范式轉(zhuǎn)變。

主持人：您對(duì)年輕研究者有什么建議？

Geoffrey Hinton：我通常的建議是，如果你有一個(gè)與眾不同的想法，并且你認(rèn)為它是正確的，不要輕易放棄，除非你能找出它為什么是錯(cuò)的。大多數(shù)時(shí)候，這樣的想法是錯(cuò)誤的，你可能漏掉了什么或沒(méi)理解透徹。但偶爾，你會(huì)發(fā)現(xiàn)一個(gè)正確的想法。你需要堅(jiān)持自己的信念，忽視他人的意見(jiàn)。我很擅長(zhǎng)忽視他人的意見(jiàn)。

主持人：科學(xué)家在社會(huì)中有什么責(zé)任？

Geoffrey Hinton：科學(xué)家對(duì)AI技術(shù)的理解比政客和公眾更深入。科學(xué)家們?nèi)匀淮嬖诜制纾热缬行┤苏J(rèn)為大型語(yǔ)言模型并不真正理解語(yǔ)言，盡管有證據(jù)表明它們確實(shí)理解；一些科學(xué)家認(rèn)為這只是統(tǒng)計(jì)技巧。科學(xué)家有責(zé)任在社會(huì)中發(fā)揮作用，特別是在AI可能帶來(lái)的風(fēng)險(xiǎn)方面。

主持人：回顧您的職業(yè)生涯，您有什么遺憾？

Geoffrey Hinton：我希望我能更早關(guān)注AI的生存威脅。我一直認(rèn)為超級(jí)智能還很遙遠(yuǎn)，我們可以晚點(diǎn)再擔(dān)心，當(dāng)時(shí)的重點(diǎn)是讓AI更智能。但現(xiàn)在問(wèn)題已經(jīng)迫在眉睫。圖靈早在20世紀(jì)50年代就提到過(guò)這個(gè)問(wèn)題，他說(shuō)一旦AI變得比我們更聰明，我們就完了，但他沒(méi)深入探討。大多數(shù)人不到問(wèn)題臨近時(shí)不會(huì)思考這個(gè)，我希望我能更早開(kāi)始思考。

主持人：您打算如何使用獎(jiǎng)金？

Geoffrey Hinton：我將一半的獎(jiǎng)金捐贈(zèng)給一個(gè)在加拿大培訓(xùn)原住民社區(qū)居民生產(chǎn)安全飲用水的組織。這些人會(huì)留在社區(qū)，確保社區(qū)有安全飲用水。在加拿大這樣一個(gè)富裕國(guó)家，安大略省20%的原住民社區(qū)沒(méi)有安全飲用水，這太離譜了。我對(duì)此感同身受，因?yàn)槲以诿佤旑I(lǐng)養(yǎng)了一個(gè)孩子，在那里待了兩個(gè)月，當(dāng)?shù)刈詠?lái)水有毒，不能喝，日常生活都圍繞如何獲取安全水展開(kāi)，這是個(gè)巨大的負(fù)擔(dān)。所以，加拿大還有人面臨這種問(wèn)題讓我覺(jué)得很瘋狂。

另一半獎(jiǎng)金，我和20世紀(jì)80年代的同事Terry Sejnowski合作研究波爾茲曼機(jī)時(shí)，曾約定如果其中一人獲得諾貝爾獎(jiǎng)，獎(jiǎng)金要平分。我認(rèn)為沒(méi)有他就沒(méi)有這個(gè)理論，他也一樣。當(dāng)時(shí)我們覺(jué)得這個(gè)學(xué)習(xí)算法太優(yōu)雅了，確信大腦就是這樣工作的，還以為可能會(huì)因此獲得諾貝爾生理學(xué)或醫(yī)學(xué)獎(jiǎng)。這次我意外因波爾茲曼機(jī)等研究獲得諾貝爾獎(jiǎng)后，我聯(lián)系他問(wèn)要把他的那份送到哪里。他說(shuō)這不僅僅是因?yàn)椴柶澛鼨C(jī)，還包括他沒(méi)參與的后續(xù)工作，所以拒絕拿錢(qián)。最后我們妥協(xié)，用這部分獎(jiǎng)金設(shè)立一個(gè)以他命名的獎(jiǎng)項(xiàng)，獎(jiǎng)勵(lì)有創(chuàng)新性大腦工作理論的年輕研究者，頒獎(jiǎng)將在我們領(lǐng)域的年度會(huì)議上進(jìn)行。我覺(jué)得他本可以是諾貝爾獎(jiǎng)的第三位得主，他對(duì)此貢獻(xiàn)巨大，這是個(gè)很好的折中方式。

星標(biāo)公眾號(hào)， 點(diǎn)這里 1. 點(diǎn)擊右上角 2. 點(diǎn)擊"設(shè)為星標(biāo)" ← AI深度研究員 ? ← 設(shè)為星標(biāo)

參考資料：https://www.youtube.com/watch?v=66WiF8fXL0k&t=300s

來(lái)源：官方媒體/網(wǎng)絡(luò)新聞

排版：Atlas

編輯：深思

主編: 圖靈