人工智能之父Geoffrey Hinton，憑借他在人工智能領域的開創性工作榮獲2024年諾貝爾物理學獎。盡管他并非物理學家，但由于AI領域的革命性發展，他獲得此獎項的決定無疑揭示了AI對科學界的深遠影響。

在最近的接受TVO Today采訪中老爺子深入討論了自己對人工智能的看法，在這次最新訪談中，老爺子不僅談及了自己的成就和與Elon Musk的爭執，還分享了關于AI帶來的短期和長期風險，揭示了AI可能給人類帶來的災難性后果

AI的短期風險：濫用與誤用

Hinton在訪談中首先提到，人工智能的短期風險主要來自于其被惡意使用的可能性。他指出，這類濫用已經開始顯現，最直接的例子就是AI被用來進行大規模的網絡釣魚攻擊和假視頻制作，旨在誤導公眾。具體而言，Hinton提到，AI生成的內容如假視頻、假新聞已經變得難以辨識，詐騙者可以通過這些技術制造更加精準的虛假信息

他特別提到，大語言模型的崛起使得網絡釣魚攻擊變得更加高效。在2023到2024年之間，網絡釣魚攻擊的頻率增加了1200%。過去，釣魚郵件常常由于語法錯誤或拼寫不當而容易被識別為虛假信息，而現在，這些攻擊的語法和用詞都達到了接近完美的程度，這讓普通用戶很難辨認出其真偽。這種情況的惡化已經對全球網絡安全構成了顯著威脅。

AI的長期風險：智能超越人類，生死攸關

在探討長期風險時，Hinton指出，幾乎所有的人工智能專家都同意，AI最終會變得比人類更聰明，只是對于這個時刻的到來，科學界的看法分歧很大。有些專家認為，AI在20年內將超越人類，另一些人則認為這一進程可能會在3年內發生，甚至有少數人認為，AI的智能超越人類可能在一年之內實現。

Hinton認為，一旦AI變得比人類更智能，我們將面臨前所未有的風險。如果AI決定“接管”人類社會，甚至導致人類滅絕，這種情況并非空想。雖然他無法準確預測這一事件的發生時間，但他評估了這一可能性的概率為10%至20%。他強調，目前科學界并沒有足夠的基礎來準確評估這一概率，因為我們對AI如何超越人類的過程了解有限。

在Hinton看來，AI一旦具備足夠的智能，它有可能會選擇不再與人類合作，而是將我們排除在外，甚至可能主動采取行動摧毀人類。雖然這種情境不像電影《終結者》中描繪的那樣直接，但它仍然是一個值得深思的現實問題。

大公司為何必須增加AI安全研究投入

Hinton還談到了大型科技公司在AI安全方面的短視行為。他表示，現有的大公司通常專注于短期利潤（內涵OpenAI，），因此缺乏足夠的資源投入到AI的安全性研究上。相比之下，他認為這些公司應該將至少三分之一的資源用于AI安全，以確保人工智能的長期可控性。

Hinton特別指出，政府應當推動這些公司在AI安全方面進行更多的投入，并要求它們承擔起更多的社會責任。然而，現實情況卻是，大多數科技公司仍然對AI的潛在威脅視而不見，甚至在某些情況下，政府也未能充分介入這一問題。

全球合作：聯合應對AI帶來的生存威脅

對于AI所帶來的生存威脅，Hinton強調，全球合作是解決這一問題的關鍵。他認為，AI的安全問題已經不再是某個國家或地區的問題，而是全球性的挑戰。因此，中美等國應該為了全人類的利益而展開合作，盡管目前全球對于AI的監管機制還不完善，合作的道路仍然充滿挑戰。

他還提到，盡管全球存在分歧，特別是在AI研發的領導權問題上，但應對AI帶來的生存風險各國應當共同努力。Hinton對這一前景持謹慎樂觀態度，認為世界各國可以在面對AI威脅時展開更有效的合作。

與Elon Musk的爭執：AI的危害與輕率行為

Hinton與Elon Musk之間的公開爭執引起了廣泛關注。Hinton直言不諱地批評了Musk在AI安全問題上的輕率立場，特別是在Musk推動的一些與AI相關的技術和公司戰略方面。Hinton認為Musk對AI的態度過于樂觀，并沒有意識到AI帶來的潛在風險。兩人在公開場合的爭論涉及對AI安全的不同看法，Hinton指出，Musk的做法可能會削弱科學機構的權威，這對全球科技進步不利

Hinton還回顧了自己與Musk的一次私下通話。在那次通話中，Musk曾邀請Hinton成為他的AI公司X的顧問，但Hinton拒絕了這個提議。他透露，Musk雖然在某些問題上與他有共識，但在AI的未來風險問題上，Musk的看法顯然有所偏差。

AI對醫療與教育的影響：光明的前景

盡管Hinton對AI的風險提出了嚴峻的警告，他同樣強調了AI在醫療和教育領域的巨大潛力。在醫療領域，AI將極大提高診斷的準確性，幫助醫生更精確地判斷疾病，并能為每個患者提供個性化的治療建議。他認為，AI將在醫療行業發揮革命性作用，幫助醫療系統減少錯誤并提升服務質量。

在教育方面，AI的引入將能夠根據每個學生的具體學習情況提供定制化的輔導，顯著提高學生的學習效率。Hinton提到，AI在教學中的應用將不僅僅是一個工具，它將變革整個教育體系，特別是在個性化教育方面，AI的表現將遠超傳統的教學方式。

參考：

https://www.youtube.com/watch?v=YRQ4d8Rjmwg

?星標AI寒武紀，好內容不錯過?

用你的贊和在看告訴我～

求贊