吳承瀚

學人簡介：吳承瀚，浙江大學醫學院附屬第二醫院神經外科主治醫師，特聘研究員，研究生導師，留學生班主任。北京大學醫學部臨床醫學學士，上海交通大學醫學院神經外科碩士，比利時魯汶大學醫學院神經科學博士，美國斯坦福大學醫學院神經外科博士后。近期翻譯出版《照亮破碎之心》（湖南文藝出版社2024年）。本文系學人播客專訪吳承瀚老師的對話摘錄，全文見文末。

作為一名研究人員，我確實想推動相關技術的發展，但作為一個普通人，我對這些技術的未來持謹慎態度。這種矛盾心態與核能的研究類似。早期的核能研究可能會被用于發展原子彈，而今天的AI技術，發展速度極快，但未來如何影響人類社會，我們尚不清楚。

我對于《美麗新世界》或《1984》這樣的世界感到非常的恐懼。因為我認為如果我們走到那一天，那就意味著我們作為人類徹底失敗了。我們不應該像機器一樣活著，生活也不應當僅僅是為了某些極端的情況。如果大部分人最終成為某些既得利益者的工具，他們通過各種科技手段去控制這一群人，那么我們可以反思 一下：我們現在的社會是否已經有了類似的跡象？當然是有的。

正是基于這些原因，一個社會需要不斷地去討論，去公開地討論我現行的體制是否對當前的人類健康以及整個人類未來的發展是有益的。

作為科學家，我很在乎我研究的東西會不會毀滅人類。 我在 看《奧本海默》的時候，我感到這是一種很發人深省、甚至是很可怕的經歷，它讓我意識到人類距離自我毀滅有多么接近。

現在，我們似乎又正處在一個臨界點。我指的是人工智能這項新技術的存在。我認為人工智能的毀滅性可能性是絕對存在的。作為一名科學家，我覺得唯一的解決辦法就是持續不斷地討論，把這個問題擺到臺面上來，邀請所有關心此問題的人參與討論。這是人類唯一能夠避免自我毀滅的方法。否則，如果某個人、某個機構或團體獲得過大的力量，允許他們不加限制地自由發揮，結果可能會非常可怕，任何技術都是如此。

我首先擔心的是（人工智能）讓人變得愚笨。不是知識量減少，而是讓人失去思 考的能力。所謂的“人類種族滅亡”可能并不是指物理上的滅絕，而是人性的消失。舉個例子，我記得今年年初，OPEN AI的創始人發表過一些觀點，大致是說OPEN AI現在每天生成約1000億個單詞。地球上所有的人每天產生大約100萬億個單詞，雖然比人類少，但花費的時間少了大約100倍。

接著，他提出了一個問題：哪一天，機器創造的文字數量會超過人類？對我來說，這比恐怖故事還要可怕，因為一旦這種情況發生，世界會變成什么樣呢？而且，說不定現在這一刻，機器創造的文字數量已經接近甚至超過了人類，它們只差了100倍或1000倍，這個差距并不大。

對我而言，可能不是人類作為種族的毀滅，而是當某一天，機器創造的信息數量超過人類時，人們開始相信，甚至過度相信這些信息，對社會產生深遠影響。我認為，這種“毀滅”將是人類在思想和社會結構上的崩潰。

在小宇宙 APP 搜索 “ 學人 Scholar” ，或直接掃碼收聽全部內容。

[收聽指南_時間戳]

00:28《照亮破碎之心》及光遺傳學

13:33神經網絡與深度學習

17:47社交網絡立法與心理學發展

20:40未成年人使用科技產品的隱患

24:49腦機接口技術的發展是喜是憂

36:35國內外精神病患者康復體系的比較與借鑒

39:09國內心理咨詢行業的現狀與挑戰

51:31腦機接口技術的應用與前景

01:06:18藝術對研究者選擇道路的影響

01:10:28分享讀書記憶技術與人性的交織