今日，OpenAI CEO Sam Altman 在 X 平臺發(fā)布了一篇反思博客——回顧了OpenAI成立歷程和近兩年公司的風(fēng)波，最后展望了未來：“到 2025 年，我們可能會見證首批 AI 智能體進(jìn)入勞動力市場。”

而在剛剛過去的2024年，谷歌DeepMind研究科學(xué)家菲利克斯·希爾（Felix Hill）意外離世，引發(fā)硅谷AI圈沉痛哀悼。

在離世前，菲利克斯·希爾已在DeepMind工作近9年。早在2024年10月，他曾發(fā)表博客，揭示現(xiàn)代人工智能研究的巨大壓力。希爾在博客中提到，大眾對人工智能的高度關(guān)注，讓研究人員在社交場合中難以脫身，甚至在家中也無法躲避。

此外，公司間的激烈競爭、研究對公司底線的影響、財富增長帶來的焦慮、研究創(chuàng)新的困難、發(fā)表論文的問題以及初創(chuàng)企業(yè)的壓力等，都讓研究人員不堪重負(fù)。他還分享了自己因母親去世而精神崩潰，后在雇主支持下康復(fù)的經(jīng)歷，希望借此引發(fā)同行對壓力的關(guān)注，共同努力讓人工智能研究環(huán)境更具同情心和仁慈。

菲利克斯都經(jīng)歷了什么？絕筆揭露了人工智能研究的哪些問題？以下，Enjoy：

來源丨機(jī)器之心?????

「再見，菲利克斯！」

上周四，人工智能社區(qū)都在以自己的方式，對一位科學(xué)家進(jìn)行告別。

菲利克斯?希爾（Felix Hill），是 Google DeepMind 的一名研究科學(xué)家，在 2024 年 12 月 5 日去世。自 2023 年初以來，他一直在與嚴(yán)重的精神疾病作斗爭。

在離世之前，他已經(jīng)在 Google DeepMind 工作了近 9 年。

紐約大學(xué)計算機(jī)科學(xué)和數(shù)據(jù)科學(xué)教授、生物技術(shù)公司 Prescient Design 聯(lián)合創(chuàng)始人兼資深主管 Kyunghyun Cho 表示，我現(xiàn)在想起來還是很心痛。他寫了一篇文章來紀(jì)念自己與菲利克斯的相識和研究伙伴經(jīng)歷。

那是在 2014 年，Kyunghyun Cho 在蒙特利爾做博士后，指導(dǎo)老師是 Yoshua Bengio，而 Felix 當(dāng)時是剛到蒙特利爾的訪問學(xué)者。彼時 Kyunghyun Cho 正在探索可以處理長文的神經(jīng)機(jī)器翻譯系統(tǒng)，當(dāng) Felix 在 Kyunghyun Cho 的辦公桌前停下來并自我介紹時，他留下一句：語法不是問題。

這句話成為了此后幾年里 Kyunghyun Cho 幻燈片上的常客之一。如今到了大語言模型時代，我們也已經(jīng)理解了其中的意味。

菲利克斯和 Kyunghyun Cho 在這之后合作完成了一系列研究。

值得一提的是，在 2024 年 10 月，菲利克斯還留有一篇博客文章。

英偉達(dá)研究科學(xué)家 Jim Fan 表示：這是我讀過的最令人心碎的博客，因為它是如此真實，如此貼近心靈。

人工智能不應(yīng)該是 2000 億參數(shù)的壓力和痛苦。它曾經(jīng)是一個充滿咖啡香味的頓悟時刻、令人興奮的深夜 arXiv 之旅、讓我們臉上露出邪魅笑容的地方。但所有流入的資本和關(guān)注似乎都在迫使每個人都在陷入內(nèi)耗。 老黃總是告訴我們不要使用「打敗這個，粉碎那個」之類的短語。我們來這里是為了提升整個生態(tài)系統(tǒng)，而不是讓任何人走向滅亡。為什么不把我們的工作看作是把蛋糕做大 —— 我們需要先一起烤蛋糕，蛋糕越大越好，然后再分蛋糕。人工智能不是零和游戲，事實上，它可能是人類有史以來玩過的最具正和的游戲。我們作為一個社區(qū)應(yīng)該這樣做，互相照顧。向「競爭對手」表達(dá)愛意 —— 因為從宏觀上看，我們都是加速未來的共同作者。

我從未有幸在現(xiàn)實生活中認(rèn)識 Felix，但我喜歡他的研究品味，并為他的每篇新論文設(shè)置了 Google Scholar 提醒。他在智能體和 VLM 方面的工作對我產(chǎn)生了很大的影響。他本可以成為我的好朋友。我想認(rèn)識他，但我再也無法認(rèn)識他了。安息吧菲利克斯。愿來世不再有紛爭。

以下是博客內(nèi)容：

在過去兩年里，人工智能領(lǐng)域發(fā)生了不可逆轉(zhuǎn)的變化。

ChatGPT 的月度用戶已接近 2 億。2024 年 5 月，谷歌 Gemini 的訪問量接近 3.2 億次，人工智能的愛好者現(xiàn)在可以使用人工智能微波爐、人工智能牙刷甚至人工智能足球。

然而，對于我們許多從事人工智能工作的人來說，這種大眾興趣的蓬勃發(fā)展既是福也是禍。當(dāng)然，工資增加了，股票價格和公司市場估值也隨之提高。另一方面，這種變化也帶來了一系列獨特的壓力。

這篇博客的主題就是現(xiàn)代人工智能帶來的壓力。它針對的是那些從事人工智能工作的人（據(jù)保守估計，目前全世界約有 87% 的人工智能從業(yè)人員），尤其是那些從事人工智能研究的人。

最終，我希望通過談?wù)撌鞘裁醋屓斯ぶ悄苎芯砍錆M壓力，能讓我們這些有幸在這一領(lǐng)域工作的人生活得更快樂一些。因為，盡管目前一片混亂，但這仍然是一個美妙而充實的職業(yè)，一個有可能解決科學(xué)、哲學(xué)乃至人類自身許多重大問題的職業(yè)。

無處可逃

幾個月前，我參加了一個朋友的 40 歲生日聚會。我們是很好的朋友，所以我認(rèn)識很多客人，有些還很熟悉。但我并不認(rèn)識他們所有人。

在那些我最不熟悉的人當(dāng)中，我發(fā)現(xiàn)了一個奇怪的現(xiàn)象。

盡管我身體不是很好（這點稍后再說），顯然也不熱衷于交談，但我周圍還是排起了小隊。僅僅因為大家知道我在 DeepMind 工作，人們就想和我交談。

而且不是關(guān)于足球或 80 年代音樂之類的治療性話題。這些人想聊的是我最不想去想的一件事：人工智能。這么多人對我的工作感興趣固然讓我受寵若驚，但這也提醒了我過去兩年發(fā)生了多大的變化。銀行家、律師、醫(yī)生和管理顧問都想了解我對 ChatGPT 的看法；雖然很少有人聲稱在工作中直接使用這些 LLM，但他們堅信人工智能領(lǐng)域正在發(fā)生一些他們應(yīng)該了解的事情。

作為一名研究人員，我相信你一定能體會這種在社交場合無法脫身的感覺。

但情況更糟。我甚至在自己家里都不安全。

因為害怕引發(fā)焦慮，我早就不看新聞了。但即使是在看足球、VH1、蒙塔巴諾探長或埃萊娜?費蘭特（Elena Ferrante）的《那不勒斯四部曲》（Neapolitan Quartet）的改編影視作品時，廣告中也充斥著關(guān)于人工智能的內(nèi)容。

這時候，我常常想收拾行囊，跨越大陸，加入一個與世隔絕的教派。不過，如果現(xiàn)階段連禪修也在某種程度上被人工智能滲透了，我不會感到驚訝。

隱性競爭

幾家大公司似乎都在爭相開發(fā)最大、最好的大型語言模型，這本身就給人一種壓力，無論你為誰工作。

目前，從事人工智能研究就像是在參加一場戰(zhàn)爭。眾所周知參戰(zhàn)會導(dǎo)致嚴(yán)重的后果，包括心理變態(tài)、離婚和自殺。

當(dāng)然，這并不是說參與人工智能研究等同于「現(xiàn)實戰(zhàn)爭」中的肉搏。但我從自己的經(jīng)歷中了解到，兩者之間的相似之處是真實存在的，盡管有些微妙。

底線工作

通常情況下，工業(yè)界的研究人員并不習(xí)慣于他們的工作對雇主的底線產(chǎn)生直接和即時的影響。

當(dāng)然，很多研究人員都夢想有機(jī)會產(chǎn)生這樣的影響。只是以前這種情況十年才會出現(xiàn)一次。

在大多數(shù)情況下，目前對 LLM 進(jìn)行基礎(chǔ)研究的結(jié)果都是對模型性能的微小且可能是短期的擾動。然而，由于公眾估值與 LLM 的表現(xiàn)有著千絲萬縷的聯(lián)系，這些擾動反過來又會導(dǎo)致股價出現(xiàn)數(shù)十億美元的波動。

這種動態(tài)變化當(dāng)然會給人工智能研究人員帶來巨大壓力，而在 2022 年之前，人工智能研究人員在研究生院、博士后研究期間，甚至在工作中，都并未對這種動態(tài)變化有所準(zhǔn)備。

錢，錢，錢

大多數(shù)人工智能研究人員，尤其是我們這些超過一定年齡的人，從事研究工作并不是為了賺錢。從事自己熱愛的工作卻能獲得大筆收入，這聽起來像是靈丹妙藥，但也會引發(fā)強(qiáng)烈的焦慮。尤其是如果導(dǎo)致收入增加的外部因素不在你的控制范圍之內(nèi)，并且 / 或者會讓你對工作的熱愛大打折扣。

無論人工智能是否與此有關(guān)，有大量證據(jù)表明，突然積累的財富會導(dǎo)致各種問題；看看那些經(jīng)過多年努力終于大紅大紫的演員或歌手就知道了。成癮、人際關(guān)系破裂、友誼破裂，甚至自殺，這些都是比較常見的癥狀。

科學(xué)家不發(fā)揮作用

LLM 的規(guī)模、簡便性和有效性使得我們很難進(jìn)行相關(guān)的「科學(xué)」研究，即立即使 LLM 變得更好的「科學(xué)」研究。

主流的 LLM 研究人員已經(jīng)開始接受 Sutton 那篇《苦澀的教訓(xùn)》，即除了規(guī)模之外，幾乎不需要任何創(chuàng)新。

而且，即使在理論上有可能實現(xiàn)實質(zhì)性創(chuàng)新（這肯定是有可能的），要實現(xiàn)創(chuàng)新也往往需要在不同條件下對規(guī)模最大的 LLM 進(jìn)行反復(fù)訓(xùn)練。即使是最大的公司也無力承擔(dān)。對于一名「普通」的研究科學(xué)家來說，這可能會讓人感到難以承受。

對于習(xí)慣于在小型（5-10 人）團(tuán)隊中工作的工業(yè)科學(xué)家來說，這些條件是很困難的。但對于學(xué)術(shù)界的科學(xué)家來說，這種情況肯定更為嚴(yán)重：博士、博士后和人工智能 / CS/ML 教職員工。

發(fā)表論文

雖然學(xué)術(shù)界人士可以（也應(yīng)該）繼續(xù)發(fā)表從 LLM 實驗中獲得的見解，但對于工業(yè)界的科學(xué)家來說，發(fā)表的問題就不那么明確了。

長期以來，發(fā)表論文一直是科學(xué)進(jìn)程的固有組成部分，也一直是人工智能研究的核心原則。與我交談過的大多數(shù)人工智能研究人員，尤其是研究科學(xué)家，都同意我的觀點，即發(fā)表論文是我們職業(yè)生涯的一個重要方面。

但是，至少在業(yè)界，發(fā)表論文是否是一個人研究的可行成果，這個問題在過去兩年里變得越來越不明確。能提高 LLM 水平的小訣竅等同于 LLM 大戰(zhàn)中潛在的關(guān)鍵武器。泄露這些秘密是否會給資助研究的機(jī)構(gòu)帶來好處，始終是一個「微妙」的問題。

這一切都意味著研究人員經(jīng)常無法預(yù)知自己想法的命運，至少在我看來，這會給他們帶來巨大的壓力。

初創(chuàng)企業(yè)

當(dāng)然，擺脫這些憂慮的一個可行辦法是提出科學(xué)愿景，籌集一些資金，成立一家初創(chuàng)公司。事實上，當(dāng)前人工智能初創(chuàng)企業(yè)（無論規(guī)模大小）的激增表明，有很多科學(xué)家選擇了這條路。

但是，成為創(chuàng)始人并不是避免壓力相關(guān)問題的萬全之策。事實上，做這件事的壓力是出了名的大；即使在目前投資者熱情高漲的情況下，許多資金充足的人工智能初創(chuàng)企業(yè)也會失敗。

我從自己的經(jīng)歷中了解到，成為創(chuàng)始人是一段特別孤獨的旅程。對于雄心勃勃的科學(xué)家來說，這無疑是一個可行的選擇，但它不可能讓做科學(xué)變得容易，也不可能減輕壓力。

為什么我要在博客里傾訴壓力

在人工智能領(lǐng)域，過去兩年是混亂和瘋狂的兩年，但對我個人來說，這兩年也是特別動蕩的兩年。

2023 年 4 月，我母親在與老年癡呆癥長期斗爭后去世。當(dāng)時我因急性精神病住進(jìn)了精神病院，壓力可能是一個重要因素。在隨后的 12 個月里，我理論上在康復(fù)，但實際上卻處于極度焦慮和自殺性抑郁的狀態(tài)。在此期間，我非常幸運，因為我的雇主理解我的處境（以及我對公司的價值），并為我提供了持續(xù)的治療和精神支持。

在又經(jīng)歷了 6 個月瀕臨生命危險的抑郁之后，我開始感覺好些了，最近我覺得可以把我的經(jīng)歷寫出來了。我認(rèn)識到，壓力和焦慮是相輔相成的；事實上，它們最終可能是一回事。當(dāng)然，就像任何適應(yīng)性特征一樣，焦慮也有好處（例如提高工作效率），但當(dāng)焦慮變成惡性時，后果可能會相當(dāng)嚴(yán)重。

在反思過去兩年的人工智能研究時，我試圖重新學(xué)習(xí)如何成為一名人工智能研究人員，這讓我在本博客中分享了自己的見解。當(dāng)然，分享這些見解并不能解決所有問題，但在最黑暗的時刻給我?guī)硐Ｍ膸准轮唬褪俏抑牢也⒉还聠巍Ｈ绻悻F(xiàn)在正在遭受痛苦，相信我，你并不孤單。

社交焦慮

我已經(jīng)介紹了許多壓力或焦慮的催化劑，這些壓力或焦慮目前可能困擾著從事人工智能研究的人。但有一種壓力我沒有提及，因為我很幸運，從未親身經(jīng)歷過。相反，我是從與朋友和同事的親密交談中了解到它的。

這種壓力就是社交焦慮。

據(jù)朋友們說，社交焦慮癥患者在群體交往中會遇到困難。這在現(xiàn)代人工智能世界中是很困難的，因為在這個世界中，大型項目團(tuán)隊和大規(guī)模（通常是跨洲際）合作是必不可少的。目前行業(yè)內(nèi)的人才高流失率只會讓情況變得更糟，因為成熟的團(tuán)隊（通常起到社交安全網(wǎng)的作用）可能會在一夜之間被摧毀。人員流失也會導(dǎo)致信任問題，因為以前可靠的盟友會離開，轉(zhuǎn)投 「敵人」的研究團(tuán)隊。

好消息是，社交焦慮是可以克服的，就像我迄今為止討論過的所有焦慮或壓力一樣。這個過程可以從培養(yǎng)自然支持網(wǎng)絡(luò)開始，比如家人和「非人工智能」朋友。但關(guān)鍵的第二步是，我們所有從事人工智能工作的人都要開始并繼續(xù)進(jìn)行有關(guān)壓力的坦誠對話。

對此，如果你有任何想法，請?zhí)峁┙?jīng)驗，看看我們是否能讓人工智能研究不僅成為一個充滿活力和智力挑戰(zhàn)的地方，同時也成為一個富有同情心和仁慈的地方。

參考內(nèi)容：

https://docs.google.com/document/d/1aEdTE-B6CSPPeUWYD-IgNVQVZM25f7MF-u9qn5KJJvo/mobilebasic

https://x.com/kchonyc/status/1874768078044868708

https://x.com/DrJimFan/status/1874959979553427815