首席執行官變動與新挑戰

OpenAI 剛剛在一篇博客中宣布，其首席執行官 Sam Altman 已經從 5 月新成立的內部安全與安保委員會中辭職。該委員會被設立為獨立機構，負責重要的安全監督工作。

這個獨立委員會的領導者為卡內基梅隆大學的 Zico Kolter 教授。其成員陣容強大，包括 Quora CEO Adam D'Angelo、美國退役陸軍將軍 Paul Nakasone 以及前索尼高管 Nicole Seligman。他們均是 OpenAI 董事會的現任成員。

在 Sam Altman 辭去職務后，這個委員會就已經對 OpenAI 最新的模型 o1 完成了一次全面的安全性審查，確保所有潛在的安全問題在模型發布前得到妥善解決。這一舉措對于保障相關項目的安全性具有至關重要的意義。

持續的安全審查與預警系統

在 Sam Altman 離開后， OpenAI的內部安全與保護委員會將繼續定期接受來自公司安全團隊的最新情況匯報，并擁有在識別出未解決的安全隱患時推遲新 AI 模型發布的權力。

此次變動緊隨美國立法者對該公司的加強審查。不久前，有五位參議員在一封公開信中向 Sam Altman 表達了對 OpenAI 安全策略的嚴重關切。與此同時，一批專注于人工智能長期風險的核心員工選擇離開，他們中的一些前研究人員甚至公開批評 Sam Altman，認為 Sam Altman在人工智能監管方面的立場可能會損害公司的商業利益。

壓力山大：監管與批評

這種批評似乎與 OpenAI 在聯邦游說方面不斷加大的投入相呼應。公司在 2024 年上半年的游說預算已經增至 80 萬美元，相比之下， 2023 年整個全年僅為 26 萬美元。此外， Sam Altman 還被任命為國土安全部人工智能安全與保障委員會的成員，該委員會負責為美國關鍵基礎設施的人工智能開發和部署提供策略指導。這些一系列動作標志著 Sam Altman在人工智能安全領域的深遠影響和持續貢獻。

游說活動與外部角色

盡管 Sam Altman 不再擔任 OpenAI 安全與保障委員會的一員，但有觀點擔憂委員會可能不會采取決策，這些決策如果對 OpenAI 的商業目標產生重大影響。公司在 5 月的聲明中提到，他們致力于解決 “合理的批評 ”，但這種評判標準似乎還是較為主觀。

前董事會成員，如 Helen Toner 和 Tasha McCauley，公開對公司依賴自我監管的能力表達了疑慮，他們認為公司面臨的利潤驅動壓力可能會影響其監管效力。

籌資與公司未來方向的擔憂

此外，據報道 OpenAI 正在努力籌集超過 65 億美元資金，預計此舉將使公司估值飆升至超過 1500 億美元。這種資金動向引發了一系列擔憂。

有傳言稱， OpenAI 可能考慮放棄其非營利的混合結構，轉向更傳統的公司運作模式，以吸引更多投資并提供更高回報，但這種轉變可能使公司進一步背離其初衷，即開發造福全人類的人工智能技術。