近日，諾獎得主&加拿大多倫多大學教授杰弗里·辛頓（Geoffrey Hinton）、Hugging Face 首席倫理科學家瑪格麗特·米切爾（Margaret Mitchell）和美國加州大學伯克利分校教授斯圖爾特·拉塞爾（Stuart Russell）以及 10 名前 OpenAI 員工，在一封提交給美國加利福尼亞州和特拉華州總檢察長的聯名信中，敦促美國當局阻止 OpenAI 從非營利組織轉變為公益公司（PBC，public benefit corporation，一種兼顧營利與公益的商業模式）。他們在反對這一舉措的同時，表達了與馬斯克相同的擔憂，目前馬斯克正通過法律訴訟努力阻止這一轉變。

由于 OpenAI 的總部和注冊地分別位于美國加利福尼亞州和特拉華州，因此這兩個州的司法部長有權對此決定進行監管，并有責任確保此次轉換符合公眾利益且價格合理。

圖 | 含 Hinton 在內的部分聯名信簽名（來源：資料圖）

OpenAI 成立于 2015 年，是一家非營利組織，其成立動機源于對營利性公司可能在開發與公共利益不完全一致的情況下開發出 AGI 的擔憂。OpenAI 的財務結構頗為復雜，2019 年它成立了一家營利性子公司，為投資者設定了回報上限，并賦予其非營利性董事會對于營利性子公司的完全控制權。OpenAI 此前曾警告稱，AGI 將帶來“濫用、重大事故和社會動蕩的嚴重風險”。2023 年 5 月，OpenAI CEO 山姆·奧特曼（Sam Altman）簽署一份聲明并警告稱，“降低 AI 導致滅絕的風險應成為全球首要任務，（這一任務的重要性）與流行病和核戰爭等其他社會層面的風險并列。”而根據此次 OpenAI 擬議的變更明細來看，非營利性董事會將在營利性實體中持有股份并擁有一定的投票權。按照計劃，OpenAI 擬在 2025 年年底前轉變為營利性實體。若不進行轉變，OpenAI 可能會失去軟銀大約 300 億美元的投資以及投資者在之前幾輪中的額外投資，并且可能難以籌集到計算基礎設施、模型訓練和人員配置所需的巨額資金。盡管目前 OpenAI 估值已達 3000 億美元，但其辯稱在谷歌和 Meta 等競爭對手正投資數千億美元開發這項技術之際，其投資者“需要傳統股權和更少的結構性定制”來承諾進一步投資。

（來源：資料圖）

此次聯名信認為，OpenAI 擬議的重組將會把 AGI 開發控制權轉移給一家以利潤為驅動力的公司，這與 OpenAI 的創始使命相悖。要知道，OpenAI 的創始使命是確保 AGI 造福全人類，而非實現“任何個人的私利”。

據了解，參與簽署聯名信的 Stuart Russell 表示：“如果 OpenAI 放棄對其營利性子公司的控制權，這不僅明顯違背了其宣稱的慈善宗旨……而且還會大大增加其 CEO 所描述的‘我們所有人都將陷入黑暗’的可能性。”而參與簽署聯名信的 Hinton 也表示：“我希望（OpenAI）能執行這一（原始）使命，而不是為投資者謀利。” 聯名信簽署者們寫道：“擬議的重組威脅到了所有這些保障措施，因此應予以制止。”

信中指出，OpenAI 的結構旨在平衡市場力量與其使命，而擬議的變革將放棄這些措施，轉而屈從于財務壓力。簽署者們反對將運營控制權從非營利實體轉移給公益公司的計劃，并指出這一轉變將使股東利益優先于公共安全。 信件簽署者之一的前 OpenAI 員工佩奇·赫德利（Page Hedley）表示：“競爭不是 OpenAI 的使命。從各方面來看，它在籌資方面已經取得了非凡的成功。”

簽署者們還質疑了 OpenAI 重組的理由。此前，OpenAI 指出為了保持與其他資金充裕的 AI 公司的競爭力，因此其表示需要簡化資本結構。但是，此次聯名信對此提出異議，指出 OpenAI 的競爭對手并不像其目前的非營利結構那樣受到信托責任的約束，以至于需要優先考慮公共福利。

聯名信寫道：“OpenAI 指出，投資者利益服從于使命是需要解決的問題，但這恰恰是在不破壞使命的情況下無法改變的。”OpenAI 還聲稱，此次重組將使該非營利組織成為“歷史上資源最豐富的非營利組織之一”。然而，這封聯名信認為 OpenAI 只應該獲得其在營利性部門所持股份的公平市場價值。

聯名信還強調，OpenAI 的非營利組織結構并非象征性的，而是一種具有法律約束力的機制。聯名信進一步批評了在新架構下關于誰將控制 AGI 技術，并質疑了 OpenAI 的最大投資者微軟是否可以獲取該技術的透明度。簽署者們還擔心，OpenAI 章程中的“停止并協助”條款將不再具有可執行性，該條款要求如果其他與安全相關的 AGI 項目率先實現 AGI，OpenAI 必須支持這些項目。

聯名信認為，OpenAI 的重組“將以犧牲公眾利益為代價，使 OpenAI 的股東受益”，這將影響 AGI 的開發方式、從中獲利的人以及最終控制它的人。簽署者們還表示，關鍵在于“OpenAI 是投入時間和資源來確保其 AI 系統對人類安全且有益，還是為了競爭和財務收益而魯莽地一往直前”。

事實上，對于OpenAI 的擔憂并不限于這封聯名信。此前，12 名前 OpenAI 員工提交了一封支持埃隆·馬斯克（Elon Musk）起訴 OpenAI 的信件，信中重復了許多相同的批評意見。文件指控 OpenAI 一邊利用其非營利組織的身份吸引以安全為研發導向的研究人員，一邊在內部為商業轉型做準備。

另據悉，本次聯名信還得到了美國哈佛大學、美國加州大學洛杉磯分校和美國哥倫比亞大學的研究人員的支持。而這封信將起到怎么樣的作用，或許不久之后即將揭曉。

參考資料：

聯名信https://notforprivategain.org/#names