谷歌更新后的公共人工智能道德政策取消了它不會使用該技術(shù)來尋求武器和監(jiān)控應(yīng)用的承諾。

在互聯(lián)網(wǎng)檔案Wayback Machine 上看到的原則的先前版本中，該公司包括了它不會追求的應(yīng)用程序。其中一類是旨在傷害人的武器或其他技術(shù)。另一個是用于超越國際規(guī)范的監(jiān)控技術(shù)。

谷歌刪除禁止AI武器化禁令

現(xiàn)在，這樣的限制承諾在更新的原則頁面上已經(jīng)被刪除了。

谷歌于2018年首次發(fā)布其AI原則，比該技術(shù)幾乎無處不在早了幾年。Google的更新與最初發(fā)布的原則的價值觀截然相反。

2018年，谷歌放棄了對云計算五角大樓合同的100億美元出價，當(dāng)時表示“我們無法保證它會符合我們的AI原則”。當(dāng)年，有4000多名員工簽署了一份請愿書，要求“制定一項明確的政策，聲明谷歌及其承包商都不會開發(fā)戰(zhàn)爭技術(shù)”，大約有十幾名員工辭職以示抗議。

谷歌致力于“直接部署可以殺死人的技術(shù)”

谷歌已經(jīng)對其人工智能原則進(jìn)行了重大修改，取消了之前對使用該技術(shù)開發(fā)武器和監(jiān)控工具的限制。周二宣布的這一更新改變了該公司之前對可能造成 “整體傷害” 的應(yīng)用程序的立場。

2018年，谷歌制定了一套人工智能原則，以回應(yīng)對其參與軍事活動的批評，最初的指導(dǎo)方針明確指出，谷歌不會設(shè)計或部署人工智能，用于造成或直接促進(jìn)人員受傷的武器或技術(shù)，或違反國際公認(rèn)的規(guī)范的監(jiān)控。

然而，最新版本的Google AI原則已經(jīng)刪除了這些要點(diǎn)。相反，Google DeepMind首席執(zhí)行官Demis Hassabis和技術(shù)和社會高級主管James Manyika發(fā)布了一份關(guān)于使用AI的科技巨頭“核心租戶”的新名單。其中包括關(guān)注創(chuàng)新和協(xié)作，以及“民主國家應(yīng)在自由、平等和尊重人權(quán)等核心價值觀的指導(dǎo)下引領(lǐng)人工智能發(fā)展”的聲明。

曾共同領(lǐng)導(dǎo)谷歌道德人工智能團(tuán)隊的瑪格麗特·米切爾（Margaret Mitchell）告訴彭博社，取消“傷害”條款，可能意味著該公司現(xiàn)在將致力于“直接部署可以殺死人的技術(shù)”。

據(jù)《華盛頓郵報》報道，這家科技巨頭自加沙戰(zhàn)爭初期以來就與以色列軍方合作，與亞馬遜競爭提供人工智能服務(wù)。該報上個月援引公司內(nèi)部文件報道，在2023年10月哈馬斯對以色列發(fā)動襲擊后不久，谷歌的云部門努力允許以色列國防軍使用人工智能工具，盡管該公司公開聲稱將參與限制在政府文職部門。

谷歌改變其政策之際，人們對人工智能對人類構(gòu)成的危險持續(xù)擔(dān)憂。人工智能領(lǐng)域的先驅(qū)人物、2024年諾貝爾物理學(xué)獎獲得者杰弗里·辛頓（Geoffrey Hinton）去年年底警告說，這項技術(shù)可能會在未來三十年內(nèi)導(dǎo)致人類滅絕，他認(rèn)為這一可能性高達(dá) 20%。

辛頓警告說，人工智能系統(tǒng)最終可能會超越人類智能，逃脫人類控制，并可能對人類造成災(zāi)難性的傷害。他敦促為AI安全和合乎道德地使用該技術(shù)分配大量資源，并制定積極措施。

AI武器化將引發(fā)閃電戰(zhàn)，并快速升級為大規(guī)模戰(zhàn)爭，且無法停止

一位領(lǐng)先的獨(dú)立網(wǎng)絡(luò)安全專家告訴我們，為什么谷歌的此舉充滿了嚴(yán)重風(fēng)險。

“AI系統(tǒng)可能會以不可預(yù)測的方式與其他網(wǎng)絡(luò)連接的基礎(chǔ)設(shè)施交互，”資深獨(dú)立網(wǎng)絡(luò)安全專家和數(shù)字戰(zhàn)略專家希爾斯（Lars Hilse）解釋說。

希爾斯說，這種不可預(yù)測性可能會引發(fā)閃電戰(zhàn)，這種戰(zhàn)爭升級得太快，以至于人類大腦無法理解，人類無法干預(yù)”，并強(qiáng)調(diào)了將國防相關(guān)問題交給AI管理的巨大風(fēng)險。

希爾斯說，人類才剛剛開始了解與人工智能武器化相關(guān)的危險和“未知風(fēng)險”。“特別是在全球沖突迫在眉睫的時期，我們可能想暫時把那個精靈留在瓶子里，”他敦促道。

谷歌為什么要這樣做？

但觀察家們對谷歌的政策轉(zhuǎn)變并不感到驚訝，因為需要與市場現(xiàn)實和地緣政治需求保持一致，以及國防市場“利潤豐厚”的性質(zhì)決定了谷歌重新修改了自己的標(biāo)準(zhǔn)。

自O(shè)penAI于2022年推出聊天機(jī)器人ChatGPT以來，人工智能競賽以令人眼花繚亂的速度發(fā)展。雖然人工智能的使用蓬勃發(fā)展，但關(guān)于AI透明度和道德的立法和法規(guī)尚未跟上——現(xiàn)在谷歌似乎已經(jīng)放松了自我施加的限制。

希爾斯說，谷歌的新政策意味著它將能夠參與這些“利潤豐厚的國防合同和政府監(jiān)控項目，并加強(qiáng)其在人工智能競賽中的地位，特別是與中國競爭對手的競爭”。

“政策轉(zhuǎn)變表明，硅谷與國防愿景進(jìn)行了更廣泛的重新調(diào)整，甚至可能表明，在全行業(yè)范圍內(nèi)正在系統(tǒng)地消除以前軍事人工智能開發(fā)的道德障礙，以便在這個 極其有利可圖且以前未開發(fā)過的商業(yè)領(lǐng)域中，更快地對市場變化做出反應(yīng)，”這位專家總結(jié)道。