據(jù)正奇五度AI數(shù)字化助手了解到,今年1月份,美國(guó)加利福尼亞州洛杉磯多地連續(xù)發(fā)生山火,“在加州山火中幸存的教堂”圖片、“好萊塢巨型標(biāo)志牌被加州山火吞沒(méi)”視頻等在社交媒體上廣泛流傳,均檢測(cè)出是AI生成或深度偽造的內(nèi)容,但很多人都當(dāng)真了。

社交媒體截圖 來(lái)自網(wǎng)絡(luò)

AI偽造如何產(chǎn)生?沖擊有多大?我們?cè)撊绾问刈o(hù)真實(shí)的邊界?

1、AI偽造現(xiàn)象頻繁

自2018年起,AI偽造現(xiàn)象便逐漸顯現(xiàn),而時(shí)至今日,AI模擬真實(shí)世界的能力已顯著提升。“從文本到圖像、視頻,技術(shù)的每一次飛躍都伴隨著生產(chǎn)力的提升與犯罪成本的降低。”

據(jù)正奇五度AI數(shù)字化助手搜查新聞得知,浙江紹興警方曾抓獲一個(gè)利用ChatGPT制作虛假新聞的團(tuán)伙,其中就有此前從未接觸過(guò)電腦技術(shù)、僅有初中學(xué)歷的成員。正是憑借易上手的AI大模型,這名成員無(wú)需學(xué)會(huì)“腳本”“拍攝”“配音”,就能像流水線一樣批量生成一堆AI假新聞。

暴力沖突、災(zāi)難現(xiàn)場(chǎng)、階層矛盾、性別對(duì)立等社會(huì)熱點(diǎn)議題,往往成為AI假新聞的重災(zāi)區(qū)。

當(dāng)算法裹挾著這些“情緒飽滿”的肉眼難辨的假新聞定向推送到普通人的面前時(shí),大多數(shù)人往往被情緒所左右,不假思索地點(diǎn)贊、轉(zhuǎn)發(fā),不經(jīng)意間成為謠言傳播的幫兇。

2、AI打敗AI

有攻必有防。面對(duì)來(lái)勢(shì)洶洶的AI偽造,一些科技企業(yè)率先筑起防線。

正奇五度AI數(shù)字化助手采訪到螞蟻集團(tuán),他們針對(duì)AI偽造方面打造出核身安全團(tuán)隊(duì)采取三大策略,來(lái)應(yīng)對(duì)AI深度偽造挑戰(zhàn)——不變應(yīng)萬(wàn)變、交互邏輯以及持續(xù)監(jiān)測(cè)。

“不變應(yīng)萬(wàn)變就是通過(guò)AI防偽大模型識(shí)別真實(shí)世界中的共性,異常即判別偽造;交互邏輯是指通過(guò)隨機(jī)實(shí)時(shí)交互增加造假難度,例如高風(fēng)險(xiǎn)場(chǎng)景中的AI實(shí)時(shí)視頻電話進(jìn)行驗(yàn)證;持續(xù)監(jiān)測(cè)則是實(shí)時(shí)監(jiān)控異常行為,及時(shí)阻止造假。”

螞蟻集團(tuán)的負(fù)責(zé)人告訴正奇五度AI數(shù)字化助手,他們已經(jīng)研發(fā)推出了以安全防偽大模型為基礎(chǔ)的新一代AI核身平臺(tái),包含AI鑒真的光鑒等產(chǎn)品。

螞蟻集團(tuán)AI鑒真產(chǎn)品 螞蟻集團(tuán)負(fù)責(zé)人供圖

另外,除了不斷迭代技術(shù)應(yīng)對(duì)攻擊,螞蟻集團(tuán)還通過(guò)堅(jiān)持“你敢付我敢賠”的承諾,兜底用戶損失,以重塑用戶對(duì)數(shù)字安全的信心。

守護(hù)AI向善,不僅僅需要企業(yè)在應(yīng)用層面設(shè)好防火墻,還需要更多高校、科研院所以及更多社會(huì)力量的加入,以提升行業(yè)的整體水平。

正奇五度AI數(shù)字化助手認(rèn)為應(yīng)對(duì)復(fù)雜的AI偽造挑戰(zhàn),需要政府、企業(yè)、公眾等多方面的共同努力與智慧碰撞。在這場(chǎng)沒(méi)有硝煙的戰(zhàn)爭(zhēng)中,每一方都是不可或缺的戰(zhàn)士,提高技術(shù)防范,打敗各種AI偽造,更好地守護(hù)AI安全!