隨著生成式AI快速發(fā)展，技術(shù)的濫用也帶來了無處不在的深度偽造（Deepfake）風(fēng)險內(nèi)容，給社會與個人帶來嚴(yán)重危害。構(gòu)建安全可靠的Deepfake風(fēng)險內(nèi)容檢測與防御技術(shù)體系已刻不容緩。

為應(yīng)對AI偽造技術(shù)帶來的新型安全挑戰(zhàn)，近日，全球人工智能頂會IJCAI 2025“深度偽造檢測、定位、可解釋性”學(xué)術(shù)研討會暨挑戰(zhàn)賽”正式啟動報名。研討會將匯聚全球頂尖學(xué)者及產(chǎn)業(yè)人士，共同攻克多模態(tài)偽造、弱監(jiān)督偽造定位、偽造可解釋性、生成式AI對抗與防御等核心技術(shù)挑戰(zhàn)，同時，挑戰(zhàn)賽還提供超180萬數(shù)據(jù)集，針對AI欺詐風(fēng)險進行攻防實戰(zhàn)演練，助力AI安全研究。

研討會與挑戰(zhàn)賽由螞蟻數(shù)科主辦，新加坡科技研究局人工智能前沿研究中心，南洋理工大學(xué)，清華大學(xué)，中科院自動化所，合肥工業(yè)大學(xué)，安徽省數(shù)字安全重點實驗室，羅切斯特大學(xué)，布法羅大學(xué)，坎皮納斯大學(xué)等多家機構(gòu)聯(lián)合舉辦。

挑戰(zhàn)賽分設(shè)圖片賽道和音視頻賽道，通過“以賽促防”的方式，彌補現(xiàn)有檢測算法在精準(zhǔn)定位偽造區(qū)域與多模態(tài)音視頻協(xié)同偽造識別方面的不足，提升AI時代內(nèi)容安全水位。值得一提的是，面向挑戰(zhàn)賽，螞蟻數(shù)科開放了超過180萬偽造樣本的多模態(tài)深度偽造數(shù)據(jù)集，共涵蓋88種偽造技術(shù)，推動建立可驗證、可追溯的生成式AI內(nèi)容安全分析體系。

選手需訓(xùn)練AI模型，給出數(shù)據(jù)偽造概率值以及偽造區(qū)域/片段，準(zhǔn)確率TOP3戰(zhàn)隊將獲得賽事組委會頒發(fā)的證書及獎金。目前賽事報名已正式啟動，將于5月19日完成比賽，5月26日完成技術(shù)報告提交。選手提交的技術(shù)方案報告，賽事組委會將結(jié)合方案創(chuàng)新性、泛化性、實用性、可解釋性等多維度評選接收至研討會，優(yōu)秀團隊將受邀參加研討會并作學(xué)術(shù)報告。

公開信息顯示，螞蟻數(shù)科長期關(guān)注并持續(xù)投入AI安全及風(fēng)險防范，推動AI時代的安全水位不斷提升。去年4月份，螞蟻數(shù)科發(fā)布了反深偽產(chǎn)品ZOLOZ Deeper，以防范用戶刷臉認(rèn)證場景中的“AI換臉”風(fēng)險。螞蟻數(shù)科還加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業(yè)機構(gòu)共建健康、穩(wěn)健、合乎道德的人工智能生態(tài)。