全球AI頂會IJCAI2025多模態Deepfake定位挑戰賽啟動 螞蟻數科開放180萬數據集觀點

隨著生成式AI快速發展,技術的濫用也帶來了無處不在的深度偽造(Deepfake)風險內容,給社會與個人帶來嚴重危害。構建安全可靠的Deepfake風險內容檢測與防御技術體系已刻不容緩。
隨著生成式AI快速發展,技術的濫用也帶來了無處不在的深度偽造(Deepfake)風險內容,給社會與個人帶來嚴重危害。構建安全可靠的Deepfake風險內容檢測與防御技術體系已刻不容緩。
為應對AI偽造技術帶來的新型安全挑戰,近日,全球人工智能頂會IJCAI 2025“深度偽造檢測、定位、可解釋性”學術研討會暨挑戰賽”正式啟動報名。研討會將匯聚全球頂尖學者及產業人士,共同攻克多模態偽造、弱監督偽造定位、偽造可解釋性、生成式AI對抗與防御等核心技術挑戰,同時,挑戰賽還提供超180萬數據集,針對AI欺詐風險進行攻防實戰演練,助力AI安全研究。
研討會與挑戰賽由螞蟻數科主辦,新加坡科技研究局人工智能前沿研究中心,南洋理工大學,清華大學,中科院自動化所,合肥工業大學,安徽省數字安全重點實驗室,羅切斯特大學,布法羅大學,坎皮納斯大學等多家機構聯合舉辦。
挑戰賽分設圖片賽道和音視頻賽道,通過“以賽促防”的方式,彌補現有檢測算法在精準定位偽造區域與多模態音視頻協同偽造識別方面的不足,提升AI時代內容安全水位。值得一提的是,面向挑戰賽,螞蟻數科開放了超過180萬偽造樣本的多模態深度偽造數據集,共涵蓋88種偽造技術,推動建立可驗證、可追溯的生成式AI內容安全分析體系。
選手需訓練AI模型,給出數據偽造概率值以及偽造區域/片段,準確率TOP3戰隊將獲得賽事組委會頒發的證書及獎金。目前賽事報名已正式啟動,將于5月19日完成比賽,5月26日完成技術報告提交。選手提交的技術方案報告,賽事組委會將結合方案創新性、泛化性、實用性、可解釋性等多維度評選接收至研討會,優秀團隊將受邀參加研討會并作學術報告。選手可前往研討會官網查看賽事日程及研討會詳細話題https://deepfake-workshop-ijcai2025.github.io/main/index.html
公開信息顯示,螞蟻數科長期關注并持續投入AI安全及風險防范,推動AI時代的安全水位不斷提升。去年4月份,螞蟻數科發布了反深偽產品ZOLOZ Deeper,以防范用戶刷臉認證場景中的“AI換臉”風險。螞蟻數科還加入新加坡人工智能倫理與治理倡議(AI E&G BoK),與行業機構共建健康、穩健、合乎道德的人工智能生態。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。