蟻天鑒2.0發布 新增AI鑒真功能快訊
此前蟻天鑒的測評能力主要集中于大模型生成的內容安全、合規風險等檢測，蟻天鑒2.0形成了包括大模型基礎設施測評、大模型X光測評、應用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防御等在內的完整技術鏈條，該測評智能體提供全流程自動化的安全測評工具。
【TechWeb】7月5日消息，螞蟻集團聯合清華大學發布大模型安全一體化解決方案“蟻天鑒”2.0版。
據了解，蟻天鑒去年7月首次對外發布，歷時1年升級到2.0版。2024年，蟻天鑒商業化邁出重要一步，通過螞蟻數科開始服務廣泛的外部客戶。
作為螞蟻集團科技商業化的重要板塊，螞蟻數科自今年3月份獨立化運營以來，悄然推進AItoB戰略，SOFAStack、蟻盾等多個代表性產品均發布了大模型相關服務。
從WAIC現場了解，蟻天鑒2.0形成了包括大模型基礎設施測評、大模型X光測評、應用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防御等在內的完整技術鏈條，面向行業提供全方位智能化的大模型安全測評和防御解決方案。
在測評端，蟻天鑒2.0研發了業內首個“測評智能體”。該測評智能體提供全流程自動化的安全測評工具，支持各種形式模型和深度學習框架，可擴展測評垂類大模型、多模態大模型及Agent智能體，并能根據被測大模型的安全水位動態調整攻擊策略和出具測試用例，保障測評效果和效率。
現場工作人員表示，目前，蟻天鑒2.0有超300萬高質量測評題庫，支持最高50萬/日的飽和式攻擊和逐級誘導深度攻擊，并實現了1工作日內完成測評，全流程自動化率＞99%。
此外，該智能體增加了兩項新功能。一是大模型X-ray，即大模型X光，可針對大模型的內在神經元進行X光掃描來做探查和判斷，讓研究人員了解大模型內部在發生什么、定位可能引發風險的神經元、并進行編輯修正，從而在模型內部治理幻覺，實現從源頭識別和抑制風險。二是大模型基礎設施測評。此前蟻天鑒的測評能力主要集中于大模型生成的內容安全、合規風險等檢測。蟻天鑒2.0從攻擊者全鏈路視角出發，深入掃描模型算法組件及軟件系統，可及時準確發現大模型供應鏈及運行環境安全問題，保障云到端的應用安全可控。
同時，蟻天鑒2.0防御端新增“AI鑒真”功能。支持多模態內容真實性及深度偽造檢測，可快速精準鑒別圖像、視頻、音頻、文本內容的真偽，圖像識別準確率99.9%達到行業最高優秀級（信通院測評）。目前，蟻天鑒2.0依托生成模型自建百萬量級音視圖多模態合成數據集，覆蓋主流生成方案，有效應對AI換臉、聲音模擬、證件偽造等各類深度偽造風險場景。（周小白）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
