螞蟻集團於2023世界人工智能大會上宣布，聯合清華大學發布AI安全檢測平台「蟻鑑2.0」，實現用生成式AI能力檢測生成式AI模型，可識別數據安全、內容安全、科技倫理三大類的數百種風險，覆蓋表格、文本、圖像等多種數據和任務類型，料成為業內首個實現產業級應用的全數據類型AI安全檢測平台。 螞蟻集團同時宣布，蟻鑑2.0全面開放，面向全球開發者免費提供AIGC安全性、AI可解釋性、AI魯棒性三項檢測工具，可服務於數字金融、教育、文化、醫療、電商等領域的大規模複雜業務場景。 螞蟻集團大安全事業群技術部總裁李俊奎表示，生成式大模型是一種「深黑盒」技術，蟻鑑2.0通過智能博弈對抗技術，模擬黑產以及自動化生成海量測試集，可實現「生成式機械人」對「AIGC生成式模型」的誘導式檢測計算，以進一步提高整個行業的AI安全水位。(gc/k) ~