蚂蚁集团发布“蚁鉴2.0”：一键识别AI模型漏洞

7月7日消息，蚂蚁集团与清华大学在2023世界人工智能大会上发布了名为蚁鉴2.0的AI安全检测平台。随着大模型的发展，人们对AI的关注再度升温。

事实上，AI已成为推动数字化发展的关键生产力工具，确保其应用符合安全规范成为业界重点关注的问题。

据介绍，蚁鉴2.0能够利用生成式AI能力检测生成式AI模型，识别数百种风险，包括数据安全、内容安全和科技伦理等三大类别。

蚁鉴2.0覆盖了表格、文本、图像等多种数据和任务类型，是业内第一个实现产业级应用的全数据类型AI安全检测平台。该平台利用智能对抗技术生成大量测试集，通过与AIGC生成式模型的交互诱导，类似于一位24小时不间断工作的安全黑客，以寻找大模型的弱点和安全问题。除了支持数字金融领域，蚁鉴2.0还满足教育、文化、医疗、电商等对AI安全性检测的需求。