首页站长资讯蚂蚁集团发布“蚁鉴2.0”:一键识别AI模型漏洞
5209

蚂蚁集团发布“蚁鉴2.0”:一键识别AI模型漏洞

站长网2023-07-08 17:00:542

7月7日消息,蚂蚁集团与清华大学在2023世界人工智能大会上发布了名为蚁鉴2.0的AI安全检测平台。随着大模型的发展,人们对AI的关注再度升温。

事实上,AI已成为推动数字化发展的关键生产力工具,确保其应用符合安全规范成为业界重点关注的问题。

据介绍,蚁鉴2.0能够利用生成式AI能力检测生成式AI模型,识别数百种风险,包括数据安全、内容安全和科技伦理等三大类别。

蚁鉴2.0覆盖了表格、文本、图像等多种数据和任务类型,是业内第一个实现产业级应用的全数据类型AI安全检测平台。该平台利用智能对抗技术生成大量测试集,通过与AIGC生成式模型的交互诱导,类似于一位24小时不间断工作的安全黑客,以寻找大模型的弱点和安全问题。除了支持数字金融领域,蚁鉴2.0还满足教育、文化、医疗、电商等对AI安全性检测的需求。

0002
评论列表
共(0)条