蚂蚁集团大模型安全解决方案“蚁天鉴”升级，新增智能体安全评测工具

APP下载

扫一扫

下载观察者APP

蚂蚁集团大模型安全解决方案“蚁天鉴”升级，新增智能体安全评测工具

分享到：

2025-07-28 21:14:51 字号：A- A A+ 来源：观察者网

7月28日，世界人工智能大会（WAIC）期间，在由中国信息通信研究院举办的“大模型智塑全球产业新秩序论坛”上，蚂蚁集团大模型安全解决方案“蚁天鉴”宣布升级，新增智能体（AIAgent）安全评测工具，具备Agent对齐、mcp安全扫描、智能体安全扫描及零信任防御等四大核心功能。

随着人工智能（AI）技术的不断进步，AI领域正从大模型时代迈向智能体时代。智能体不仅具备对话生成能力，还拥有自主规划、跨领域推理，甚至能做出超越人类理解的决策，AI已进入“行动”阶段。然而，智能体的越权、过度代理等问题也带来了安全挑战。

数据显示，超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题，因为AI生成的内容往往包含事实错误，或者对指令产生误解，其中超半数受访者表示，所在企业尚未设立明确的智能体安全负责人。

世界数字科学院（WDTA）最新发布《AI智能体运行安全测试标准》提出将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来，分析智能体全链路风险。

“蚁天鉴”为蚂蚁集团联合清华大学共同研发推出的大模型安全一体化解决方案，确保大模型技术在安全可靠的环境中发挥效能，打造AI大模型的安全铠甲。“蚁天鉴”新增的智能体安全评测功能，正与WDTA标准框架契合。

大模型安全解决方案“蚁天鉴”新增智能体安全评测工具

据介绍，升级的“蚁天鉴”在Agent运行阶段，构建了一套智能安全扫描系统，通过一系列专用工具来检测Agent可能面临的安全风险，实现端到端扫描，确保工具与 Agent 的交互链路不被篡改或绕过，为复杂环境下的稳定运行提供可验证的安全基线。目前，“蚁天鉴”的风险研判Agent准确率可以达到96%以上，并可支持11个行业的智能体测试。

MCP安全扫描功能，则为行业内首个对外发布的MCP安全扫描工具，可自动化识别AI工具集成与数据交换链路中的安全漏洞及风险行为，覆盖工具投毒攻击、间接提示词注入、恶意代码注入等3大类共10项子类风险。

此外，其Agent对齐功能，集成了高效工具调用、敏感双重验证、多通道恶意识别及沙盒环境训练，确保智能体的决策、行为与开发者预设目标、价值观及伦理道德保持一致；通过深度理解智能体服务上下文与风险情境，“蚁天鉴”还可对每一次调用进行内容、链路、行为、权限、组件、来源、身份七层校验，并依据策略引擎动态决策放行、降级或阻断，实现“永不信任，始终验证”的零信任动态防御。

蚂蚁集团机器智能部总经理、安全实验室首席科学家王维强在WAIC论坛演讲

蚂蚁集团机器智能部总经理、安全实验室首席科学家王维强表示：“升级的‘蚁天鉴’基于‘以攻促防’的安全理念，通过构建‘对齐-扫描-防御’技术栈，形成全流程防护体系，从而为智能体提供风险扫描与实时防御能力，我们也将与行业共建，未来逐步开源开放安全工具。”

据了解，2024世界人工智能大会上，“蚁天鉴”2.0发布，形成了包括大模型基础设施测评、大模型X光测评、应用安全测评、AIGC滥用检测、证件伪造检测、围栏防御等在内的完整技术链条，面向行业提供全方位智能化的大模型安全测评和防御解决方案。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签
- 原标题：蚂蚁集团大模型安全解决方案“蚁天鉴”升级，新增智能体安全评测工具
- 责任编辑: 万肇生
- “WAIC里技能大舞台”：我国人形机器人如何从“实验室”加速走向“应用场”
  
  2025-07-28 20:58 2025世界人工智能大会
- 对话蜜度研发副总裁：AI智能体正重塑办公校对新范式
  
  2025-07-28 16:06 观网财经-互联网
- 三星与特斯拉签下千亿芯片代工大单，马斯克发声
  
  2025-07-28 14:53 观网财经-科创
- 长和计划邀请内地投资人加入财团，央企或谈判寻求进入
  
  2025-07-28 13:40
- 中国乳业数智化再进阶，伊利牵头发起首个乳业AI生态圈
  
  2025-07-28 13:14 观网财经-消费
- 家居头部企业董事长跳楼身亡？回应来了
  
  2025-07-28 11:46
- 连续两个周末，淘宝闪购日订单超9000万
  
  2025-07-28 11:05 观网财经-消费
- 刚解除留置4日的居然智家实控人汪林朋被传坠亡，家居寒意远超预期
  
  2025-07-28 10:29
- 我国大模型数量居全球首位；AI投资联盟成立；清华开发出新型光刻胶
  
  2025-07-28 09:30 观网财经-互联网
- 京东大模型品牌全新升级为JoyAI，加速产业走向深度应用
  
  2025-07-27 15:23 观网财经-互联网
- 数学之问 | 当 AI 与数学在上海相遇：WAIC 2025 背后的智慧革命
  
  2025-07-26 23:00
- 院士郑纬民：中国不仅要构建类CUDA系统，同时也要做好10个关键软件
  
  2025-07-26 22:42 观网财经-科创
- OPPO刷新端侧AI性能上限，峰值出字速度200token/s
  
  2025-07-26 21:34 观网财经-科创
- 证监会：5万元以内小额遗产继承可免公证
  
  2025-07-26 14:55 观网财经-金融
- 楼面价20万元/平方米，徐汇衡复地块刷新全国单价地王记录
  
  2025-07-26 13:04 观网财经-房产
- 在华售价腰斩后，OATLY想要剥离中国市场了
  
  2025-07-26 09:50 观网财经-消费
- 年内裁员超2万人，英特尔CEO称“必须纠正方向”
  
  2025-07-25 23:12 观网财经-科创
- 雅下工程令世界惊叹，但它的意义仍被很多人低估了
  
  2025-07-25 22:08 观网财经-宏观
- 5418mAh！中国智能手机平均电池容量居全球首位
  
  2025-07-25 21:52 观网财经-科创
- 差评如潮的《明末：渊虚之羽》，不是《上海堡垒》
  
  2025-07-25 21:40 观网财经-互联网
搜索

   观察者头条查看全部

泽连斯基公布美乌“20点和平计划”，俄方回应评论 4

对话张军：中国经济下一程，钱会更多投向这些领域评论 43

澳门不仅有“赌王”，它更是座英雄之城评论 43

“哪位少爷吸了”？全国人大常委会法工委回应评论 185

“环保少女”在伦敦被捕评论 185

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

蚂蚁集团大模型安全解决方案“蚁天鉴”升级，新增智能体安全评测工具

“WAIC里技能大舞台”：我国人形机器人如何从“实验室”加速走向“应用场”

对话蜜度研发副总裁：AI智能体正重塑办公校对新范式

三星与特斯拉签下千亿芯片代工大单，马斯克发声

长和计划邀请内地投资人加入财团，央企或谈判寻求进入

中国乳业数智化再进阶，伊利牵头发起首个乳业AI生态圈

家居头部企业董事长跳楼身亡？回应来了

连续两个周末，淘宝闪购日订单超9000万

刚解除留置4日的居然智家实控人汪林朋被传坠亡，家居寒意远超预期

我国大模型数量居全球首位；AI投资联盟成立；清华开发出新型光刻胶

京东大模型品牌全新升级为JoyAI，加速产业走向深度应用

数学之问 | 当 AI 与数学在上海相遇：WAIC 2025 背后的智慧革命

院士郑纬民：中国不仅要构建类CUDA系统，同时也要做好10个关键软件

OPPO刷新端侧AI性能上限，峰值出字速度200token/s

证监会：5万元以内小额遗产继承可免公证

楼面价20万元/平方米，徐汇衡复地块刷新全国单价地王记录

在华售价腰斩后，OATLY想要剥离中国市场了

年内裁员超2万人，英特尔CEO称“必须纠正方向”

雅下工程令世界惊叹，但它的意义仍被很多人低估了

5418mAh！中国智能手机平均电池容量居全球首位

差评如潮的《明末：渊虚之羽》，不是《上海堡垒》

泽连斯基公布美乌“20点和平计划”，俄方回应

“向中国看齐，西方车企开始文化转型”

中美安理会激烈交锋，委内瑞拉：撕破美国假面

美军大批特战部队进驻加勒比，“只剩下一个问题...”

为何是2027年？“中方手里有王牌”

升级！美国罕见制裁欧盟前官员，中国记者评论亮了

“哪位少爷吸了”？全国人大常委会法工委回应

“700公里要跑7个多小时，就这？”

“禁止活煮龙虾、建议先电晕”，英国餐饮行业怒了

美司法部忙疯了，“抓人”圣诞志愿加班删档案

特朗普一拳打来，印度“挑战中国”美梦，又碎了

法国委屈上了，“为啥新西兰没事”

“这次飞行中，就三个人，爱泼斯坦、特朗普、20岁女性”

利比亚军方领导人在土耳其坠机身亡

克林顿回应：立即全部公开！

“环保少女”在伦敦被捕