阿里巴巴联合上海人工智能实验室发布AI白皮书

APP下载

扫一扫

下载观察者APP

阿里巴巴联合上海人工智能实验室发布AI白皮书

分享到：

2026-04-01 14:03:49 字号：A- A A+ 来源：观察者网

4月1日，观察者网获悉，在日前召开的上海浦江AI学术年会上，阿里巴巴联合上海人工智能实验室发布了《守己利他：智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略，提出了AI时代全行业共同应对风险挑战的三个关键词：守己、利他、合作。

《白皮书》指出，在当前形势和未来趋势下，安全不再是AI技术研发的选修课，而是社会信任的生命线，全行业必须坚持守己、利他，并积极开展合作，以合作达共识，以共识求共赢。

“当前，全球AI正在从‘很能说’迈向‘很能干’，与之相对应，必须做到‘很安全’。”阿里巴巴人工智能治理与可持续发展实验室主任薛晖表示，“去年以来，智能体加速普及，AI自主调度资源、执行复杂任务，风险正在集中暴露。”

据了解，阿里巴巴基于全栈AI能力，将安全基因注入从芯片、云计算、模型到应用的全栈AI体系，在源头上把关；并坚持开源开放，将内部验证过的技术包括安全技术，作为公共产品向全行业开放。

“用户DIY智能体，就好比把保险箱直接放在家门口——虽然不能说必然会被窃取，但安全性难以保障。”阿里巴巴通义实验室安全负责人张荣详细讲解了白皮书，在讲到智能体安全时，他打了个比方，“相比之下，Qoder、MuleRun等封装完备的产品，通过内置安全机制，为智能体注入了更强的防护能力，整体安全性更有保障。”

据介绍，针对智能体面临的复杂风险，阿里巴巴围绕全栈AI能力，构建了立体化的安全防护体系。该体系的核心策略是：从源头提升基础大模型的内生安全能力，并构筑多层系统级安全围栏，实现智能体风险的全链路管控。

张荣解释说，在智能体的实际运行中，工具调用与代码执行是安全风险最集中的环节，而这两个环节高度依赖底层大模型的代码生成（AI Coding）能力。为此，阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作，基于千万级真实漏洞样本，打造了高质量的安全训练语料。

通过将这些语料深度融入模型训练的各个阶段，并开展多轮严格的安全对齐，千问模型的代码安全性已经达到行业高水平，在权威代码安全评测基准SecCodeBench中，其生成代码的安全性稳居开源模型首位。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签阿里巴巴 AI
- 责任编辑: 刘媛媛
- 中国四线小城，世界饮料之都？咸宁再落一座特殊工厂
  
  2026-04-01 14:02 观网财经-消费
- 武汉多辆萝卜快跑突然熄火，乘客滞留车道数个小时
  
  2026-04-01 10:12 车市快讯
- 粉笔2025年营收26.77亿元，现金储备支撑战略定力
  
  2026-04-01 09:11
- 俞浩慈善基金会“灯塔课堂”落地成都
  
  2026-03-31 22:45 今日财经
- 汪涛当值华为轮值董事长
  
  2026-03-31 20:32 观网财经-科创
- 华为去年营收8809亿，研发投入1923亿
  
  2026-03-31 20:10 观网财经-科创
- 出货大增亏损也扩大？国产GPU厂商天数智芯跨越“从0到1”
  
  2026-03-31 18:03 观网财经-互联网
- 海信视像：AI赋能，打开显示市场新蓝海
  
  2026-03-31 17:31 产经科创
- 五一将近京东上线“赴韩游超级权益包”
  
  2026-03-31 17:30 观网财经-消费
- 美的：未来三年投入超600亿布局前沿科创
  
  2026-03-31 14:22 产经科创
- 分期付款，摩尔线程获6.6亿智算集群订单
  
  2026-03-31 13:45 产经科创
- 手滑了？苹果AI国行版意外上线，后迅速撤下
  
  2026-03-31 11:34 观网财经-科创
- 上美化妆品2025年营收破91亿，韩束独撑八成江山
  
  2026-03-31 10:33 品牌实验室
- 万台下线之后，智元要做什么？
  
  2026-03-31 10:33 产经科创
- 中国AI学界集体拉黑！国际“顶会”NeurIPS秒认怂
  
  2026-03-31 10:33 产经科创
- 3月制造业PMI为50.4%，上升1.4个百分点
  
  2026-03-31 09:52 宏观经济
- 年内偿债220亿，度过偿债高峰的龙湖集团“死磕”转型
  
  2026-03-30 19:13 观网财经-房产
- 对话东方甄选｜一天卖了超15万单的早餐组合，如何重构自有品牌的逻辑？
  
  2026-03-30 18:10 观网财经-消费
- 营收超39亿元，越秀服务发力非住宅物业赛道新增长
  
  2026-03-30 17:00 产经 A股/港股/美股
- 微醺当道，低度酒挤满春糖
  
  2026-03-30 16:30
搜索

   观察者头条查看全部

“想不通为什么中国最从容？看看这些数据吧” 评论 93

“美国没法给月球标价，但必须跟中国抢” 评论 232

美防长称：接下来几天将是“决定性时刻” 评论 120

日本首次部署远程导弹，“瞄准中国” 评论 273

时隔半个世纪！唯恐被中国追上，美国这次能行？评论 277

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

阿里巴巴联合上海人工智能实验室发布AI白皮书

中国四线小城，世界饮料之都？咸宁再落一座特殊工厂

武汉多辆萝卜快跑突然熄火，乘客滞留车道数个小时

粉笔2025年营收26.77亿元，现金储备支撑战略定力

俞浩慈善基金会“灯塔课堂”落地成都

汪涛当值华为轮值董事长

华为去年营收8809亿，研发投入1923亿

出货大增亏损也扩大？国产GPU厂商天数智芯跨越“从0到1”

海信视像：AI赋能，打开显示市场新蓝海

五一将近京东上线“赴韩游超级权益包”

美的：未来三年投入超600亿布局前沿科创

分期付款，摩尔线程获6.6亿智算集群订单

手滑了？苹果AI国行版意外上线，后迅速撤下

上美化妆品2025年营收破91亿，韩束独撑八成江山

万台下线之后，智元要做什么？

中国AI学界集体拉黑！国际“顶会”NeurIPS秒认怂

3月制造业PMI为50.4%，上升1.4个百分点

年内偿债220亿，度过偿债高峰的龙湖集团“死磕”转型

对话东方甄选｜一天卖了超15万单的早餐组合，如何重构自有品牌的逻辑？

营收超39亿元，越秀服务发力非住宅物业赛道新增长

微醺当道，低度酒挤满春糖

伊朗威胁打击18家美企，特朗普竟称：用BB枪吗？

从中企手里抢下大钴矿，美媒“开香槟”

李荣浩发长文：哪个250会抄得一模一样

伊朗总统：满足必要条件，伊朗愿意结束战争

俄罗斯一架运输机坠毁29人遇难，消息人士：撞上山崖

以民众街头抗议巴勒斯坦人死刑法案，遭警方暴力清场

白宫4亿美元建“最顶级宴会厅”，美法官叫停

国际足联主席：伊朗将按计划在美国参加世界杯

“以色列这么做，将构成战争罪”

韩国又要申遗了

今年蚊子迎来“史诗级”加强？疾控部门提醒

“不卖俄油给这些国家”，点名日本

记者质问美国为何鼓吹战争罪，白宫发言人：“我们实力远超他们想象”

油价涨了民众生活困难？特朗普：他们还觉得更安全了呢

纽约市长：TikTok，我们回来了

美议员发癫：绝不让中国“毒瘤”进入美国