阿里巴巴联合上海人工智能实验室发布AI白皮书

APP下载

扫一扫

下载观察者APP

阿里巴巴联合上海人工智能实验室发布AI白皮书

分享到：

2026-04-01 14:03:49 字号：A- A A+ 来源：观察者网

4月1日，观察者网获悉，在日前召开的上海浦江AI学术年会上，阿里巴巴联合上海人工智能实验室发布了《守己利他：智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略，提出了AI时代全行业共同应对风险挑战的三个关键词：守己、利他、合作。

《白皮书》指出，在当前形势和未来趋势下，安全不再是AI技术研发的选修课，而是社会信任的生命线，全行业必须坚持守己、利他，并积极开展合作，以合作达共识，以共识求共赢。

“当前，全球AI正在从‘很能说’迈向‘很能干’，与之相对应，必须做到‘很安全’。”阿里巴巴人工智能治理与可持续发展实验室主任薛晖表示，“去年以来，智能体加速普及，AI自主调度资源、执行复杂任务，风险正在集中暴露。”

据了解，阿里巴巴基于全栈AI能力，将安全基因注入从芯片、云计算、模型到应用的全栈AI体系，在源头上把关；并坚持开源开放，将内部验证过的技术包括安全技术，作为公共产品向全行业开放。

“用户DIY智能体，就好比把保险箱直接放在家门口——虽然不能说必然会被窃取，但安全性难以保障。”阿里巴巴通义实验室安全负责人张荣详细讲解了白皮书，在讲到智能体安全时，他打了个比方，“相比之下，Qoder、MuleRun等封装完备的产品，通过内置安全机制，为智能体注入了更强的防护能力，整体安全性更有保障。”

据介绍，针对智能体面临的复杂风险，阿里巴巴围绕全栈AI能力，构建了立体化的安全防护体系。该体系的核心策略是：从源头提升基础大模型的内生安全能力，并构筑多层系统级安全围栏，实现智能体风险的全链路管控。

张荣解释说，在智能体的实际运行中，工具调用与代码执行是安全风险最集中的环节，而这两个环节高度依赖底层大模型的代码生成（AI Coding）能力。为此，阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作，基于千万级真实漏洞样本，打造了高质量的安全训练语料。

通过将这些语料深度融入模型训练的各个阶段，并开展多轮严格的安全对齐，千问模型的代码安全性已经达到行业高水平，在权威代码安全评测基准SecCodeBench中，其生成代码的安全性稳居开源模型首位。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签阿里巴巴 AI
- 责任编辑: 刘媛媛
- 中国四线小城，世界饮料之都？咸宁再落一座特殊工厂
  
  2026-04-01 14:02 观网财经-消费
- 武汉多辆萝卜快跑突然熄火，乘客滞留车道数个小时
  
  2026-04-01 10:12 车市快讯
- 粉笔2025年营收26.77亿元，现金储备支撑战略定力
  
  2026-04-01 09:11
- 俞浩慈善基金会“灯塔课堂”落地成都
  
  2026-03-31 22:45 今日财经
- 汪涛当值华为轮值董事长
  
  2026-03-31 20:32 观网财经-科创
- 华为去年营收8809亿，研发投入1923亿
  
  2026-03-31 20:10 观网财经-科创
- 出货大增亏损也扩大？国产GPU厂商天数智芯跨越“从0到1”
  
  2026-03-31 18:03 观网财经-互联网
- 海信视像：AI赋能，打开显示市场新蓝海
  
  2026-03-31 17:31 产经科创
- 五一将近京东上线“赴韩游超级权益包”
  
  2026-03-31 17:30 观网财经-消费
- 美的：未来三年投入超600亿布局前沿科创
  
  2026-03-31 14:22 产经科创
- 分期付款，摩尔线程获6.6亿智算集群订单
  
  2026-03-31 13:45 产经科创
- 手滑了？苹果AI国行版意外上线，后迅速撤下
  
  2026-03-31 11:34 观网财经-科创
- 上美化妆品2025年营收破91亿，韩束独撑八成江山
  
  2026-03-31 10:33 品牌实验室
- 万台下线之后，智元要做什么？
  
  2026-03-31 10:33 产经科创
- 中国AI学界集体拉黑！国际“顶会”NeurIPS秒认怂
  
  2026-03-31 10:33 产经科创
- 3月制造业PMI为50.4%，上升1.4个百分点
  
  2026-03-31 09:52 宏观经济
- 年内偿债220亿，度过偿债高峰的龙湖集团“死磕”转型
  
  2026-03-30 19:13 观网财经-房产
- 对话东方甄选｜一天卖了超15万单的早餐组合，如何重构自有品牌的逻辑？
  
  2026-03-30 18:10 观网财经-消费
- 营收超39亿元，越秀服务发力非住宅物业赛道新增长
  
  2026-03-30 17:00 产经 A股/港股/美股
- 微醺当道，低度酒挤满春糖
  
  2026-03-30 16:30
搜索

   观察者头条查看全部

欧企仓促逃离古巴，“美国制裁面前欧洲像只小狗” 评论 4

“美国没工夫管我们了”，泽连斯基给普京致公开信评论 85

“惊人反转”，拿俄方做幌子，美国这也不想给德国了？评论 64

美航母视频曝光，“感觉船要没了，要么灭火要么等死” 评论 159

美农业部长发愁：饭碗在中国手里，下一个250年咋办评论 200

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

阿里巴巴联合上海人工智能实验室发布AI白皮书

中国四线小城，世界饮料之都？咸宁再落一座特殊工厂

武汉多辆萝卜快跑突然熄火，乘客滞留车道数个小时

粉笔2025年营收26.77亿元，现金储备支撑战略定力

俞浩慈善基金会“灯塔课堂”落地成都

汪涛当值华为轮值董事长

华为去年营收8809亿，研发投入1923亿

出货大增亏损也扩大？国产GPU厂商天数智芯跨越“从0到1”

海信视像：AI赋能，打开显示市场新蓝海

五一将近京东上线“赴韩游超级权益包”

美的：未来三年投入超600亿布局前沿科创

分期付款，摩尔线程获6.6亿智算集群订单

手滑了？苹果AI国行版意外上线，后迅速撤下

上美化妆品2025年营收破91亿，韩束独撑八成江山

万台下线之后，智元要做什么？

中国AI学界集体拉黑！国际“顶会”NeurIPS秒认怂

3月制造业PMI为50.4%，上升1.4个百分点

年内偿债220亿，度过偿债高峰的龙湖集团“死磕”转型

对话东方甄选｜一天卖了超15万单的早餐组合，如何重构自有品牌的逻辑？

营收超39亿元，越秀服务发力非住宅物业赛道新增长

微醺当道，低度酒挤满春糖

“惊人反转”，拿俄方做幌子，美国这也不想给德国了？

内塔尼亚胡支持率下滑，“以色列选民抱怨他不够强硬”

这些孩子自出生就无法自主站立，中国小机器人帮他们做到了

德国汉莎一波音787突然“磕头”，致多人受伤

追觅创始人俞浩微博被禁言，已停更4天

Anthropic呼吁全球暂停AI开发，打压同行、营销策略还是真有问题？

国际足联：禁止球迷带水瓶进场馆

美航母视频曝光，“感觉船要没了，要么灭火要么等死”

西方面对中国，“教会徒弟，饿死师傅”？！

长崎核爆资料馆计划更新展板，拟写明“日本曾侵略中国”

“太疯狂了”，中国机器人在《美国达人秀》炸场

特朗普：不见

新西兰还委屈上了：要找中国

“美国争不过中国，差在这了”

普京：需要说服乌方相信俄罗斯同意妥协

吃不着葡萄？更多外企加码在华投资，特朗普长子好酸…