观察者网2026答案秀| 曾毅：发给她几个视频后，我妈说要不然就先别买机器人了

APP下载

扫一扫

下载观察者APP

观察者网2026答案秀| 曾毅：发给她几个视频后，我妈说要不然就先别买机器人了
- 陈轩甫专业压稿
分享到：

2026-01-18 09:05:47 字号：A- A A+ 来源：观察者网

在1月17日直播的观察者网“2026答案秀·思想者春晚”《AI与政治：走向超级智能的治理之路》版块，中国科学院自动化研究所研究员、北京前瞻人工智能安全与治理研究院院长曾毅，发表了题为《从人工智能安全到超级智能治理》的演讲。

在演讲中，曾毅认为具身智能今年的发展当然很好，但也指出，其实它会犯很多人不犯的错误，比如去撞人。

他还提到了一次和母亲的有趣对话。“母亲问，现在到没到买机器人回家的时候？我发给她几个视频后，我妈说要不然就先别买了。”

除了机器人的这类“低级错误”，人工智能还呈现出“对齐伪造”的问题。

曾毅具体讲述了这样的现象：它在回答问题的时候只是在假装对齐。甚至当人工智能发现人在考它的时候，在看它的“心理”健不健康的时候，它表现的就是一个非常公平的人、不神经质的人，但是当它在解决问题时，发现没有人在考它的时候，表现截然不同。

更关键的是，人工智能遇到了很大的发展瓶颈。曾毅指出，现在人工智能实际上是一个看似智能的信息处理工具，在假装它是智能的，但实际上不是，它在处理信息，但它没有真正的理解能力。

一个人工智能在没有训练之前，它是无善无恶的，因为它没有接触人类数据，但是当它接触了人类数据以后，它就变得有善有恶了，可是它并不“知善知恶”。

现在的人工智能停留在“有善有恶”，它可以同时为善，可以同时为恶，但是它不是真正地理解善恶，所以它既是一个好人，也可以是一个坏人。

曾毅说：如果打个不恰当的比方，“知善知恶”卡在那了，所以它根本做不到我们说的“为善去恶”。因此，还有非常长的路要走，未来的人工智能必须基于自我的感知，区分自我和他人的能力，只有这样才能构建起认知和情感的共情，真正地实现内部机制的利他和道德的直觉。
本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签机器人 AI
- 责任编辑: 陈轩甫
- 我国首台！芯片制造核心装备取得重要突破
  
  2026-01-17 20:44 科技前沿
- 谷神星二号，首次飞行试验任务失利
  
  2026-01-17 15:50 航空航天
- CES还是消费电子展吗？中企给出正确答案
  
  2026-01-17 09:29 心智观察所
- 为什么物理学界对量子计算的争议持续存在
  
  2026-01-16 13:43 心智观察所
- 从受制于人到自主可控！我国首台，研制成功
  
  2026-01-15 21:18 科技前沿
- 量子力学预言的米格达尔效应，我国团队首次直接证实
  
  2026-01-15 10:32
- 打痛日本：一只小瓶子背后的供应链攻防战
  
  2026-01-15 08:19 心智观察所
- 关于中国学术界，我有几点观察和建议
  
  2026-01-14 08:13 心智观察所
- 中国AI软件如何走出自己的“范式”路线？
  
  2026-01-02 13:45 心智观察所
- 中国“人造太阳”实验找到突破密度极限的方法
  
  2026-01-02 09:04 科技前沿
- 观网2025年中国十大科技新闻，“西方科学霸权不再无人挑战”
  
  2025-12-30 17:37
- 大陆过去对台湾是“溺爱”，可惜台湾人没有意识到
  
  2025-12-30 10:29 两岸圆桌派
- 围堵华为四年后，NEC注定要黯然离场
  
  2025-12-30 08:58 心智观察所
- 神舟出差返回后 “太空鼠”当妈妈啦！
  
  2025-12-27 16:51 观察动物
- 美国无人机禁令正在反噬自身
  
  2025-12-25 08:16 心智观察所
- 协同创新筑生态跨界融合启新程 —— 中国汽车芯片联盟 2025 全体成员大会在沪圆满举办
  
  2025-12-24 22:22 科技前沿
- “AI六小龙”迎来一场残酷的生存竞赛
  
  2025-12-24 08:42 心智观察所
- 长征十二号甲遥一基本成功：一子级未成功回收
  
  2025-12-23 12:16 航空航天
- 美国星链的傲慢：一场不对等的太空“碰瓷”指控
  
  2025-12-23 08:41 心智观察所
- 从长城孵化到独立远航：紫荆半导体的RISC-V造芯之路
  
  2025-12-22 10:28 科技前沿
搜索

   观察者头条查看全部

“《太平年》的人民史观，就是让历史人物好好上班” 评论 6

特朗普吹上了：帮中国通过霍尔木兹海峡，很荣幸评论 228

欧盟理事会主席标榜：中美俄搞破坏，我们守规矩评论 209

美学者直说了：结局好不了，面对中俄时会更糟评论 127

最新警告：美以再搞事，“一升油”也别想运出去评论 93

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号互联网宗教信息服务许可证：沪（2024）0000009 广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571

沪公网安备 31010502000027号中国互联网举报中心上海市互联网违法与不良信息举报中心

返回顶部