观察员
-
《心智对话》| AI与国运：AI发展到了向西还是向东的节点
最后更新: 2025-03-28 14:14:06AI发展的终极目标是超级智能，这意味着这种非人类的智能体将在几乎所有认知领域全面超越人类的最高水平。
“有些专家说，未来AI方方面面都会超越人类，但是仍能被人类所管控，”曾毅对此不以为然，“如果AI的智慧水平远远超过人类，可以同时部署几万台具身智能机器人，你怎么还能控制它呢？并不因为我是你的发明者，你就必然尊重我、听我的。”
如果人类希望超级智能依旧遵守人类的价值观，那么首先，需要明确人类的价值观究竟是怎样的。曾毅举例说，人类有关注过蚂蚁吗？无非是“忽略”并且“一脚踩过去”。一旦超级智能看待人类和人类看待蚂蚁的态度是一样的，如何保证人类与AI和谐共生？在曾毅眼中，这是AI发展的终极挑战。
他提出，AI发展存在近期便可能爆发的风险，即AI以一种“人类没有预期的方式去犯错”。以目前的发展水平，AI并不能理解“欺骗”这一概念，仅仅将其作为解决问题的一种策略。例如，当人类尝试调整AI的价值观，AI就可能出现为了减小计算量、反馈已调整但实际上未作调整的情况。
今年3月，美国加州圣何赛，1X Technologies的吸尘机器人在Nvidia GTC大会上展出。 视觉中国
姜奇平则表示，不应过度渲染AI末日论的说法，这是“美国的误导”，根源是所谓的武器决定论、机器决定论。
尽管认可对“末日论”的忧虑是真实存在的，但姜奇平表示，从历史经验来看这种忧虑经不起推敲。他以人类发明飞机、汽车、望远镜等为例，强调在新事物诞生节点上人类对发展的恐惧，往往事后被证明并不成立。
“中国的国运，不是建立在技术决定论基础之上的，是人和物一起起作用，人起主导作用。”姜奇平说，汽车是人类腿的延长，但为什么没有毁灭人类，是因为人类“留了个心眼，留了一个驾驶舱”，也就是说，人和物共同决定世界，其中管方向盘的还是人。
姜奇平认为，目前AI在计算主义的错误方向上发展，只强调物，不强调人。即便中美在AI领域持续竞争，双方应该也有坚持AI由人类主导的共识。
他指出，应该鼓励“世界各国来合作，来共同制定游戏规则，避免人类共同的毁灭”。中方可以提出“计算主义路线有问题，只有事实判断功能，没有价值判断功能，要求增加价值判断功能”。“如果你执意不同意，那国运时刻就到来了，也就是正确将战胜错误。”
- 责任编辑: 陆远声
-
事关芯片！我国成功开发这一新技术
2025-03-28 10:51 科技前沿 -
梁文锋，首登全球富豪榜
2025-03-27 14:33 科技前沿 -
兆瓦超充，如何让“油电同速”梦想成真？
2025-03-27 14:11 心智观察所 -
2024年度“中国科学十大进展”发布
2025-03-27 11:26 科技前沿 -
全球首款，正式亮相！-20°C至55°C环境下稳定运行
2025-03-27 09:47 科技前沿 -
AGI即将到来？谢耘：理论上和技术上都还有局限
2025-03-26 22:19 心智观察所 -
AI将引发失业？钟义信：智慧无法被机器制造
2025-03-26 22:05 -
项立刚：对人工智能的理解，不能被美国带到沟里去
2025-03-26 21:52 -
华为成毫无争议的“一哥”，怎么看商用存储的中国式逆袭？
2025-03-26 13:13 心智观察所 -
全球首款，研发成功！
2025-03-25 20:56 科技前沿 -
仅重1.7克！我国科研团队成功开发
2025-03-25 10:50 科技前沿 -
独家对话 | flowith郭梓溢：AI Agent杀手级应用将在2025年出现
2025-03-25 08:27 心智观察所 -
百度少女“开盒”事件，背后的水比你想的要深
2025-03-24 14:18 心智观察所 -
从联通年报读懂运营商转型的阵痛与未来
2025-03-24 10:37 心智观察所 -
库克现身北京
2025-03-22 21:49 -
中国空间站生命体+1！
2025-03-22 17:21 航空航天 -
又一大国重器，来了！
2025-03-22 14:54 科技前沿 -
上海交大发布蛋白质设计模型“Venus”，用AI训练“六边形战士”
2025-03-22 14:22 -
全球首例！我国成功帮助渐冻症失语患者重建交流能力
2025-03-22 13:59 科技前沿 -
火星取样返回，美国能追上中国吗？
2025-03-22 09:12
相关推荐 -
呵呵，“‘民主国家’看不上中国技术”？ 评论 134
普京访印：美国都在买，印度凭啥不能买？ 评论 70
日本开发稀土担心中国干扰？日防相放话 评论 131
“美欧抢矿，遭殃的却是他们” 评论 15
美国又开炮欧盟：你们在“霸凌”美国军工！ 评论 72最新闻 Hot-
呵呵，“‘民主国家’看不上中国技术”？
-
普京访印：美国都在买，印度凭啥不能买？
-
“白宫‘慌乱应对’，想赢中国，支持得到位啊”
-
国安战略报告迟迟未出，“美财长要求软化对华措辞”
-
自民党“黑金”丑闻“吹哨人”再出手，这次是高市
-
“彻底反转了，中国是发达国家，我们才是新兴国家”
-
“华德858”轮触礁断裂
-
机密通话曝光！“美国恐将背叛，你要小心”
-
“云冈石窟大佛冻得流鼻涕”，官方：将暂时封闭、处置渗水
-
“高市早苗更加不安了”
-
高善文离职后，又有分析师集体出走国投证券
-
台军又出意外，这次是炮弹砸了民宅
-
“中产、富裕阶层也去1元店”，特朗普还嘴硬
-
日本开发稀土担心中国干扰？日防相放话
-
“按下葫芦浮起瓢”，英伟达想重返中国市场又难了…
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
