-
萨提亚·纳德拉:发展人工智能必须要有正确的价值观和设计原则
关键字: 人工智能 威胁论人工智能的利与弊人工智能 辩论人工智能 发展方向微软CEO纳德拉第三代系统平台
有很多先驱都对人工智能的风险进行了思考。科幻作家艾萨克·阿西莫夫(Isaac Asimov)几十年前就在思考这个挑战。在20世纪40年代,他提出了“机器人三法则”(Three Laws of Robotics),首先,机器人不应该做出伤害人类的事情,也不应该通过不作为来伤害人类。第二,它们必须服从人类的命令。第三,它们要保护自己。
计算机先驱艾伦·凯(Alan Kay)则表示:“预测未来的最好办法就是发明它。”从人工智能的角度来说,他的意思基本上是,不要预测未来会是什么样子了,而要以一种有原则的方式来创造未来。我同意这个观点。和任何软件设计上的挑战一样,一个平台在建立之初就应该采取这种有原则的做法。
从软件开发的角度来说,人工智能正在成为第三代系统平台——也就是下一个系统,程序员在这个系统之上构建和执行应用程序。PC是微软开发应用程序的第一代系统平台,这些应用程序包括Office工具套件——Word、Excel和PowerPoint等。今天,Web是第二代系统平台。而在人工智能和机器人的世界中,即第三代系统平台,生产力和沟通工具是为一个全新的平台构建的,这个平台做的事情不仅仅是管理信息,还包括从信息中学习,与物理世界交互。
人工智能的发展方向
如今,人们对人工智能发展的方向,正在决定第三代系统平台的面貌。在我们推动人工智能发展的过程中,最重要的步骤就是对人工智能设计达成一个伦理和同理心的框架——这是开发那种不仅规定了技术要求,而且还规定了伦理和同理心的系统的一种方法。人工智能的设计初衷必须是为人性提供帮助,人工智能设计应该要树立一些原则和目标。
人工智能必须是透明的。不仅仅是技术专家,我们所有人都应该明白技术是如何运作的,其规则是怎样的;人工智能必须最大限度地提高效率,同时又不会损害人的尊严。它应该保护文化承诺,赋权于多样性;人工智能在设计上必须有注重智能隐私,能够为个人和群体信息提供精密的保护,程度要足以赢得人们的信任;人工智能必须具备算法问责制,这样人类就可以撤销那些引发意外伤害的做法。我们必须为预期中的和预料之外的情况设计这些技术。
虽然对如何进入人工智能时代,目前还没有清晰的路线图,但在以前的工业革命中,我们已经看到社会转型并不一帆风顺,总是充满艰难与挑战。但是,如果我们拥有正确的价值观和设计原则,如果我们为人类所需的技能做好了准备,那么即使在我们改变世界的同时,人类和社会也会蓬勃发展。
(本文摘自微软CEO萨提亚·纳德拉新书《刷新:重新发现商业与未来》。)
中信出版集团2018年1月出版
- 原标题:微软CEO纳德拉:发展人工智能必须要有正确的价值观和设计原则 本文仅代表作者个人观点。
- 请支持独立网站,转发请注明本文链接:
- 责任编辑:李泠
-
15年来首次,“但若非中国,美议员懒得关注” 评论 27台岛周边演习:从冷启动到“打、困、阻”三位一体 评论 228不满CNN这篇报道,埃及威胁“彻底退出”巴以调解 评论 68现场视频 东部战区空军模拟打击“敌”高价值军事目标 评论 156美国对华部分关税新规8月1日生效,中方回应 评论 198最新闻 Hot
-
“不可接受,匈牙利不执行”
-
美众议长“执意邀请”他去演讲,国会吵翻了
-
“近300架波音飞机面临空中爆炸风险”
-
“中国大到无法被忽视,投资者必须在那里做生意”
-
15年来首次,“但若非中国,美议员懒得关注”
-
“波音推迟向中国交付”
-
他赴日再提目标:2045成为发达国家
-
韩国再现“N号房”式丑闻,受害女性已达61人
-
对华分歧越来越大,“法国一度担心德国搞破坏…”
-
不满CNN这篇报道,埃及威胁“彻底退出”巴以调解
-
乌方“和平方案”从10点砍到3点?
-
“美国日常吸麻人数首次超过日常饮酒人数”
-
现场视频 东部战区空军模拟打击“敌”高价值军事目标
-
澳方对中国葡萄酒市场“真香”后,开始期待龙虾…
-
德国政府发言人:将遵守ICC裁决
-
美国对华部分关税新规8月1日生效,中方回应
-