-
萨提亚·纳德拉:发展人工智能必须要有正确的价值观和设计原则
关键字: 人工智能 威胁论人工智能的利与弊人工智能 辩论人工智能 发展方向微软CEO纳德拉第三代系统平台
有很多先驱都对人工智能的风险进行了思考。科幻作家艾萨克·阿西莫夫(Isaac Asimov)几十年前就在思考这个挑战。在20世纪40年代,他提出了“机器人三法则”(Three Laws of Robotics),首先,机器人不应该做出伤害人类的事情,也不应该通过不作为来伤害人类。第二,它们必须服从人类的命令。第三,它们要保护自己。
计算机先驱艾伦·凯(Alan Kay)则表示:“预测未来的最好办法就是发明它。”从人工智能的角度来说,他的意思基本上是,不要预测未来会是什么样子了,而要以一种有原则的方式来创造未来。我同意这个观点。和任何软件设计上的挑战一样,一个平台在建立之初就应该采取这种有原则的做法。
从软件开发的角度来说,人工智能正在成为第三代系统平台——也就是下一个系统,程序员在这个系统之上构建和执行应用程序。PC是微软开发应用程序的第一代系统平台,这些应用程序包括Office工具套件——Word、Excel和PowerPoint等。今天,Web是第二代系统平台。而在人工智能和机器人的世界中,即第三代系统平台,生产力和沟通工具是为一个全新的平台构建的,这个平台做的事情不仅仅是管理信息,还包括从信息中学习,与物理世界交互。
人工智能的发展方向
如今,人们对人工智能发展的方向,正在决定第三代系统平台的面貌。在我们推动人工智能发展的过程中,最重要的步骤就是对人工智能设计达成一个伦理和同理心的框架——这是开发那种不仅规定了技术要求,而且还规定了伦理和同理心的系统的一种方法。人工智能的设计初衷必须是为人性提供帮助,人工智能设计应该要树立一些原则和目标。
人工智能必须是透明的。不仅仅是技术专家,我们所有人都应该明白技术是如何运作的,其规则是怎样的;人工智能必须最大限度地提高效率,同时又不会损害人的尊严。它应该保护文化承诺,赋权于多样性;人工智能在设计上必须有注重智能隐私,能够为个人和群体信息提供精密的保护,程度要足以赢得人们的信任;人工智能必须具备算法问责制,这样人类就可以撤销那些引发意外伤害的做法。我们必须为预期中的和预料之外的情况设计这些技术。
虽然对如何进入人工智能时代,目前还没有清晰的路线图,但在以前的工业革命中,我们已经看到社会转型并不一帆风顺,总是充满艰难与挑战。但是,如果我们拥有正确的价值观和设计原则,如果我们为人类所需的技能做好了准备,那么即使在我们改变世界的同时,人类和社会也会蓬勃发展。
(本文摘自微软CEO萨提亚·纳德拉新书《刷新:重新发现商业与未来》。)
中信出版集团2018年1月出版
- 原标题:微软CEO纳德拉:发展人工智能必须要有正确的价值观和设计原则 本文仅代表作者个人观点。
- 请支持独立网站,转发请注明本文链接:
- 责任编辑:李泠
-
“美国首次暂停,以色列深感担忧” 评论 67习近平抵达巴黎开始对法国进行国事访问 评论 41刚有“明显进展”,巴以停火又陷僵局 评论 31他在以色列监狱中死亡,联合国官员:极度震惊 评论 278俄方通缉泽连斯基等乌军政要员,乌方回应 评论 232最新闻 Hot
-
他也要对TikTok“真香”了?
-
内塔尼亚胡:任何国际机构都无法阻止以色列“自卫”
-
“美国首次暂停,以色列深感担忧”
-
他窜台炒作:特朗普胜选后将一如既往“挺台”
-
刚有“明显进展”,巴以停火又陷僵局
-
他“替”乌克兰宣布新反攻:2025年发动
-
“欧盟正游说中国:别‘报复’,得特别保护”
-
俄方通缉泽连斯基等乌军政要员,乌方回应
-
“没有沙以关系正常化,就没有美沙防务协议”
-
他在以色列监狱中死亡,联合国官员:极度震惊
-
“丢473个议席!40年来最差”
-
加拿大逮捕3名印度人,印度外长回应
-
国际刑事法院忍无可忍:再威胁试试
-
澳大利亚“设卡”,中国在非洲淘到“白金”
-
“半数以上AI最热门领域,中国研究领先”
-
省级督察组现场核实情况,遭故意封路阻挠
-