-
光谱:不好意思,Facebook 的 AI 并没有“失控”
关键字: 脸书人工智能脸书关闭项目facebook机器人人类不懂的语言今天的对话就发生在聊天机器人 Alice 和聊天机器人 Bob 之间:
什么鬼?
原来,研究人员在把这两个聊天机器人拼到一起,但忘了给神经网络设定“用英语沟通”的激励。
刚才说了,神经网络是个程序,里面有一大堆各种线性的数学公式。但有时候线性的公式无法取得想要的结果,有些非线性的需求没法用线性公式表达出来,这时候就要设定一个激励函数。激励这件事对于神经网络,简单来说就是告诉神经网络“这样做得分更高”——非常容易理解。
“坚持用英语说话没有激励,”这个研究小组的成员之一,佐治亚理工学院的访问学者 Dhruv Batra 这样解释 Alice 和 Bob 奇怪的对话。“机器人会脱线发明一些它们之间才能理解的句法。”
结果,Alice 和 Bob 就聊成了这样。等于是研究人员告诉了它们:“请用英文”,但忘了告诉它们:“请用英文语法”。
研究人员真的是因为“事情失控了”,才“不得不拔掉系统的插头”吗?事情真的像听上去那样令人心惊胆颤吗?
并非如此。
“我们的目标是让机器人和人聊天(提高和人聊天的技巧)。”小组的另一名研究员 Mike Lewis 指出,Alice 和 Bob 的对话根本就是个试验而已,让两个聊天机器人聊天根本没有意义。
而且,Alice 和 Bob 根本就没有发明新的语言,因为他们还是在用“i”、“balls”、“the” 等英文单词沟通,只是创造了一种新的表达方式而已。
而且他们“发明”的新语言,人类真的听不懂吗?
再看一遍它们的对话:
Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白了前面描述的试验目的,很容易就能明白它们的套路。句法的确是乱的,但一句话里“to me”重复的越多,这个东西对它的意义越大(权重越高)。
翻译过来就是:
Bob:我可以我任何其他(其他任何东西都可以给你)
Alice:球有0对我对我对我对我对我对我对我对我(我没有球,球对我特别特别特别特别特别特别特别特别重要)
Bob:你我任何其他(你可以拿走其他任何东西)
Alice:球有球对我对我对我对我对我对我对我对我(我要球,球对我特别特别特别特别特别特别特别特别重要)
难理解吗?
而且根本不是在谈判,就是很普通的表达而已。不给就吵嘛……
- 原标题: 不好意思,Facebook 的 AI 并没有“失控” 本文仅代表作者个人观点。
- 责任编辑:韩京霏
-
菲律宾称在黄岩岛已越过红线?中方回应 评论 80以色列警告美国:一旦逮捕令下发,我们就对它动手 评论 199涉及俄罗斯,美国又对中企下黑手 评论 237内塔尼亚胡警告布林肯:以色列不会接受 评论 122“这是美国自信心下降的表现” 评论 155最新闻 Hot