当然，时过境迁，在那之后，关于AI，无数科幻影视和幻想小说又做出了无数的想象。但人们仍然不知道，如果真正的“强人工智能”真的出现，它会有什么想法。

事实上，这方面，军方又走在了前面。不久前，DARPA主管人工智能研究的一位领导就表示，他们下一步在人工智能方面的研究，将集中精力于创造一个可以向人类解释自己决策，并真正值得信任的AI。

想象一下，如果“阿尔法狗”的后代，能够说明白它到底是“怎么想的”，那将是一副什么情景？

然而这很难。

看过EVA的朋友们都记得，在这部作品里，巨大的“机器人”其实是用“夏娃”和人类的基因混合克隆出来的“巨人”，而驾驶员要接入它的神经系统，实际上就是让两个灵魂融合，而要实现这种融合，就会听到有个操作员喊一句“思维模式，调节到日语”。

这背后其实是有个基本原因的，人类的意识和思维，是要靠语言进行的——所以人类才能解释自己是如何思考的。

正是因为我们的逻辑思维要依靠语言进行——所以没有掌握语言的人，有没有思考能力呢？如果他后来学会了语言，又能否向别人解释他形成语言能力前，有没有能力思考呢？没人知道，因为所有“狼孩”都没能真正学会语言，因此其心理和智力发育十分缓慢，在一例美国人研究的“狼孩”案例中，这孩子17岁时刚刚达到普通儿童3岁半的智力水平，因此无法给我们解释她年幼时期的感受。

由这一点说来，“人猿泰山”是个反智主义大毒草：在无语言环境下成长的“泰山”不可能拥有和文明世界的人类相似的思维

但可以肯定，现在的“深度学习”型人工智能，它的思维过程，无法被我们理解。它的思维与我们所知道的任何别的东西都不一样，既不同于动物本能，也不同于我们的思维。

所以说，真正研究人工智能的专家，对于人工智能的担忧是可以理解的，毕竟“恐惧源于未知”。

不过话又说回来，正如美军自己的表述，这种“无法解释自己”的人工智能，就是“不能被信任”，所以任何军队也不会将武器交给这些人工智能去控制。因为你根本无法预计它们会做什么——而这和全世界军队对于“武器”的首要要求背道而驰。

日本轻小说《全金属狂潮》中，设想了这样一种装置，它能够在驾驶员攻击或防卫冲动控制下，直接发出物理能量（能量来自核反应堆），比如你产生摧毁你前面的一辆坦克的冲动，它就会被轰飞，你试图抵挡敌人的炮弹，敌人的炮弹就真的会被弹飞。但是，这种装置只能被人脑特殊的脑波操纵，而这种脑波要么靠精神类药物产生，从而让驾驶员变成疯疯癫癫，要么就是关键时刻就用不出来。所以，小说里的军方对它评价为——没有实用价值。

当然这种东西很符合日本特色的“中二少年拯救世界”的想象，但作为日本动漫编剧当中少有的懂军事的作者贺东招二，至少在“λ驱动器”在正常的军队眼里会得到何种评价方面，写的一点不错。（当然书里不计后果的恐怖组织“秘银”和“汞合金”都在使用这种玩意……）

吃我中二护盾啦！！

就算你威力再大，但如果过于不稳定，以至于无法预测使用效果，那实用价值就近乎于——没有……

为什么世界各国都很少让试验性武器上战场？就是因为这个道理。