-
迈克尔·克莱尔:将人类命运交到机器人手上会怎样?
最后更新: 2020-11-06 14:34:59创建机器人将军
尽管美国高级将领们可能要担心自己未来饭碗不保,但他们仍迅速行动去开发和部署自动化指挥机制——联合全域指挥控制系统。在空军监管下,这一计算机驱动的装置集合体能从大量传感器(卫星、地面雷达、电子监听站等)实时收集敌方情报数据,处理这些数据行成可操作的作战信息,并向冲突中的每一战斗单元和武器系统下达精确的攻击指令——无论这些战斗单元和武器系统是属于陆军、海军、空军、海军陆战队,还是新组建的太空战和网络战部队。
联合全域指挥控制系统的具体组成部分目前并不为外界所知,部分原因是它的许多组件系统仍处于保密状态,还有部分原因是许多关键技术仍处于研发阶段。美国空军受命监管该项目,正与洛克希德•马丁公司和其他大型国防承包商合作,一起设计和研发该系统的关键部件。
先进作战管理系统(ABMS)就是该系统的一个组成部分,这是一个数据收集和分发系统,旨在向战斗机飞行员提供敌方位置的最新数据,并协助指导他们的战术动作。另一个关键组成部分是陆军的综合防空和导弹防御作战指挥系统(IBCS),旨在将雷达系统连接到防空和导弹防御发射器上,由该系统向发射器下达精确的射击指令。久而久之,美国空军及其多个承包商会尝试将先进作战管理系统、综合防空和导弹防御作战指挥系统集成到一个庞大的系统网络中,这个系统网络将连接该国武装部队中的每一个传感器、射手和指挥官——正如一些人所说,这是一个军事“物联网”。
为了测试这一概念并提供一个未来如何运作的实例,美国陆军今年8月在德国使用未来联合全域指挥控制系统的组件(或模拟组件)进行了实弹炮兵演习。在第一阶段的测试中,(假想的)俄军位置卫星图像被发送到陆军地面终端,一个名为普罗米修斯(Prometheus)的人工智能程序会对数据进行梳理,以选择将遭受打击的敌方目标。接下来,另一个名为SHOT的人工智能程序会计算出最适合打击这些目标的现有武器,并将此信息和精确的射击诸元发送到陆军的高级野战炮兵战术数据系统(AFATDS),此时将由人类指挥官决定是否要立即实施打击。
在此次演习中,这些人类指挥官有足够时间去思考是否进行打击;而在实战中,他们可能会把决定权交给机器,而这也正是系统设计者最初明确的设想。
在未来,陆军计划在一个名为“项目融合”的倡议下,对这一不断发展的技术进行更大胆的测试。参考公开的说法,项目融合将进行更多复杂的演习,涉及卫星、装备先进作战管理系统的空军战斗机、陆军直升机、无人机、火炮和战术车辆。最终,所有这些都将形成联合全域指挥控制系统的底层“架构”,将每个军用传感器系统与每个作战单元和武器系统连接起来,而将军们的作用就只剩下闲坐一旁冷眼旁观。
为什么机器人将军可能会出错
鉴于现代战争的复杂性和未来战争节奏大大加快,美国战略家急于用机器人指挥官取代人类指挥官当然可以理解。在理论上,陆海军的机器人将军能在短时间内处理数量惊人的信息,在未来战场上,它们能同时追踪友军和敌军的动向,并设计出最合理的方式来应对敌人行动。但我们仍有理由怀疑机器决策者是否可靠,以及用它们来代替人类军官是否明智。
首先,该领域的许多技术仍不成熟,几乎所有技术都容易出现故障,这些故障既不易预测也难以理解。别忘了,即使是高级算法也能被技术高超的专业人士愚弄或“欺骗”。
此外,与人类不同,人工智能支持的决策系统将缺乏评估意图或背景的能力。例如,敌军的突然部署是否意味着迫在眉睫的攻击?虚张声势?或者只是正常的部队轮换?人类分析员可以利用他们对当前政治形势和相关参与者的理解来帮助指导他们对局势的评估。而机器缺乏这种能力,它们可能会假定最坏情况,先发制人的发动本应避免的军事打击。
为了让决策算法适合军用而对其进行的“训练”只会使这个问题复杂化。正如在训练面部识别软件时,如果过度使用白人男性图像会使其不善于识别非洲裔美国女性,军方专业人员也会选择过多的战争场景来训练军用决策算法,从而造成算法错误判断真实情况。军人天然就倾向于“做最坏的打算”,毕竟没人愿意被敌人偷袭而茫然无备。而这种偏见无疑将成为决策机器人提供的“备选行动方案”之一。
一旦这种偏见被纳入决策算法,未来驻扎在欧洲的美俄两国军队或驻亚洲的美中两国军队在发生冲突时,局势发展将会变得无比凶险。毕竟,某些误判或迅速发酵的地区性事件随时都会导致这种冲突发生。比如,美国军舰和中国军舰在台湾附近忽然发生冲突,或在波罗的海某国巡逻的美军与俄军巡逻队发生摩擦。
双方可能都无意引发全面冲突,双方领导人通常都会通过谈判来息事宁人。但切记,这些未来的冲突将不再是单纯的人类之间的冲突。一旦未来出现此类意外,联合全域指挥控制系统可能会探测到某些敌军动向,进而认定盟军面临近在眼前的威胁,于是立即命令美军飞机、导弹和大炮发起全面攻击,升级冲突,使任何通过谈判迅速达成和解的努力灰飞烟灭。
库布里克电影《奇爱博士》中设想的未来作战室
在核战时代,这种前景变得尤其可怕。强国间一爆发冲突就动用核武器不大可能,但不难联想到这样一个时刻,即强国间的常规战争打到一定阶段,一方发现不动用核武器就无法避免失败的命运。实际上,美国军事理论一直坚持,当苏军(现在是俄军)在欧洲发动大规模军事进攻时,美军应保留使用所谓战术核武器阻止其进攻的权力。俄罗斯的军事理论通常也被认为是含有类似选项。
在这种情况下,未来的联合全域指挥控制系统可能会误判敌军动向,认定敌人正准备发动核攻击,从而命令美军核力量发动先发制人的打击,引发第三次世界大战。
战争是一项血腥而又令人厌恶的活动。近二十年来,那些打着“反恐战争”幌子的失败战争已造成数千美国人伤亡(包括肉体上和精神上受到伤害),因此也就不难理解为什么那些机器人拥趸这么急切地想要给美国人换上另一套战争思路。
一开始,他们强调,尤其是在一个疫情肆虐的世界上,将战场上的人类士兵换成机器人是最人道的,因为这样可以减少人员伤亡(至少会减少战斗人员伤亡)。然而,这一观点无法解释下面这个问题——机器人士兵和无人飞行器无法在战场上区分战斗人员与非战斗人员,因此也就难以相信它们会遵守战争法或国际人道主义法(这些法律至少在理论上会保护平民免遭无谓的伤害),因此也就该禁止在战场上使用机器人。
尽管未来战场可能会发生上述令人忧虑的变化,但用机器人替换掉人类陆海军将领则完全是另一码事。因为机器人做出的战斗决策将会危及大量平民的生命,因而涉及法律和道德的议题会大量出现,此外,使用机器人并不能保证一定会减少美国大兵在战场上的伤亡。国家向某一企业投入数十亿纳税人的钱,而实际用途却有可能是毁灭我们的世界,那在投资前国会是否应该提出一些尖锐的问题,质疑一下研发自动化作战决策系统是否明智?也许是时候该让美中俄三国领导人限制或禁止部署高超音速导弹,以及其它任何能将人类存亡压缩至短短几分钟的武器系统,以免机器人自动做出致命的决定。
(观察者网由冠群译自TOMDISPATCH网站)
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
- 原标题:TOMDISPATCH - Michael T. Klare: Robot Generals Will They Make Better Decisions Than Humans -- Or Wor 本文仅代表作者个人观点。
- 责任编辑: 由冠群 
-
埃塞俄比亚濒临内战,现任总理曾获诺贝尔和平奖
2020-11-06 12:59 非洲之窗 -
94.7亿美元 美签署下一代战略导弹核潜艇合同
2020-11-06 12:23 -
俄首架量产型苏-57将于12月交付
2020-11-06 12:17 俄罗斯之声 -
台“腾云”无人机改进版密集试飞
2020-11-06 12:07 -
美批准向台出售无人机,我国防部:玩火者必自焚
2020-11-04 18:44 两岸关系 -
外交部回应美国最新对台军售:坚决反对
2020-11-04 16:01 台湾 -
新型发动机装上俄军战略轰炸机
2020-11-04 11:46 -
美军火商:谁上台无所谓,反正军费不会减
2020-11-03 19:53 美国大选2020 -
我军机连续两天“凌晨打卡”台空域,严德发:在疲劳台军
2020-11-03 16:09 长空铸剑 -
韩空军成立侦察飞行团,提升对朝监侦力量
2020-11-03 15:01 三八线之南 -
西藏军区某营交付新型防护突击车
2020-11-03 08:18 -
台军:解放军今天8架军机进入台湾西南空域
2020-11-02 19:57 两岸关系 -
西藏军区装甲专业考核 15式坦克亮相
2020-11-02 08:43 -
俄罗斯表态
2020-11-01 16:10 -
11月第一天,又去了
2020-11-01 13:51 台湾 -
10月最后一天,解放军军机进入台湾西南空域
2020-10-31 20:24 两岸关系 -
国防部:中美两军举行危机沟通工作组视频会议
2020-10-31 07:39 中美关系 -
台军:3架运-8特种机今天进入台湾西南空域
2020-10-30 20:40 两岸关系 -
抢滩登陆再添利器!解放军无人作战装备首次亮相
2020-10-30 11:48 习主席带领我们强军 -
美海军部长:中国海军越来越强 得扩军
2020-10-29 19:40 中国海军
相关推荐 -
他张嘴就来:不寻求与中国贸易战,但中企作弊… 评论 120乌克兰暗示西方“双标”,美欧:你们和以色列不一样 评论 367美国对中国造船业等发起301调查,商务部:一错再错 评论 440“令人鼓舞!无法想象没有中国的全球供应链” 评论 48德最大反对党也来华:德国危机,中国紧盯 评论 187最新闻 Hot
-
他张嘴就来:不寻求与中国贸易战,但中企作弊…
-
美菲军演将击沉“中国造”军舰,菲军方声称“不是故意为之”
-
声称选举不自由,美国将恢复对委内瑞拉制裁
-
“以色列曾考虑周一反击伊朗,但最终决定推迟”
-
威胁上了?法财长:欧洲要对中国“露出獠牙”
-
事关TikTok,他竟想借着援乌援以法案“夹带私货”
-
乌克兰暗示西方“双标”,美欧:你们和以色列不一样
-
他离任前“反华之心不死”,扬言全面封锁制裁“援俄中企”
-
美国对中国造船业等发起301调查,商务部:一错再错
-
德英当面劝说克制,内塔尼亚胡:我们将自己决定
-
“令人鼓舞!无法想象没有中国的全球供应链”
-
这是迪拜…
-
“最后一刻,乌克兰突然退出”
-
沙特代表团访华,首次带来这个“超级工程”
-
“从河流到大海”,美众议院决定…
-
德最大反对党也来华:德国危机,中国紧盯
-