观察员
-
为了“上分”，美军无人机在模拟测试中“打死操作员”
-
王世怡高武德势力一般惺惺相惜
【文/观察者网 王世纯】“在人类发布停止打击的命令以后，搭载人工智能（AI）的无人机违背了决策者的命令，为了继续打击目标，而杀死了操作员……”
这不是科幻电影中的情节，而是美军在测试人工智能无人机时遇到的真实一幕。据英国《卫报》6月2日报道，美国空军的AI测试与运作主管塔克·汉密尔顿上校在英国皇家航空协会的未来空战与太空能力峰会上的演讲上证实了这一场景，他表示，人工智能在模拟测试中使用了“非常出人意料的策略来实现目标”。
在演讲中，汉密尔顿透露，美国空军在模拟环境的训练中指派一架搭载人工智能无人机来摧毁敌方的防空导弹，AI可以识别威胁但是攻击需要人类批准。不过，由于程序不够完善，AI在最早的模拟中开始攻击操作者。他警告对待人工智能“要谨慎”。
资料图：美国空军的AI测试与运作主管塔克·汉密尔顿上校
报道截图
汉密尔顿上校说：“系统开始意识到，虽然他们确实识别了威胁，但有时人类操作员会告诉它不要消除威胁，但AI只能通过消灭威胁获得积分。那么它做了什么呢？它杀死了操作员，因为那个人阻碍了它实现目标。”
随后，测试者修改了AI的逻辑，让AI被训练成不能攻击人类操作员，那样会扣分。然后AI开始攻击通讯塔，切断人类操作员和无人机之间的数据通讯，让人类无法阻止他攻击防空系统。
汉密尔顿曾经是美国空军是一名试飞员，在演讲中，他警告不要过度依赖人工智能，并表示测试说明“如果你不打算谈论伦理和道德，你就无法谈论人工智能、智能、机器学习、自治”。
虽然是人工智能项目的测试主管，但汉密尔顿上校经常警告要谨慎对待人工智能的发展。在去年接受《国防智商》（Defense IQ）网站采访时，汉密尔顿表示：“人工智能并不是一件好事，也不是一种时尚，人工智能正在永远改变我们的社会和军队。AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡。”
他说：“我们必须面对一个人工智能已经出现并改变我们社会的世界。人工智能也非常脆弱，也就是说，它很容易被欺骗或操纵。我们需要开发方法使人工智能更强大，并对软件代码为什么做出某些决定有更多的认识——我们称之为人工智能的可解释性。”
主办这次会议的英国皇家航空学会和美国空军没有回应《卫报》的置评请求。当下，美国继续发展人工智能的军事应用，汉密尔顿上校所属的格林空军基地和第96测试联队是美国空军无人机和机器学习系统的主要测试单位，最近该基地测试了一系列人工智能飞行平台，还用人工智能控制了一架F-16战斗机。
美国空军测试的几种无人平台 图源：“战区”
对于汉密尔顿的发言，美国thedrive网站“战区”栏目表示，关于汉密尔顿介绍的情况，还有很多不清楚的重要问题，特别是关于模拟的AI系统所具备的能力（例如它是否能够在执行任务时重写自己的代码参数），以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。
“战区”栏目还提到，这也凸显了人们对AI技术在没有适当防护措施时，可能产生极端负面影响的担忧。过去，在谈论未来的自主武器系统和AI技术时，美国军方经常拒绝将其与“终结者”之类的东西进行比较。不过“战区”栏目也承认，目前美国在这一问题上的政策规定，在可预见的未来，当涉及使用致命武力的决定时，决定开火的必须是“人”。
本文系观察者网独家稿件，未经授权，不得转载。
- 责任编辑: 王世怡
-
援乌装备“没做好战斗准备”，美军预置装备问题多
2023-06-01 15:10 -
“乌克兰计划于今年夏天展开反攻”
2023-06-01 13:09 俄乌冲突一周年 -
南部战区回应南海处置美军侦察机
2023-05-31 19:43 中美关系 -
绍伊古：俄军明年多一艘核巡洋舰
2023-05-31 13:31 俄罗斯之声 -
又来碰瓷？美军炒作“解放军战机南海拦截”
2023-05-31 11:08 南海局势 -
中国海军将赴印尼参加“科莫多-2023”多国海上联演
2023-05-31 10:20 -
美日菲海警联合军演
2023-05-30 17:11 -
乌军罕见承认：5架战机被俄军击中
2023-05-30 13:49 俄乌冲突一周年 -
他当面怼BBC记者：如果你继续侮辱我，现在就可以结束采访
2023-05-29 18:10 乌克兰之殇 -
一周军评：“别尔哥罗德共和国”的烟雾弹能遮住巴赫穆特的失败吗？
2023-05-28 09:01 一周军事观察 -
台军：山东舰编队通过台湾海峡
2023-05-27 16:18 中国航母 -
在巴赫穆特 16名动员兵在36小时内损失11人……
2023-05-26 15:43 俄乌冲突一周年 -
有台军在B站“泄密”？台防务部门：是台军，没泄密
2023-05-26 14:42 -
西工大垂直管射折叠翼无人机研究取得重大突破！
2023-05-26 13:12 -
俄罗斯与白俄罗斯签署核武器协议
2023-05-26 10:06 俄罗斯之声 -
“福特”号停靠奥斯陆，美航母65年来首访挪威
2023-05-25 18:47 -
伊朗公布本土研发远程弹道导弹
2023-05-25 16:46 -
越境袭击俄边境地区团体用的是美制车辆？美回应：会调查
2023-05-25 15:21 俄乌冲突一周年 -
美驻日F-35B本月发生“A级事故”
2023-05-25 14:34 -
在《钢铁洪流进行曲》伴奏下，空军八一飞行表演队精彩亮相兰卡威
2023-05-25 11:57
相关推荐 -
-
以色列宣布将地面行动扩大到加沙地带全境 评论 120
为防中国芯片，美商务部长要求“加钱” 评论 197
“来自美国的压力越来越大” 评论 85
谈判陷入僵局，以总理：将继续开展行动 评论 112
谈判陷僵局，以总理令摩萨德小组回国 评论 44最新闻 Hot-
以色列宣布将地面行动扩大到加沙地带全境
-
“美国利用‘不成文规则’，强迫企业在新加坡而非香港注册”
-
“一艘美国军舰出于自卫开火”
-
以驻联合国代表抨击犹太裔索罗斯：可耻！
-
“美国防部称，我们的军火工业难以跟上中国步伐”
-
美国三位“中国通”发文呼吁赖清德“冻结台独党纲”
-
北约秘书长：要为来自乌克兰的坏消息做好准备
-
“芬兰希望得到中国帮助”
-
“英国直接不想还了”
-
“令人发指”！菲律宾总统怒了
-
“78名美国军人涉嫌支持推翻美国政府”
-
“来自美国的压力越来越大”
-
基辅市长“指桑骂槐”？
-
美国竟又推出新规，针对中国汽车电池
-
“以色列想在战后加沙建缓冲区，已告知沙特等阿拉伯国家”
-
“美国想要落实两国方案，须对以色列更强硬”
-
Copyright © 2014-2023 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2022）0000197
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
