为了“上分”，美军无人机在模拟测试中“打死操作员”

APP下载

扫一扫

下载观察者APP

为了“上分”，美军无人机在模拟测试中“打死操作员”
- 王世怡高武德势力一般惺惺相惜
分享到：

2023-06-02 13:21:44 字号：A- A A+ 来源：观察者网

【文/观察者网王世纯】“在人类发布停止打击的命令以后，搭载人工智能（AI）的无人机违背了决策者的命令，为了继续打击目标，而杀死了操作员……”

这不是科幻电影中的情节，而是美军在测试人工智能无人机时遇到的真实一幕。据英国《卫报》6月2日报道，美国空军的AI测试与运作主管塔克·汉密尔顿上校在英国皇家航空协会的未来空战与太空能力峰会上的演讲上证实了这一场景，他表示，人工智能在模拟测试中使用了“非常出人意料的策略来实现目标”。

在演讲中，汉密尔顿透露，美国空军在模拟环境的训练中指派一架搭载人工智能无人机来摧毁敌方的防空导弹，AI可以识别威胁但是攻击需要人类批准。不过，由于程序不够完善，AI在最早的模拟中开始攻击操作者。他警告对待人工智能“要谨慎”。

资料图：美国空军的AI测试与运作主管塔克·汉密尔顿上校

报道截图

汉密尔顿上校说：“系统开始意识到，虽然他们确实识别了威胁，但有时人类操作员会告诉它不要消除威胁，但AI只能通过消灭威胁获得积分。那么它做了什么呢？它杀死了操作员，因为那个人阻碍了它实现目标。”

随后，测试者修改了AI的逻辑，让AI被训练成不能攻击人类操作员，那样会扣分。然后AI开始攻击通讯塔，切断人类操作员和无人机之间的数据通讯，让人类无法阻止他攻击防空系统。

汉密尔顿曾经是美国空军是一名试飞员，在演讲中，他警告不要过度依赖人工智能，并表示测试说明“如果你不打算谈论伦理和道德，你就无法谈论人工智能、智能、机器学习、自治”。

虽然是人工智能项目的测试主管，但汉密尔顿上校经常警告要谨慎对待人工智能的发展。在去年接受《国防智商》（Defense IQ）网站采访时，汉密尔顿表示：“人工智能并不是一件好事，也不是一种时尚，人工智能正在永远改变我们的社会和军队。AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡。”

他说：“我们必须面对一个人工智能已经出现并改变我们社会的世界。人工智能也非常脆弱，也就是说，它很容易被欺骗或操纵。我们需要开发方法使人工智能更强大，并对软件代码为什么做出某些决定有更多的认识——我们称之为人工智能的可解释性。”

主办这次会议的英国皇家航空学会和美国空军没有回应《卫报》的置评请求。当下，美国继续发展人工智能的军事应用，汉密尔顿上校所属的格林空军基地和第96测试联队是美国空军无人机和机器学习系统的主要测试单位，最近该基地测试了一系列人工智能飞行平台，还用人工智能控制了一架F-16战斗机。

美国空军测试的几种无人平台图源：“战区”

对于汉密尔顿的发言，美国thedrive网站“战区”栏目表示，关于汉密尔顿介绍的情况，还有很多不清楚的重要问题，特别是关于模拟的AI系统所具备的能力（例如它是否能够在执行任务时重写自己的代码参数），以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。

“战区”栏目还提到，这也凸显了人们对AI技术在没有适当防护措施时，可能产生极端负面影响的担忧。过去，在谈论未来的自主武器系统和AI技术时，美国军方经常拒绝将其与“终结者”之类的东西进行比较。不过“战区”栏目也承认，目前美国在这一问题上的政策规定，在可预见的未来，当涉及使用致命武力的决定时，决定开火的必须是“人”。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签人工智能美国空军 AI
- 责任编辑: 王世怡
- 援乌装备“没做好战斗准备”，美军预置装备问题多
  
  2023-06-01 15:10
- “乌克兰计划于今年夏天展开反攻”
  
  2023-06-01 13:09 俄乌冲突一周年
- 南部战区回应南海处置美军侦察机
  
  2023-05-31 19:43 中美关系
- 绍伊古：俄军明年多一艘核巡洋舰
  
  2023-05-31 13:31 俄罗斯之声
- 又来碰瓷？美军炒作“解放军战机南海拦截”
  
  2023-05-31 11:08 南海局势
- 中国海军将赴印尼参加“科莫多-2023”多国海上联演
  
  2023-05-31 10:20
- 美日菲海警联合军演
  
  2023-05-30 17:11
- 乌军罕见承认：5架战机被俄军击中
  
  2023-05-30 13:49 俄乌冲突一周年
- 他当面怼BBC记者：如果你继续侮辱我，现在就可以结束采访
  
  2023-05-29 18:10 乌克兰之殇
- 一周军评：“别尔哥罗德共和国”的烟雾弹能遮住巴赫穆特的失败吗？
  
  2023-05-28 09:01 一周军事观察
- 台军：山东舰编队通过台湾海峡
  
  2023-05-27 16:18 中国航母
- 在巴赫穆特 16名动员兵在36小时内损失11人……
  
  2023-05-26 15:43 俄乌冲突一周年
- 有台军在B站“泄密”？台防务部门：是台军，没泄密
  
  2023-05-26 14:42
- 西工大垂直管射折叠翼无人机研究取得重大突破！
  
  2023-05-26 13:12
- 俄罗斯与白俄罗斯签署核武器协议
  
  2023-05-26 10:06 俄罗斯之声
- “福特”号停靠奥斯陆，美航母65年来首访挪威
  
  2023-05-25 18:47
- 伊朗公布本土研发远程弹道导弹
  
  2023-05-25 16:46
- 越境袭击俄边境地区团体用的是美制车辆？美回应：会调查
  
  2023-05-25 15:21 俄乌冲突一周年
- 美驻日F-35B本月发生“A级事故”
  
  2023-05-25 14:34
- 在《钢铁洪流进行曲》伴奏下，空军八一飞行表演队精彩亮相兰卡威
  
  2023-05-25 11:57
搜索

   观察者头条查看全部

俄沙“振臂一呼”：所有OPEC+国家都应加入评论 96

“美国不断军援下，加沙被炸7周堪比二战末期德国” 评论 121

“新加坡和中国将30天互免签证” 评论 177

曾是胡塞对手，但沙特现在“劝美国克制” 评论 72

“委内瑞拉已调动军队” 评论 251

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

为了“上分”，美军无人机在模拟测试中“打死操作员”

援乌装备“没做好战斗准备”，美军预置装备问题多

“乌克兰计划于今年夏天展开反攻”

南部战区回应南海处置美军侦察机

绍伊古：俄军明年多一艘核巡洋舰

又来碰瓷？美军炒作“解放军战机南海拦截”

中国海军将赴印尼参加“科莫多-2023”多国海上联演

美日菲海警联合军演

乌军罕见承认：5架战机被俄军击中

他当面怼BBC记者：如果你继续侮辱我，现在就可以结束采访

一周军评：“别尔哥罗德共和国”的烟雾弹能遮住巴赫穆特的失败吗？

台军：山东舰编队通过台湾海峡

在巴赫穆特 16名动员兵在36小时内损失11人……

有台军在B站“泄密”？台防务部门：是台军，没泄密

西工大垂直管射折叠翼无人机研究取得重大突破！

俄罗斯与白俄罗斯签署核武器协议

“福特”号停靠奥斯陆，美航母65年来首访挪威

伊朗公布本土研发远程弹道导弹

越境袭击俄边境地区团体用的是美制车辆？美回应：会调查

美驻日F-35B本月发生“A级事故”

在《钢铁洪流进行曲》伴奏下，空军八一飞行表演队精彩亮相兰卡威

俄沙“振臂一呼”：所有OPEC+国家都应加入

他敦促国会赶紧“打钱”，“中国正在太平洋伺机而动”

丹麦通过法律：焚烧古兰经违法

“西方主导的不公正国际秩序应当终结”

美使馆人员行贿窃取情报，被西班牙驱逐

韩国与荷兰将强化芯片同盟，“与中美有关”

委内瑞拉公投后，圭亚那：已与美国、巴西等国商讨

“美国不断军援下，加沙被炸7周堪比二战末期德国”

“欧洲的保护主义者会利用他”

德国这州规定：想获得公民身份“不能反犹”

“新加坡和中国将30天互免签证”

伊朗宣布“发射成功”：2029年前要把宇航员送入太空

“请安理会行动…”以色列：辞职吧

“德国芯片生态面临灭绝威胁”

曾是胡塞对手，但沙特现在“劝美国克制”

美军：全部停飞