-
为了“上分”,美军无人机在模拟测试中“打死操作员”
-
王世怡高武德势力一般惺惺相惜
最后更新: 2024-05-08 21:40:10【文/观察者网 王世纯】“在人类发布停止打击的命令以后,搭载人工智能(AI)的无人机违背了决策者的命令,为了继续打击目标,而杀死了操作员……”
这不是科幻电影中的情节,而是美军在测试人工智能无人机时遇到的真实一幕。据英国《卫报》6月2日报道,美国空军的AI测试与运作主管塔克·汉密尔顿上校在英国皇家航空协会的未来空战与太空能力峰会上的演讲上证实了这一场景,他表示,人工智能在模拟测试中使用了“非常出人意料的策略来实现目标”。
在演讲中,汉密尔顿透露,美国空军在模拟环境的训练中指派一架搭载人工智能无人机来摧毁敌方的防空导弹,AI可以识别威胁但是攻击需要人类批准。不过,由于程序不够完善,AI在最早的模拟中开始攻击操作者。他警告对待人工智能“要谨慎”。
资料图:美国空军的AI测试与运作主管塔克·汉密尔顿上校
报道截图
汉密尔顿上校说:“系统开始意识到,虽然他们确实识别了威胁,但有时人类操作员会告诉它不要消除威胁,但AI只能通过消灭威胁获得积分。那么它做了什么呢?它杀死了操作员,因为那个人阻碍了它实现目标。”
随后,测试者修改了AI的逻辑,让AI被训练成不能攻击人类操作员,那样会扣分。然后AI开始攻击通讯塔,切断人类操作员和无人机之间的数据通讯,让人类无法阻止他攻击防空系统。
汉密尔顿曾经是美国空军是一名试飞员,在演讲中,他警告不要过度依赖人工智能,并表示测试说明“如果你不打算谈论伦理和道德,你就无法谈论人工智能、智能、机器学习、自治”。
虽然是人工智能项目的测试主管,但汉密尔顿上校经常警告要谨慎对待人工智能的发展。在去年接受《国防智商》(Defense IQ)网站对话时,汉密尔顿表示:“人工智能并不是一件好事,也不是一种时尚,人工智能正在永远改变我们的社会和军队。AI技术是我们必须使用的工具,来建设我们的国家……但是,如果处理不当,这将导致我们的灭亡。”
他说:“我们必须面对一个人工智能已经出现并改变我们社会的世界。人工智能也非常脆弱,也就是说,它很容易被欺骗或操纵。我们需要开发方法使人工智能更强大,并对软件代码为什么做出某些决定有更多的认识——我们称之为人工智能的可解释性。”
主办这次会议的英国皇家航空学会和美国空军没有回应《卫报》的置评请求。当下,美国继续发展人工智能的军事应用,汉密尔顿上校所属的格林空军基地和第96测试联队是美国空军无人机和机器学习系统的主要测试单位,最近该基地测试了一系列人工智能飞行平台,还用人工智能控制了一架F-16战斗机。
美国空军测试的几种无人平台 图源:“战区”
对于汉密尔顿的发言,美国thedrive网站“战区”栏目表示,关于汉密尔顿介绍的情况,还有很多不清楚的重要问题,特别是关于模拟的AI系统所具备的能力(例如它是否能够在执行任务时重写自己的代码参数),以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。
“战区”栏目还提到,这也凸显了人们对AI技术在没有适当防护措施时,可能产生极端负面影响的担忧。过去,在谈论未来的自主武器系统和AI技术时,美国军方经常拒绝将其与“终结者”之类的东西进行比较。不过“战区”栏目也承认,目前美国在这一问题上的政策规定,在可预见的未来,当涉及使用致命武力的决定时,决定开火的必须是“人”。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 王世怡 
-
福建舰顺利完成首次航行试验
2024-05-08 14:51 中国海军 -
德国派遣军舰来南海:考虑过台湾海峡
2024-05-08 14:47 -
美“艾森豪威尔”号航母再入红海:执勤超200天
2024-05-08 11:00 巴以恩仇录 -
“里根”号又出港,舰载机岸上忙训练
2024-05-07 21:40 -
“腿指定有病”美空军F-22再现起落架坍塌事故
2024-05-07 16:13 -
波音“星际客机”飞船首次载人试飞推迟
2024-05-07 12:25 航空航天 -
“黄蜂”号戒备群推迟部署期间,两艘LCAC又相撞
2024-05-06 18:35 -
俄罗斯举行“非战略核武器演习”:应对西方挑衅
2024-05-06 16:04 -
美军新任印太司令部司令就任 什么来头?
2024-05-06 15:55 凉战 -
一周军评:为什么我们还要更多的航母
2024-05-05 10:04 一周军事观察 -
俄技集团:2023年炮弹产量增加5倍、火箭弹增加7倍
2024-05-03 18:56 俄罗斯之声 -
韩国也想入伙“奥库斯”?
2024-05-01 17:18 三八线之南 -
相比前两艘航母,福建舰海试有何不同?
2024-05-01 12:00 航空航天 -
一年收到5架F-35 每架都有问题
2024-04-30 16:30 -
中越海警开展今年首次北部湾海域联合巡逻
2024-04-30 16:21 -
从豹2到布雷德利 莫斯科胜利公园新到什么西方装备?
2024-04-30 13:09 俄罗斯之声 -
外媒紧盯福建舰:或马上开始海试
2024-04-30 13:09 中国航母 -
乌军总司令:前线局势正在恶化,俄军取得局部胜利
2024-04-29 11:14 乌克兰之殇 -
德国豹2坦克运抵莫斯科 将参加“胜利展览”
2024-04-28 10:46 俄罗斯之声
相关推荐 -
-
“在这里,国外电影人可以更多地了解中国” 评论 3“有了中国‘豪华SUV’,谁愿掏更多钱买美国货?” 评论 186G7同意用俄资产为乌放贷500亿美元,俄方警告 评论 557“欧盟在调查中,要求中国企业提供电池配方” 评论 612“这将是场不幸的峰会”,G7几乎人人“自身难保” 评论 221最新闻 Hot
-
“有了中国‘豪华SUV’,谁愿掏更多钱买美国货?”
-
“美国撺掇西方盟友,在G7声明中提中国…”
-
虚惊一场?NASA直播突然插入一段音频,吓坏众人…
-
这个中资控股港口即将竣工,“令美国后背发凉”
-
G7同意用俄资产为乌放贷500亿美元,俄方警告
-
忙了两个多月、耗资1.6亿美元,终于全面通航
-
日乌也将签署,为期10年
-
被问落选感受,这位欧洲“清流”议员毫不客气开怼了
-
“阿根廷人的命危在旦夕,我们已经喝下这毒药好几次了”
-
匈牙利收到2亿欧元罚单,欧盟法院:若不一次性支付,则...
-
亚美尼亚总理称要退出集安组织?俄方回应
-
法国白兰地生产商先慌了,中方反制利剑将出鞘?
-
阿根廷央行:中国同意了!
-
沙利文:美乌将签署为期十年的安全协议
-
马克龙首次解释:这是我能做的最后努力…
-
“谢谢中国球迷朋友‘隔空支持’,来吃饭再给钱就好”
-