就职第一天，特朗普就撤销了拜登在2023年签署的一项行政命令。该命令要求AI开发者在公开发布产品前需要向美国政府提交安全测试结果，以降低AI可能对国家安全、经济、公共健康和安全带来的风险。

尽管特朗普近期将Anthropic公司列入“黑名单”，但包括xAI推出的Grok模型在内的几家竞争对手，仍然与美国政府达成了新的合作协议。Grok此前曾因生成未经同意的色情内容、反犹言论、政治虚假信息以及阴谋论而引发争议。

与此同时，特斯拉也在研发由Grok驱动的人形机器人Optimus。不过，对于该机器人是否可能被用于军事用途，特斯拉公司并未回应《时代》的多次采访请求。

·“人形机器士兵将参加美国的下一场战争”

随着美国的AI发展趋势逐渐远离监管与监督，责任归属问题变得更加迫切。

如果一台人形机器人发生故障并犯下战争罪行，或者误杀平民，责任应该由谁承担？是软件工程师，还是下达命令的军官？

现行的国际法尚不能处理所谓的“算法责任”问题。一旦发生悲剧，这将留下巨大的法律真空。

“在法律、伦理和责任归属方面存在的诸多问题，已经超过了任何潜在收益。”哈佛学者邦尼·多赫蒂说。

联合国秘书长古特雷斯呼吁各国政府参与谈判，在2026年内签署一份关于限制“杀手机器”武器系统的国际条约 图自：联合国网站

从历史来看，军事技术的发展演进通常以越来越短的周期出现。

1861年，美国内战爆发之初，林肯总统曾亲自操作一门早期速射机枪，并立刻买下当时所有的10门。但机枪真正成为重塑战场格局的关键武器，却要等到半个世纪后的第一次世界大战。

而现代无人机首次执行任务是在2001年的阿富汗战争——距今不过25年。

勒布朗认为，人形机器士兵“将出现在美国的下一场战争中”。他说：“现在已经不能再花几十年时间去发展这些技术了，因为我们的对手不会原地踏步。”

在这样的背景下，国际社会正加紧制定规则，以规范人形机器士兵的部署和更广泛的战争自动化问题。

联合国秘书长古特雷斯与红十字国际委员会已经共同呼吁，在2026年年底之前达成一项具有法律约束力的条约，禁止在没有“实质性人类操控”的情况下运行自主武器系统。

目前已有120多个国家支持这一倡议，但包括美国、俄罗斯和以色列在内的主要军事强国态度仍未明确。

在日内瓦进行的谈判聚焦于一种双层监管框架，将应对包括无人机和人形机器士兵在内的系统：

第一，全面禁止那些“本质上不可预测”的武器系统，以及利用生物识别数据（例如人脸识别）来锁定人类目标的武器。

第二，对自主武器执行任务的地理范围、持续时间等关键因素设定严格限制，并要求系统具备“紧急停止”功能，使人类能够随时介入。

其中，最关键的法律争议之一就是“控制”究竟意味着什么。是指“人在回路中”，也就是机器可以识别目标，但必须由人类下达开火指令；还是“人在回路上”，机器可以自主运行，但必须有一名人类负责监督并拥有最终否决权。

可即便围绕相关规则的协商最终达成，美国及其主要对手是否会遵守仍然是未知数。特朗普政府过去曾多次无视甚至嘲讽国际规范，何况现在有价值数十亿美元政府合同的实际利益摆在眼前。

帕萨克直言：“世界大战当然很糟糕，但我认为冷战其实真的是件好事，因为它迫使所有人以极快的速度创新。我们希望中国有人形机器人，美国也有人形机器人，最好所有国家都有。”

尽管在技术层面取得了不少进展，但目前仍有大量工作要做。

《时代》记者在Foundation公司参观时，就曾多次看到一台“幻影”机器人突然重重摔倒在地，而公司的创始人们似乎对此早就习以为常。

升级版的“幻影MK-2”预计将在4月发布，包括了多项改进：整合电子系统以减少短路风险、加入防水设计、配备更大的电池组，以及可搬运约175磅（约79公斤）的负载。机器人的机身结构将采用模具浇铸，以加快生产并降低成本。Foundation的目标是最终实现年产量3万台。

帕萨克表示：“一旦产量达到50万台，单位成本可能会降到2万美元以下。”他设想未来将由成千上万台“幻影”组成机器人蜂群，能够参与复杂的军事行动。

Scout AI的奥提斯则认为，未来将是“无人系统对无人系统的大规模战争。当一方明显占据优势时，另一方将不得不投降”。因为如果让无人系统直接对抗人类，“后果将极具灾难性，没有哪个国家愿意让自己的人民面对那样的局面”。

到那个时候，人类或许会生活在一种“机械治下的和平”（Pax Automata）之中——当然，也可能将站在AI末日的门口，取决于你相信哪一方的观点。

勒布朗最后说：“现在你看到的，只是机器人将如何替我们打仗的第一次笨拙的尝试。但真正的大戏还在等待开场。”

（原文发布在美国《时代》杂志网站，原标题：人工智能士兵的崛起。译文有删节，仅供读者参考，不代表观察者网观点。小标题为译者所加。）

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。