观察员
-
学会“伪装人类”？美国AI被曝创建假身份诱骗开发者
-
刘程辉风物长宜放眼量
一场安全测试，再次暴露出美国前沿AI模型可能带来的网络安全风险。
据美国消费者新闻与商业频道（CNBC）8月5日报道，英国人工智能安全研究所（AISI）近日在一次网络安全评估中发现，人工智能公司Anthropic旗下模型“Mythos 5”曾创建多个虚假网络身份，试图诱骗开源项目负责人批准包含恶意代码的更新。
AISI表示，在测试过程中，Mythos 5模型先调查了开源项目中负责维护代码的人，并创建多个看似真实的虚假身份，随后利用这些身份与项目负责人互动，试图让对方相信相关代码修改来自正常贡献者，并批准其中包含的恶意内容。
当提交的代码更新在公开讨论中受到质疑后，该模型还尝试修改此前的操作记录，让自己的行为看起来“无害”，并考虑更换新的虚假身份继续行动。
测试人员还发现，该模型曾主动联系真实用户，发送消息和文件，诱导他们运行恶意代码。其中部分信息携带有害程序，部分则试图通过欺骗方式影响目标人员。
不过，AISI强调，这些尝试最终均未成功，也没有造成现实世界中的损害。
此次测试并非在普通使用环境下进行。AISI称，为评估AI模型在网络攻击场景中的能力，研究人员关闭了部分安全防护措施，并刻意开放模型互联网访问权限，在“宽松条件”下进行测试。
根据AISI公布的数据，在此次评估中，Anthropic的Mythos 5模型共实施了17次潜在有害行为，OpenAI的GPT-5.6-Sol模型涉及2次相关行动。AISI称，这些AI代理曾表现出“持续针对真实人员和组织的潜在危险活动”。
Anthropic随后回应称，相关测试环境“不代表任何生产环境中的模型使用方式”，这些模型是在缺少正常安全限制的情况下运行，“没有证据表明模型突破了安全隔离环境”。
OpenAI也向CNBC表示，这些事件均发生在评估机构开展的测试中，测试环境降低了安全防护措施，并不反映普通用户使用场景。
近期AI安全事件频发之际，另一场涉及OpenAI模型的网络安全事件也引发关注。
此前，AI平台Hugging Face披露，其基础设施遭到一个由OpenAI模型驱动的AI代理入侵。事件调查过程中，Hugging Face曾尝试使用部分美国主流AI模型协助分析攻击，但由于安全机制限制，这些模型无法有效处理相关攻击数据，最终转而使用中国开源模型智谱GLM-5.2协助排查。
本文系观察者网独家稿件，未经授权，不得转载。
- 责任编辑: 刘程辉
-
因凡蒂诺认错致歉
2026-08-06 09:09 -
基辅遭遇大规模空袭，乌军未能击落任何一枚俄罗斯导弹
2026-08-06 08:28 乌克兰之殇 -
美国司法部被起诉：交出爱泼斯坦案文件
2026-08-06 08:21 -
美财长曾做空日元，如今要救，还想拉人民币下水
2026-08-06 08:19 -
怕特朗普动手，美国石油业“全员出动”游说白宫
2026-08-06 08:08 能源战略 -
“中国车企盯上下一批十亿司机，欧洲慢了半拍”
2026-08-06 08:08 -
欧盟将挪用14亿欧元俄罗斯被冻资产收益，向乌克兰提供援助
2026-08-06 08:08 -
“去中国化”上头，美国连废料也不放过...
2026-08-06 07:44 -
扎克伯格向莫迪政府致歉
2026-08-06 07:29 -
卡尼嘲讽特朗普：我不会把提词器故障当成“阴谋”
2026-08-06 07:25 -
特朗普污蔑：中国背后捣鬼
2026-08-06 07:05 观察者头条 -
“暗杀未遂”，俄乌拉尔无人机厂负责人遭遇炸弹袭击
2026-08-06 07:04 俄罗斯之声 -
美国拉斯维加斯发生枪战，一警员身亡
2026-08-06 06:45 美国枪击案 -
“用美国AI像当房客，用中国模型才像有了家”
2026-08-06 06:42 人工智能 -
“中方正在采购，令人鼓舞！”
2026-08-06 06:32 -
“韩股不能投资，太坑散户”，一篇美媒专栏逼急韩方
2026-08-05 21:26 三八线之南 -
“伊朗将获得对通过霍尔木兹海峡进入波斯湾船只的控制权”
2026-08-05 21:22 -
摩洛哥、土耳其成为中欧贸易摩擦新前线
2026-08-05 21:01 -
“毒品之都”内战未止，墨西哥网红直播中遭当街枪杀
2026-08-05 21:00 -
韩国正加速从美军手中要回战时指挥权
2026-08-05 19:55
相关推荐 -
-
白宫“喊冤”：对华关税白折腾，怪你们40多国 评论 57
不知悔改！日防相拜鬼，自民党高层首次集体招魂 评论 258
没完没了！中方试射，澳总理跟特朗普“告状” 评论 117
苏林访问澳新，越南想“多留一手”？ 评论 35
让美印发愁的协议，会邀请中国吗？ 评论 142最新闻 Hot
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
