字节跳动大模型训练被实习生攻击，涉事者已被辞退

APP下载

扫一扫

下载观察者APP

字节跳动大模型训练被实习生攻击，涉事者已被辞退

分享到：

2024-10-19 10:25:04 字号：A- A A+ 来源：界面新闻

界面新闻从知情人士处获悉，此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

10月18日，多个微信群流传一则消息：“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。”

界面新闻从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

界面新闻向字节跳动方面求证此事，截至目前，官方未进行回应。

传闻显示，该田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且AML团队无法核查原因。但传闻曝出之后，该实习生还在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把锅扣到自己头上。

界面新闻从知情人士处了解到，字节跳动内部已经调查明确此事为田姓实习生所为。目前，该实习生已被辞退，字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟，以及该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅，称是其他人所为。

但该实习生攻击的并不是豆包大模型，而是商业化技术团队的模型训练任务，影响了该技术团队的一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。

一位技术安全专家告诉界面新闻，HF漏洞产生肯定是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁做操作都有痕迹记录，一个人想动代码是不可能的。

上述技术安全专家表示，目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。

（界面新闻记者肖芳）
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签
- 原标题：字节跳动大模型训练被实习生攻击，涉事者已被辞退
- 责任编辑: 林铃锦
- 政策组合拳下，四季度经济怎么走？
  
  2024-10-19 09:02 观网财经-宏观
- 印度手机出货单季增长9%，vivo超小米首成第一
  
  2024-10-18 22:09 观网财经-科创
- 科大讯飞三季度扭亏，前三季度回款150亿
  
  2024-10-18 20:58 观网财经-科创
- 三季度经济增速4.6%，全年5%目标如何实现？
  
  2024-10-18 20:38 观网财经-宏观
- 外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认
  
  2024-10-18 18:20 观网财经-科创
- 第十批药品集采开启，62品种263品规创历年之最
  
  2024-10-18 18:17 观网财经-健康
- 自然资源部：涉及国家安全，必须存储于境内
  
  2024-10-18 18:14
- 京东金融：不存在网传“挤兑”情况
  
  2024-10-18 17:16 观网财经-金融
- 学会反思的国产大模型，真变强了？
  
  2024-10-18 16:17
- 沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高
  
  2024-10-18 15:12 金融观察
- 沪深两市成交突破1.5万亿，芯片行业ETF放量飙升
  
  2024-10-18 14:10 观网财经-金融
- 吴清：加快落实中长资金入市，严惩违规减持
  
  2024-10-18 13:59 观网财经-宏观
- 央行两项新工具今日实施！“预计还有降准降息”
  
  2024-10-18 12:50 观网财经-金融
- 诺基亚在中国裁员近2000人，在华份额已不到5%
  
  2024-10-18 11:19 观网财经-科创
- 李德仁院士提出“时空智能学”
  
  2024-10-18 10:00 观网财经-科创
- 欧洲央行宣布降息25个基点
  
  2024-10-17 20:34 金融观察
- 美的科技月：累计奖励超5亿元，加强全球人才引入
  
  2024-10-17 20:26 观网财经-科创
- 存量房贷下调后还有红包：下月起定价机制可重新协商？
  
  2024-10-17 18:35 观网财经-金融
- 茅台在香港降价千元？门店员工称暂未接到通知
  
  2024-10-17 18:04 观网财经-消费
- 成都将迎大规模拆迁？房小团发布澄清声明
  
  2024-10-17 16:23 观网财经-房产
搜索

   观察者头条查看全部

普京访印：美国都在买，印度凭啥不能买？评论 56

日本开发稀土担心中国干扰？日防相放话评论 127

“美欧抢矿，遭殃的却是他们” 评论 13

美国又开炮欧盟：你们在“霸凌”美国军工！评论 72

时代变了，“欧洲人迫切想要中国技术” 评论 205

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

字节跳动大模型训练被实习生攻击，涉事者已被辞退

政策组合拳下，四季度经济怎么走？

印度手机出货单季增长9%，vivo超小米首成第一

科大讯飞三季度扭亏，前三季度回款150亿

三季度经济增速4.6%，全年5%目标如何实现？

外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认

第十批药品集采开启，62品种263品规创历年之最

自然资源部：涉及国家安全，必须存储于境内

京东金融：不存在网传“挤兑”情况

学会反思的国产大模型，真变强了？

沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高

沪深两市成交突破1.5万亿，芯片行业ETF放量飙升

吴清：加快落实中长资金入市，严惩违规减持

央行两项新工具今日实施！“预计还有降准降息”

诺基亚在中国裁员近2000人，在华份额已不到5%

李德仁院士提出“时空智能学”

欧洲央行宣布降息25个基点

美的科技月：累计奖励超5亿元，加强全球人才引入

存量房贷下调后还有红包：下月起定价机制可重新协商？

茅台在香港降价千元？门店员工称暂未接到通知

成都将迎大规模拆迁？房小团发布澄清声明

普京访印：美国都在买，印度凭啥不能买？

任正非：未来时代的希望在青年

自民党“黑金”丑闻“吹哨人”再出手，这次是高市

呵呵，“‘民主国家’看不上中国技术”

“白宫‘慌乱应对’，想赢中国，支持得到位啊”

机密通话曝光！“美国恐将背叛，你要小心”

“云冈石窟大佛冻得流鼻涕”，官方：将暂时封闭、处置渗水

“高市早苗更加不安了”

高善文离职后，又有分析师集体出走国投证券

台军又出意外，这次是炮弹砸了民宅

“中产、富裕阶层也去1元店”，特朗普还嘴硬

国安战略报告迟迟未出，“美财长要求软化对华措辞”

“彻底反转了，中国是发达国家，我们才是新兴国家”

日本开发稀土担心中国干扰？日防相放话

“按下葫芦浮起瓢”，英伟达想重返中国市场又难了…

“特朗普高兴太早咯，中国把枪放进枪套，但枪还在手上”