AI聊天机器人“格罗克”涉及生成儿童色情内容，欧盟调查X平台

APP下载

扫一扫

下载观察者APP

AI聊天机器人“格罗克”涉及生成儿童色情内容，欧盟调查X平台

分享到：

2026-01-26 19:57:26 字号：A- A A+ 来源：观察者网

欧盟委员会网站1月26日发布消息称，已依据《数字服务法案》，正式对美国企业家马斯克旗下社交媒体平台X启动一项新的调查。

与此同时，欧盟委员会还延长了2023年12月启动的对X平台的调查期限。该调查尚在持续中，旨在核查X平台是否履行了其在推荐算法系统风险管理方面的法定义务。

本次新的调查将评估，X平台在欧盟境内上线人工智能聊天机器人“格罗克”相关功能时，是否对相关风险进行了充分评估与有效防控。

有关风险包括，在欧盟境内传播非法内容，例如经篡改的露骨色情图像，其中包含可能构成儿童性虐待素材的内容。

欧盟委员会认为，上述风险或已实际存在，并对欧盟公民造成了严重损害。基于此，欧盟委员会将进一步调查X平台是否履行了《数字服务法案》规定的评估与防控风险的义务。

欧盟委员会将持续搜集相关证据，例如发出补充信息问询函、开展约谈或现场核查等。若X平台未对其服务作出实质性整改，欧盟委员会或将采取临时管控措施。

欧盟委员会副主席亨娜·维尔库宁说：“针对女性和儿童的换脸色情图像，是一种具有暴力性质、不可接受的人格贬损行为。通过本次调查，我们将厘清X平台是否履行了《数字服务法案》规定的法定义务，抑或是将欧洲公民的权利视作其平台运营的‘附带损害’。”

“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体X平台，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分内容足以以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名女性和未成年人。

遭到多国批评之后，1月4日，X平台就相关争议回应称，将对平台上的非法内容采取行动，包括删除相关内容、永久封禁账号，并在必要时与当地政府和执法部门合作。

马斯克3日发帖表示，任何使用“格罗克”制作非法内容的人，都将面临与上传非法内容相同的后果。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签
- 责任编辑: 张荃
- 委内瑞拉代总统：我们受够了美国指手画脚
  
  2026-01-26 18:08 唐罗主义来了
- 习近平同越共中央总书记苏林通电话
  
  2026-01-26 18:01
- 高市称“不过半立刻辞职”
  
  2026-01-26 17:35 日本
- 商务部回应“中美新一轮谈判”
  
  2026-01-26 17:07 中美关系
- 美国正式退出世卫组织还抹黑中国，中方驳斥
  
  2026-01-26 16:47 中美关系
- 110%→40%，印欧被曝将有大动作
  
  2026-01-26 16:06
- 英国首相本周访华？中方回应
  
  2026-01-26 15:41 不列颠
- 英国首相近8年未访华，“斯塔默认为这是失职”
  
  2026-01-26 15:33 不列颠
- 美国威胁对加拿大加征100%关税，中方回应
  
  2026-01-26 15:31 中美关系
- C919生产开门红，“今年有望每15天内造一架”
  
  2026-01-26 15:26 中国大飞机
- 乌拉圭总统奥尔西将访华
  
  2026-01-26 15:17 中国外交
- 印度出现尼帕疫情，我国一年前已列入监测目录
  
  2026-01-26 14:52 印度惊奇
- 利益输送？特朗普政府砸下最大一笔稀土投资
  
  2026-01-26 13:55
- 美方气急败坏：几个月前还跟我们一起搞中国…
  
  2026-01-26 11:58 中美关系
- 特朗普的前白宫新闻秘书发声：不要再执迷不悟
  
  2026-01-26 11:50 美国一梦
- “‘唐罗主义’，目标还是中国”
  
  2026-01-26 10:25 唐罗主义来了
- 已致15死28人失踪，我使馆：尚无法确认国籍信息
  
  2026-01-26 10:11
- 卡尼回怼，特朗普继续自言自语“中国接管加拿大”
  
  2026-01-26 09:50 应对特朗普冲击波
- “中国正遵循拿破仑名言：别在对手犯错时打断他”
  
  2026-01-26 09:01 唐罗主义来了
- 芬兰总理抵京后发文
  
  2026-01-26 08:42
搜索

   观察者头条查看全部

英国首相近8年未访华，“斯塔默认为这是失职” 评论 121

美方气急败坏：几个月前还跟我们一起搞中国… 评论 113

“中国正遵循拿破仑名言：别在对手犯错时打断他” 评论 203

中国超越美国怎么办？过半美民众：与自己生活无关评论 187

墨西哥被吓成“惊弓之鸟” 评论 71

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

AI聊天机器人“格罗克”涉及生成儿童色情内容，欧盟调查X平台

委内瑞拉代总统：我们受够了美国指手画脚

习近平同越共中央总书记苏林通电话

高市称“不过半立刻辞职”

商务部回应“中美新一轮谈判”

美国正式退出世卫组织还抹黑中国，中方驳斥

110%→40%，印欧被曝将有大动作

英国首相本周访华？中方回应

英国首相近8年未访华，“斯塔默认为这是失职”

美国威胁对加拿大加征100%关税，中方回应

C919生产开门红，“今年有望每15天内造一架”

乌拉圭总统奥尔西将访华

印度出现尼帕疫情，我国一年前已列入监测目录

利益输送？特朗普政府砸下最大一笔稀土投资

美方气急败坏：几个月前还跟我们一起搞中国…

特朗普的前白宫新闻秘书发声：不要再执迷不悟

“‘唐罗主义’，目标还是中国”

已致15死28人失踪，我使馆：尚无法确认国籍信息

卡尼回怼，特朗普继续自言自语“中国接管加拿大”

“中国正遵循拿破仑名言：别在对手犯错时打断他”

芬兰总理抵京后发文

英国首相近8年未访华，“斯塔默认为这是失职”

110%→40%，印欧被曝将有大动作

C919生产开门红，“今年有望每15天内造一架”

“美航母逼近”，伊朗挂起巨幅画…

美方气急败坏：几个月前还跟我们一起搞中国…

利益输送？特朗普政府砸下最大一笔稀土投资

特朗普的前白宫新闻秘书发声：不要再执迷不悟

“‘唐罗主义’，目标还是中国”

墨西哥被吓成“惊弓之鸟”

中国超越美国怎么办？过半美民众：与自己生活无关

英国要建自己的FBI

“中国正遵循拿破仑名言：别在对手犯错时打断他”

卡尼回怼，特朗普继续自言自语“中国接管加拿大”

“可以谈，但别碰我们的矿”

示威再起，“你要我们和平，转头就朝我们开枪”

以色列代表缺席，内情曝光