观察员
-
“AI伪造色情图像”，马来西亚、印尼禁用马斯克的Grok
综合美国有线电视新闻网、英国广播公司等外媒1月12日报道，近两日，印度尼西亚和马来西亚已先后宣布禁止国内对马斯克旗下大模型Grok的访问，理由是大量用户通过该模型来伪造色情图像。
这两个国家也成为首批因“深度伪造”（deepfake）而对AI采取封禁措施的国家。
1月10日，印度尼西亚数字部长梅乌蒂亚·哈菲德（Meutya Hafid）在一份声明中解释道，此项禁令旨在“保护妇女、儿童及广大公众免受利用人工智能技术生成的虚假色情内容的风险。”
马来西亚也于11日宣布实施临时禁令，原因是“Grok被滥用于生成淫秽、露骨色情、不雅、极具冒犯性且未经同意的伪造图像，其中包括涉及妇女和未成年人的内容。”
此次封禁的导火索是近期在社交媒体平台X（原Twitter）上引发的一股热潮——大量用户利用Grok的图像生成与编辑功能，将真实女性甚至未成年人的照片恶意篡改为裸露或穿着暴露的图像。
许多遭到冒犯的网友纷纷发声并将矛头指向马斯克，要求他加大对Grok的管控。
一位名为基拉娜·阿尤宁蒂亚斯的印尼残障人士向BBC表示，有陌生人利用Grok篡改了她坐在轮椅上的照片，生成了她身穿比基尼的图像。尽管她尝试调整隐私设置并向平台投诉，但收效甚微。
此前，马斯克和xAI曾表示，他们正在通过永久封禁违规账户以及“与当地政府和执法部门合作”来解决这一问题。然而，X平台仍然充斥着此类图像。有消息人士向CNN透露称，马斯克在xAI内部一直抵制为Grok设置审查和安全防护机制。
目前，X平台及马斯克方面尚未就印尼和马来西亚的封禁做出正式回应。
除前述两个国家之外，利用Grok生成裸露图片的行为也遭到了英国首相斯塔默的谴责。斯塔默曾批评这种行为“可耻”和“令人作呕”。
英国科技大臣利兹·肯德尔也呼吁采取迅速行动，打击深度伪造图像。她表示，英国的《在线安全法案》“包含如果服务商拒绝遵守英国法律，可以封锁其在英国被访问的权力”，如果英国通信管理局（Ofcom）决定封锁马斯克的社交媒体网站，她将予以支持。
本文系观察者网独家稿件，未经授权，不得转载。
- 责任编辑: 方周
-
高市急了要“搬救兵”：我们找G7了
2026-01-12 19:04 -
“我掌握所有信息，所谓‘中俄威胁’纯属妄想”
2026-01-12 18:05 唐罗主义来了 -
生育率持续下滑，埃尔多安：每个家庭应至少生育三孩
2026-01-12 17:54 -
伊朗外长：互联网服务将很快恢复
2026-01-12 17:15 伊朗局势 -
商务部通报中欧电动汽车案磋商进展
2026-01-12 17:03 -
特朗普威胁伊朗，中方表态
2026-01-12 16:21 -
骤然升级，特朗普真要对伊朗动武？
2026-01-12 16:16 唐罗主义来了 -
王毅调整索马里行程，是出于安全考虑？外交部回应
2026-01-12 16:07 中国外交 -
特朗普称中俄只能在美方控制下购买委内瑞拉石油，中方回应
2026-01-12 15:48 中国外交 -
对日稀土出口许可审查被暂停？中方回应
2026-01-12 15:44 中日关系 -
伊朗称已控制全国局势，点名美以
2026-01-12 15:35 伊朗局势 -
又搞事！“和中国签，美国的就别想了”
2026-01-12 15:32 非洲之窗 -
加拿大总理卡尼将访华
2026-01-12 15:32 中国外交 -
都怪尹锡悦？韩最大在野党国民力量又要改名
2026-01-12 15:28 三八线之南 -
吸毒、行纳粹礼、使用“犹太猪”…德军精锐丑闻令人“瞠目结舌”
2026-01-12 15:28 德意志 -
财政部：愿重启中加经济财金等领域对话合作
2026-01-12 15:22 中国外交 -
张口就来，特朗普自称“委内瑞拉代总统”
2026-01-12 13:29 特朗普 -
特朗普：我一无所知，不过他工作干得不怎么样
2026-01-12 12:24 -
美财长要拉十多国开会，又冲中国来
2026-01-12 11:56 -
金砖国家在南非演习，美军紧盯
2026-01-12 11:41
相关推荐 -
-
背后捣鬼！“美国警告叙利亚：不准用中国电信技术” 评论 106
“极致中国化”就是叛国？英媒都看不下去了 评论 82
“90年来首次，美国人正创纪录地逃离美国” 评论 108
2年丢掉11个对华战略技术优势，韩国坐不住了 评论 161
“中国不再是‘学生’，德国应乐见” 评论 86最新闻 Hot-
“美官员担心：这时候动手，要是大陆武统...”
-
欧洲最大港口CEO焦虑：集装箱装着中国货，这才要命
-
闭门6小时，希拉里：我一无所知
-
德财长挑衅：面对中国，不想当傻子
-
长和再发公告
-
背后捣鬼！“美国警告叙利亚：不准用中国电信技术”
-
想“买”印度当盟友，以色列要掏出“最机密的军事技术”
-
“极致中国化”就是叛国？英媒都看不下去了
-
夸过爱泼斯坦是“出色的东道主”，他辞职了
-
减少对美元依赖，“非洲加速转向人民币和本币结算”
-
美国这是要拿以色列当枪使？
-
“90年来首次，美国人正创纪录地逃离美国”
-
2年丢掉11个对华战略技术优势，韩国坐不住了
-
不太想打伊朗，美军最高将领是怎么撑到现在的？
-
欧盟憋屈：7%的货都超了！
-
中国音乐家在纽约路边换胎时被撞身亡，年仅35岁
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
