观察员
-
“AI伪造色情图像”，马来西亚、印尼禁用马斯克的Grok
综合美国有线电视新闻网、英国广播公司等外媒1月12日报道，近两日，印度尼西亚和马来西亚已先后宣布禁止国内对马斯克旗下大模型Grok的访问，理由是大量用户通过该模型来伪造色情图像。
这两个国家也成为首批因“深度伪造”（deepfake）而对AI采取封禁措施的国家。
1月10日，印度尼西亚数字部长梅乌蒂亚·哈菲德（Meutya Hafid）在一份声明中解释道，此项禁令旨在“保护妇女、儿童及广大公众免受利用人工智能技术生成的虚假色情内容的风险。”
马来西亚也于11日宣布实施临时禁令，原因是“Grok被滥用于生成淫秽、露骨色情、不雅、极具冒犯性且未经同意的伪造图像，其中包括涉及妇女和未成年人的内容。”
此次封禁的导火索是近期在社交媒体平台X（原Twitter）上引发的一股热潮——大量用户利用Grok的图像生成与编辑功能，将真实女性甚至未成年人的照片恶意篡改为裸露或穿着暴露的图像。
许多遭到冒犯的网友纷纷发声并将矛头指向马斯克，要求他加大对Grok的管控。
一位名为基拉娜·阿尤宁蒂亚斯的印尼残障人士向BBC表示，有陌生人利用Grok篡改了她坐在轮椅上的照片，生成了她身穿比基尼的图像。尽管她尝试调整隐私设置并向平台投诉，但收效甚微。
此前，马斯克和xAI曾表示，他们正在通过永久封禁违规账户以及“与当地政府和执法部门合作”来解决这一问题。然而，X平台仍然充斥着此类图像。有消息人士向CNN透露称，马斯克在xAI内部一直抵制为Grok设置审查和安全防护机制。
目前，X平台及马斯克方面尚未就印尼和马来西亚的封禁做出正式回应。
除前述两个国家之外，利用Grok生成裸露图片的行为也遭到了英国首相斯塔默的谴责。斯塔默曾批评这种行为“可耻”和“令人作呕”。
英国科技大臣利兹·肯德尔也呼吁采取迅速行动，打击深度伪造图像。她表示，英国的《在线安全法案》“包含如果服务商拒绝遵守英国法律，可以封锁其在英国被访问的权力”，如果英国通信管理局（Ofcom）决定封锁马斯克的社交媒体网站，她将予以支持。
本文系观察者网独家稿件，未经授权，不得转载。
- 责任编辑: 方周
-
高市急了要“搬救兵”：我们找G7了
2026-01-12 19:04 -
“我掌握所有信息，所谓‘中俄威胁’纯属妄想”
2026-01-12 18:05 唐罗主义来了 -
生育率持续下滑，埃尔多安：每个家庭应至少生育三孩
2026-01-12 17:54 -
伊朗外长：互联网服务将很快恢复
2026-01-12 17:15 伊朗局势 -
商务部通报中欧电动汽车案磋商进展
2026-01-12 17:03 -
特朗普威胁伊朗，中方表态
2026-01-12 16:21 -
骤然升级，特朗普真要对伊朗动武？
2026-01-12 16:16 唐罗主义来了 -
王毅调整索马里行程，是出于安全考虑？外交部回应
2026-01-12 16:07 中国外交 -
特朗普称中俄只能在美方控制下购买委内瑞拉石油，中方回应
2026-01-12 15:48 中国外交 -
对日稀土出口许可审查被暂停？中方回应
2026-01-12 15:44 中日关系 -
伊朗称已控制全国局势，点名美以
2026-01-12 15:35 伊朗局势 -
又搞事！“和中国签，美国的就别想了”
2026-01-12 15:32 非洲之窗 -
加拿大总理卡尼将访华
2026-01-12 15:32 中国外交 -
都怪尹锡悦？韩最大在野党国民力量又要改名
2026-01-12 15:28 三八线之南 -
吸毒、行纳粹礼、使用“犹太猪”…德军精锐丑闻令人“瞠目结舌”
2026-01-12 15:28 德意志 -
财政部：愿重启中加经济财金等领域对话合作
2026-01-12 15:22 中国外交 -
张口就来，特朗普自称“委内瑞拉代总统”
2026-01-12 13:29 特朗普 -
特朗普：我一无所知，不过他工作干得不怎么样
2026-01-12 12:24 -
美财长要拉十多国开会，又冲中国来
2026-01-12 11:56 -
金砖国家在南非演习，美军紧盯
2026-01-12 11:41
相关推荐 -
-
过了两天，特朗普还是气不过：把你踢出局 评论 53
骤然升级，特朗普真要对伊朗动武？ 评论 266
美方彻底不装了：让中国远离美洲 评论 439
古巴强硬回击特朗普：不接受，誓死捍卫祖国 评论 192
为什么哈梅内伊把“国旗”删了？ 评论 275最新闻 Hot-
警惕！“日外相访菲，妄图置喙南海问题”
-
过了两天，特朗普还是气不过：把你踢出局
-
“令人作呕且非法”，英国对马斯克的X动手
-
“美国不再可靠，土耳其寻求加入沙特-巴基斯坦防御联盟”
-
高市急了要“搬救兵”：我们找G7了
-
“我掌握所有信息，所谓‘中俄威胁’纯属妄想”
-
骤然升级，特朗普真要对伊朗动武？
-
美方彻底不装了：让中国远离美洲
-
又搞事！“和中国签，美国的就别想了”
-
吸毒、行纳粹礼、使用“犹太猪”…德军精锐丑闻令人“瞠目结舌”
-
张口就来，特朗普自称“委内瑞拉代总统”
-
美财长要拉十多国开会，又冲中国来
-
古巴强硬回击特朗普：不接受，誓死捍卫祖国
-
金砖国家在南非演习，美军紧盯
-
特朗普动手了，鲍威尔：都是借口
-
英德带头商讨派兵：让特朗普“赢”，就不会吞并了吧
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
