马斯克Grok生成色情内容，被马来西亚、印尼封锁

泰国华人网讯  马斯克旗下AI聊天机器人Grok因涉及生成大量非自愿色情图片，遭到马来西亚与印尼政府宣布封锁，成为全球首例受到国家层面封禁的AI工具。两国监管部门指出，该工具缺乏有效防护机制，导致大量非自愿色情内容流通，严重侵犯妇女及儿童权利。

据报道，Grok通过社交平台X提供服务，自去年夏天推出图像生成功能，其中的“香辣模式”允许生成成人内容。然而，这项功能被滥用来制作女性穿着比基尼甚至露骨性姿势的深伪影像，未成年人也受害，引发公众强烈关注与批评。

印尼通訊與數位事務部部长哈菲德（Meutya Hafid）发布声明表示，非自愿色情深伪是对人权、尊严及数字空间公民安全的严重侵犯。初步调查显示，Grok缺乏有效防护，无法阻止用户利用真实照片生成色情内容，对受害者造成心理及社会名誉伤害。

马来西亚通讯及多媒体委员会（MCMC）也在11日下令限制Grok使用。监管机构透露，本月曾向X公司及xAI发出通知要求加强防护，但对方回应主要依赖“用户检举机制”，显然无法满足监管要求。马来西亚方面强调，封锁为预防性措施，将持续直到有效防护机制落实。

尽管Grok上周已宣布限制图像生成功能仅对付费用户开放，意图平息国际舆论，但批评者认为此举并未解决核心问题。分析指出，随着欧盟、英国及印度等地也对Grok展开调查，马来西亚与印尼的强硬措施可能引发全球AI监管的新一轮连锁反应，标志着各国对生成式AI内容风险的重视正全面升级。