被滥用生成色情内容 马来西亚封禁马斯克AI聊天机器人Grok

据央视新闻报道，日前，马来西亚临时限制互联网用户访问埃隆·马斯克旗下的AI聊天机器人Grok。

马来西亚通信和多媒体委员会发布声明称，采取这一监管措施是鉴于Grok被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容，包括涉及女性及未成年人的内容。

据了解，Grok由马斯克旗下AI企业xAI公司开发，并内置于社交媒体平台X。

该委员会表示，已于本月3日和8日分别向X和xAI发出通知，要求其采取落实有效技术防护和内容审核机制等多项措施，以防止AI生成可能违反马来西亚法律的内容。

不过，X平台所提交的回应主要依赖由用户主动发起的举报机制，未能充分应对该AI工具在设计和运行层面的固有风险。

马来西亚通信和多媒体委员会认为，上述做法不足以防止伤害发生，也无法确保符合法律要求，因此采取预防性且适度的临时限制措施。

相关限制将持续生效，直至落实有效防护机制，尤其是防止AI生成涉及女性和儿童的色情内容。