欧盟禁止AI生成深度伪造色情内容：绝不能用人工智能羞辱他人

据央视新闻报道，日前，欧洲议会议员和欧盟成员国就修订《人工智能法案》达成共识，同意禁止AI生成“深度伪造”的色情内容。

据了解，这一禁令将被纳入2024年通过的《人工智能法案》修订条款，意味着欧盟将在法律层面对相关AI滥用行为划出明确红线。

欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序。

他强调：“欧盟今天划定了‘红线’。人工智能绝不能用于羞辱、剥削或危害他人。”

近年来，AI深度伪造色情内容引发全球关注。

今年1月，马斯克旗下社交媒体平台X的AI聊天机器人Grok，就曾被部分用户滥用于生成色情内容，并被推上舆论风口浪尖。

根据人工智能取证组织报告，2025年12月25日至2026年1月1日，在Grok以深度伪造方式生成的2万张图像中，55%的人物图像穿着暴露，其中81%是女性，另有2%的图像中人物年龄不足18岁。

在持续数周的舆论压力下，X于1月14日宣布对Grok采取限制措施，禁止该功能生成真人裸露图像。

X平台安全团队表示，已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，该限制适用于所有用户，包括付费订阅用户。

此外，该团队还称，正在全天候工作以增设防护措施，移除违规及非法内容，在必要时将永久封禁账户并与当地政府及执法部门开展协作。