“AI 换脸”色情 App 营销引发争议：Meta 下架广告、苹果移除应用

8 月 19 日消息，据外媒 WIRED 报道，近期一款名为 Kromix 的 App 在 Meta 平台投放争议广营销，该应用允许用户利用 AI 生成真实人物的色情“换脸”内容，其中一则广告甚至使用了与美国一名知名女性政治人物高度相似的 AI 生成形象。广告配音将 Kromix 宣传为“真正男人使用的 AI”，并声称工具“没有限制”，随后展示该女性形象从普通场景转为色情视频的画面。

报道称，Kromix 自称是一款“AI 图像风格化”工具，但实际上具备生成“非自愿色情内容的能力”。该应用合计在 Meta 平台投放了 32 则广告，而且全部针对男性用户。

外媒 WIRED 联系 Meta 和苹果后，两家公司均采取了行动，其中 Meta 下架了相关广告投放活动，苹果则将 Kromix 从 App Store 下架。

苹果表示，Kromix 可能是在通过 App Store 初始审核后才加入违规内容和功能。苹果强调，公司一直禁止用于生成、传播或消费色情内容的应用，并会持续寻找并移除试图规避审核机制的相关应用及开发者账号。

此次事件再次引发了对 AI“裸体化”应用以及社交平台广告审核机制的关注。相关工具能够在未经当事人同意的情况下生成高度逼真的色情内容，而广告甚至可能直接利用现实中的公众人物形象进行推广。

同时，这并非苹果近期首次处理类似的“脱衣”应用问题。就在上个月，旧金山市检察官 David Chiu 曾要求苹果下架 8 款能够利用 AI 对照片进行“脱衣”处理的应用，苹果随后采取了相关措施。