《Tunic》与《林中之夜》发行商称 TikTok 未经许可擅自为其游戏制作并投放种族主义生成式 AI 广告

曾发行过《林中之夜》（Night in the Woods）和《Tunic》等备受喜爱的独立游戏，并开发了《陆上行舟》（Overland）和《Usual June》的发行商 Finji 表示，TikTok 一直在未经许可的情况下使用生成式 AI 修改其在该平台上的广告，并在 Finji 不知情的情况下将这些广告推送给用户。其中一个广告甚至被修改为包含对 Finji 旗下角色的种族歧视和性暗示的刻板印象。

Finji 的首席执行官兼联合创始人 Rebekah Saltsman 首先在社交媒体上提到了此事，她分享了另一个品牌似乎也遭遇同样情况的帖子的截图，并表示：“如果你碰巧看到任何看起来明显不符合 Finji 风格的广告，请给我发截图。”

《Usual June》

根据 Saltsman 的说法，Finji 在 TikTok 上的官方账号确实会为其游戏投放广告，但“完全关闭了 AI 功能”。团队最初得知这些未经授权生成的 AI 广告，是因为用户在 Finji 真实的常规广告评论区留言，表达了对所见内容的担忧。Saltsman 从受众那里获得了违规广告的截图，这促使她将问题上报给 TikTok 支持团队。

涉事的原始广告似乎是为其游戏宣传的视频，其中一个展示了多款游戏，另一个则专注于《Usual June》。这些 AI“增强”版广告在 TikTok 上看起来像是直接从 Finji 官方账号发布的，但根据多个广告下的评论显示，它们更像是幻灯片而非视频。Finji 提供了观众发来的截图，这些观众声称看到了这些广告的 AI 版本。虽然其中几张 AI“增强”图像与官方原图相比改动较小，但其中一张图像被明显修改。

违规图像展示了官方封面图的修改版（原图见上文）。在疑似 AI 编辑的版本中，主角 June（原图中位于中心位置）被单独描绘，且画面向下延伸到了她的脚踝。她被描绘成穿着比基尼泳裤、拥有极其夸张的大胯和腿部，并穿着过膝长靴，这似乎唤起了一种有害的刻板印象。这与 June 在游戏中的实际形象截然不同：

相关记录显示，TikTok 客服确认 Finji 确实关闭了 TikTok 的“智能创意”（Smart Creative）选项。“智能创意”本质上是一项使用生成式 AI 创建多个版本的用户广告的功能。如果一家公司制作了带有图像 A 和文本 A 的广告 A，以及带有图像 B 和文本 B 的广告 B，生成式 AI 会将这些内容以不同组合进行混合匹配，以测试哪些版本的广告效果最好，然后更频繁地投放表现最佳的版本。此外还有一个“自动化创意”（Automate Creative）功能，利用 AI “自动优化”素材，如“改进”图像、音乐、音频等。Saltsman 确认 Finji 关闭了这两个选项，并展示了相关广告的后台截图以资证明。

Finji 还表示，他们无法查看或编辑其广告的 AI 生成版本，只能通过广告上的大量评论以及官方 Discord 用户报告问题并分享截图来了解。Saltsman 怀疑至少还有另一个不当的 AI 生成广告在流传，因为一些广告评论涉及《Usual June》中的另一个角色 Frankie，但由于她无法亲自看到修改内容，因此无法确认。

在同一份支持对话中，TikTok 客服无法立即为 Finji 提供解决方案。客服曾一度暗示 Finji 的一个广告在无意中使用了“自动化创意”功能，Finji 对此回复道：“我从未开启过该功能”，并让客服确认了上述广告并未开启该选项。

随后，客服表示：“我正在检查可能导致此情况的所有原因，但经检查所有设置都是正常的，不应包含 AI 生成的内容。”客服提出“提交工单”以进一步调查，但忽略了 Finji 多次询问处理时间的要求。

陷入客服地狱

自事件发生以来，Finji 员工多次尝试跟进并寻求答案，但屡次遭到 TikTok 支持团队的拒绝。

上述对话发生在 2 月 3 日。2 月 6 日，在 Finji 询问进展后，TikTok 广告支持团队回复如下：

经检查创意素材，我们未发现任何迹象表明正在使用 AI 生成的素材或幻灯片格式。 两则广告均确认是直接源自您的创意库 / TikTok 帖子的视频创意，且创意在广告层面显示未做更改。 没有证据表明系统添加了 AI 生成的内容或自动组装的幻灯片素材。

Finji 代表当天回复了违规广告的截图，并要求 TikTok 上报此问题，随后 TikTok 做出如下回应：

我们已收到您提供的证据，并理解您的严重关切。根据您分享的材料和背景，我们认识到这种情况引发了重大问题，包括未经授权使用 AI、对您角色的性化和误导，以及由此对您的工作室造成的商业和声誉损害。

我们想明确表示，我们不再争议此事是否发生。我们理解您已提供证明文件，且广告上的受众评论进一步证实了您的主张。此事将立即上报至最高级别进行进一步审查。

我们正在启动内部升级流程，以确保对此问题进行彻底调查，并努力为您联系一位有权处理此情况并讨论后续解决步骤的高级代表。

2 月 10 日，在未收到进一步回复也未联系到“高级代表”的情况下，Finji 再次跟进。收到的信息包含以下内容：

我理解看到广告中出现 AI 生成或自动创建的内容是多么令人惊讶，尤其是当您并未预期创意素材会有任何变动时。

以下是发生的情况以及您看到这些素材的原因：

您的广告系列最近包含了一个使用目录广告格式的广告，该格式旨在展示在销售活动中结合轮播和视频素材的性能优势。这是旨在帮助像您这样的广告主以更少的投入获得更好的效果的计划的一部分。使用这些混合素材的广告系列通常能看到 1.4 倍的广告支出回报率（ROAS）提升，我们希望确保您能获得这一潜在改进。

支持信息继续描述了目录广告格式声称带来的改进，随后提出可以申请加入“退出黑名单”，但申请“不保证获批”。

Finji 对此感到非常愤怒，要求知道为什么没有安排高级代表对接，为什么不解决“对工作室作品的性化、种族歧视和性别歧视呈现”问题，为什么公司无法追踪 AI 生成版本的广告，为什么在未征得同意的情况下被加入该计划，以及为什么 TikTok 不能保证退出。

TikTok 再次回应，称最近的回复实际上来自其升级团队，Finji 不会与“高级代表”联系，因为目前沟通的人员是“处理此类问题的最高内部团队”。该代表接着说，升级团队已经审查了情况，“他们的调查结果已包含在之前的回复中”，并且这些反馈“已被认真对待”。回复称 Finji 被纳入了“一项更广泛的自动化计划”，并总结说升级团队“已经提供了关于此事的最终调查结果和行动”。

“TikTok 是想让我为其对我们公司和游戏的虐待表示感谢吗？”

在 Finji 再次回复后，TikTok 代表承诺将“在内部重新上报此问题”，但截至发稿时，这是收到的最后一次沟通。

Saltsman 在一份声明中表示：“我必须承认，我对 TikTok 对其造成的混乱完全缺乏妥善回应感到震惊。算法带有种族歧视和性别歧视是一回事，使用 AI 批量生产付费合作伙伴的内容是另一回事，未经同意这样做又是另一回事，然后还不对这些错误做出连贯的回应？真的吗？”

“真正令人感到莫名其妙的是，常识和商业意识似乎完全缺失。TikTok 是想让我为其对我们公司和游戏的虐待表示感谢吗？基于我们收到的数周客服信函中的荒谬回应，我认为这就是他们对这一明显的冒犯性及种族歧视技术和流程的立场——即如何在付费客户不知情或未同意的情况下，秘密地将其用于客户的资产上。”

“这简直令人尴尬，但尴尬的不是我个人。对我来说，我只是超级愤怒。这是我的作品，我团队的作品，也是我和我公司的名誉——这是我花了十多年时间建立起来的。我的预期是一个正式的道歉，对他们如何为付费客户使用这项技术进行系统性改革，并深刻反思为什么他们的技术如此明显地带有种族歧视和性别歧视。显然，我对上述任何一项都不抱幻想。”