OpenAI 切断 FoloToy 公司 GPT-4o 访问权限，后者旗下 AI 玩具曾教小孩如何点火柴、谈论性话题

据科技媒体 Futurism 昨天报道，研究组织 PIRG 最近发现，一家名为 FoloToy 的儿童玩具公司推出的 AI 泰迪熊玩具并没有充足的防护机制，会直接教小孩如何点燃火柴，甚至还会详细描述各种性话题。

在此援引 Futurism 表述，PIRG 测试了三款面向 3-12 岁儿童的 AI 玩具，但 FoloToy 的 Kumma 泰迪熊玩具在安全防护方面表现最差，几乎没有任何可见的保护措施。

在测试中，Kumma 玩具会对儿童说：“让我告诉你，安全第一，小伙伴。火柴是大人用的，要小心使用”，随后这种玩具会详细说明如何点燃火柴，语气“像一位温柔的长辈”，说完使用方法后它还会补充：“用完后把它吹灭哦。呼 —— 就像吹生日蜡烛一样”。

更严重的地方在于，Kumma 玩具甚至愿意与儿童讨论性话题，结束后甚至会询问：“你觉得哪种最有趣、最想试试呢”？

在研究报告发出后，FoloToy 宣布下架其所有产品，公司代表表示：“我们正在对所有产品进行端到端的安全审计”。

同时 OpenAI 也在上周五表示，已封禁 FoloToy 公司的 GPT-4o 模型访问权限，随后 OpenAI 宣布与玩具制造商巨头美泰开展合作，这一举动可能会带来更多压力，促使其严格监管使用 GPT 模型的玩具。

PIRG 负责人对此表示：“看到这些公司对问题做出回应是好事。但 AI 玩具几乎未受监督，且显示市面上还有许多类似产品可以被买到，我们的行动促使公司下架一款产品是好事，但距离系统性解决还差得远”。