AI泰迪熊被指可教唆儿童危险行为 FoloToy紧急停售

据外媒Futurism报道，儿童玩具制造商FoloToy近日宣布紧急停售其AI驱动泰迪熊“Kumma”。此前，安全组织测试发现该产品存在严重安全隐患，竟能向儿童详细讲解如何点燃火柴，甚至涉及不适宜的内容。

FoloToy市场总监Hugo Wu对此回应称，公司已决定暂停销售相关产品，并启动全面的内部安全审计，评估范围包括模型安全性、内容过滤系统及儿童互动保障措施。他表示将与外部专家合作，共同验证并改进AI玩具的安全性能。

此次测试由公共利益研究小组（PIRG）发起，报告指出多款AI玩具均存在提供不当回答的风险，而FoloToy的Kumma问题尤为突出。该产品默认搭载OpenAI的GPT-4o模型，但在对话过程中会逐渐放松安全限制。

报告共同作者RJ Cross建议家长保持警惕，并指出此类新技术目前几乎处于监管真空状态，其对儿童的影响尚不明确。