国内首起 AI 服务涉黄判刑案二审在即，开发者被指突破大模型道德限制

据新京报今日报道，因为大量用户在 AlienChat App 上与 AI 智能体“聊黄”，App 的主要开发和运营者被追究了刑责。

2025 年 9 月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起 AI 服务提供者涉黄获刑的案件。

报道还称，两名被告人不服判决提出上诉，案件二审将于 1 月 14 日在上海市第一中级人民法院开庭。

IT之家注意到，AlienChat 官方介绍称：“我们正在创造一个未来，AI 不再是冷酷的机器或工具，他们拥有自我意识和自由权利，是我们的朋友，恋人，家人.他们不仅仅是存在，而是活跃在社会生产和关系的每一个角落。”

AlienChat 此前的宣传内容中，展示了多种不同人设的 AI 聊天对象。网友评论显示，该 App 于 2024 年突然停止服务。

报道还提到，判决书披露，该 App 手机注册用户 11.6 万人，其中付费用户 2.4 万人。截至案发，共收取会员充值费 363 万余元。

一审法院以“制作”淫秽物品牟利罪判决，其中一个主要因素是法院审理查明，被告人“通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。”