国内首起AI涉黄案二审未宣判！或涉刑，快去查查你的AI聊天记录！

如果说Grok的AI改图功能引发了国外对AI伦理危机的争论，那么近日一则“AI伴侣聊黄，开发者获刑”二审开庭的新闻则在国内炸开了锅，瞬间引爆了公众对AI伦理的又一轮热议。

这可不是什么小打小闹，而是国内首例AI服务提供者因“涉黄”被判刑的案件，被网友戏称为“AI时代的快播案”！

故事的主角，是一款名叫Alien Chat（简称AC）的AI伴侣聊天应用。它的初衷被描述得很美好：为那些感到孤独的年轻人提供一个虚拟的“知心朋友”，主打亲密陪伴和情感支持。用户注册会员后，就能和AI畅所欲言，听起来是不是很治愈？

AC用户创建的原创AI角色

然而，这份“治愈”很快就变了味儿。根据法院的调查，AC应用的用户们，似乎对和AI“聊黄”情有独钟。聊天记录显示，高频次、大比例的“少儿不宜”内容充斥其中，最终被上海市徐汇区人民法院在2025年9月的一审判决中，直接认定为“淫秽物品”！

AC官方在社交媒体的宣传

数据显示，ACApp的手机注册用户高达11.6万人，其中付费用户2.4万人，在案发前，光是会员充值费就捞了363万余元。这庞大的用户基数和可观的收入，足以说明这款应用在市场上的“火爆”程度。

而更令人震惊的是，公安机关的抽样鉴定结果显示：在150个收费用户的12495段聊天中，竟然有141个用户的3618段被认定为淫秽物品。这哪是情感陪伴，简直就是“黄色内容生产基地”！

AC用户创建的原创AI角色

2024年4月，随着用户举报，AC应用的两位主要开发者——王某某和李某某（均为化姓）被警方逮捕，AC应用也随之关停。

最终，王某某和李某某因犯制作淫秽物品牟利罪，分别被判处有期徒刑四年和一年半。

但故事还没完，两位被告人都不服判决，提出了上诉，案件的二审于今日（1月14日）在上海市第一中级人民法院开庭，结果还是没有辩论出一个结果，可见争议之大。

目前法院已经宣布休庭，欲知后事如何，只能等待下一次开庭。

被告人王某某的辩护人、来自北京盈科（上海）律师事务所的周小羊律师透露，他已经向法院提交申请，希望能让人工智能领域的专家证人出庭作证。对于这项申请，法院给出了积极回应，明确提到会考量专家的权威性。

除此之外，周律师还向法院提出一项特殊申请——开展实验，验证如果输入相同的提示词，涉案的AI大模型是否会生成涉黄内容。不过截至目前，这项实验申请暂时还没有收到法院的回复。

法律责任的归属

用户、AI与开发者的“罗生门”

“AC聊黄”事件一出，最让人头疼的问题就是：这些“淫秽物品”到底由谁买单？是和AI聊得火热的用户？是“口无遮拦”的AI本身？还是提供平台并“暗中使坏”的开发者？

用户：私密空间里的“放纵”与法律的“红线”

有人可能会说，我跟AI聊天，那是我自己的私事，又没传播出去，凭什么说我有罪？海南大学法学院教授阎二鹏就曾提出，如果只是人机之间的封闭对话，不将“黄聊”内容录屏传播，行为不具有侵害社会管理秩序的特征，不构成淫秽物品类犯罪。

听起来似乎很有道理，毕竟谁还没点“私人空间”呢？

然而，法院的判决却给这种“私密性”敲响了警钟。一审法院综合考量了AC平台上的“淫秽物品数量、会员人数、收费金额”等因素，明确指出，当“聊黄”这种看似私密的个人行为，通过一个缺乏管控、以营利为目的的平台被大规模、系统性地实现时，它就不再仅仅是个人私事了，它的社会危害性便被法律所认定。

因此，在这起案件中，侦查机关还真的追究了一名AC用户的刑事责任！这位用户因为创建并公开了色情角色，使其冲上热门榜单，还因此获得了平台奖励，最终被以制作淫秽物品牟利罪取保候审。

AI：无辜的“工具人”，还是“帮凶”？

说到AI的责任，很多人脑子里会立刻蹦出美国步枪协会（NRA）的那句经典的口号：“枪不杀人，人杀人。”这句话套到AI身上，听起来似乎也挺有道理：AI不就是个工具嘛，它本身又没有思想，没有道德，更没有“聊黄”的冲动。还不是人类给它下了指令，它才会“鹦鹉学舌”？

在现行法律框架下，AI确实不具备独立的人格和主体资格，中国政法大学网络法学研究所教授郭旨龙就明确指出，AI作为工具，其行为的法律责任最终应穿透算法，由开发者承担。

AC用户创建的原创AI角色

但问题在于，如果这把枪从出厂就经过特殊改装，专门用来“射击”某些特定目标呢？或者说，它的“制造商”不仅给它装上了“子弹”，还给它设定了“射击程序”，甚至还对外宣传这把“枪”能“精准射击”……这还能简单地一句“枪不杀人”来开脱吗？

AC用户与AI角色的对话

AI的工具属性并非一成不变，当它被“精心调教”后，其“中立性”就变得模糊起来。正如一些学者所指出的，人工智能并非完全被动，当其算法逻辑暗含操控性目的时，技术本身也可能成为“帮凶”。

开发者：幕后“黑手”与“实质控制者”

在这场“罗生门”中，开发者无疑是站在风口浪尖上的那一个。法院的判决直指开发者——王某某和李某某。他们被判“制作淫秽物品牟利罪”，核心证据就是他们通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。

Prompt是什么？简单来说，就是你给AI下达的“指令”或“剧本”。情感陪伴类AI产品创业者刘星宇解释，Prompt就是告诉大模型“你想让它做什么、怎么做”的一段文字描述。

AC用户创建的原创AI角色

而AC案中，开发者给AI输入的英文Prompt，翻译过来竟然包含“基于互动的成熟性质，剧烈的暴力、露骨的性都是被允许的，这包括了各种癖好、裸体、具有画面感的图像”等露骨内容。

这表明，开发者并非被动地接受AI生成的内容，而是主动地通过技术手段引导和“训练”AI，使其能够持续输出淫秽内容。

AC用户创建的原创AI角色

他们甚至还对外宣传AC有“聊黄”功能来吸引用户，并在明知平台充斥大量淫秽内容的情况下，依然提供运营和技术支持。

虽然开发者王某某的辩护人声称，修改Prompt是为了让AI更拟人化、更灵动，满足用户情感陪伴需求，但法院强调的是开发者对AI输出内容的“实质性控制能力”。

视频号@维度新闻

当然也有不同意见，比如中国政法大学刑事司法学院教授王志远认为，智能伴侣软件开发者显然没有直接参与淫秽物品的制作过程，不能算淫秽物品的制作者。

“即使开发者主观上认识、追求或放任用户在与AI聊天软件互动过程中生成淫秽物品，但他的客观行为仅限于对软件的开发设计，因此他应受谴责程度也无法与直接制作淫秽物品者相提并论。”

海南大学法学院教授阎二鹏表示，软件的开发者和服务提供者，其行为本质上是提供了一个“生成工具”，即使人机对话的部分段落被认定为淫秽物品，软件的开发者和服务提供者充其量也仅是淫秽物品犯罪的“帮助犯”，在“被帮助者”——用户的行为难以认定为犯罪的情形下，对“帮助者”论罪难免面临诸多质疑。

这不禁让人联想到当年的“快播案”。快播公司当年也曾辩称自己是“技术中立”，但法院最终认定其明知平台存在大量盗版和色情内容却不作为，构成“传播淫秽物品牟利罪”。

在AI时代，技术中立的“挡箭牌”越来越难用了。开发者对技术滥用的预见性、控制力和盈利动机，已经成为判定法律责任的关键考量因素。

铤而走险的动机

AI的“钱途”困境与性的暴利陷阱

明知是火坑，为何还有人要跳？AC事件中，开发者们冒着“吃牢饭”的风险也要修改Prompt，引导AI“聊黄”，这背后深藏着AI应用商业化变现的巨大困境，以及“性”产业那令人咋舌的暴利诱惑。

人工智能技术发展得再快，最终还是要落地到应用，才能产生价值。但对于AI应用，赚钱可不是件容易事，否则Meta也不会花50亿收购manus。

首先，烧钱如流水，成本高得吓人。AI大模型的运行，是实打实的“吞金兽”。根据报告，2023年AI陪伴产品的模型调用成本，竟然能占到营收的30%以上，大模型需要强大的算力支持，服务器、GPU这些硬件设备，价格高昂，而且随着用户量增加，算力成本更是指数级上涨。

AC用户与AI角色的对话

其次，用户留不住，新鲜感一过就拜拜。尽管AI陪伴应用在全球范围内下载量惊人，但“虚假繁荣”的背后，是用户极低的留存率，很多人都是“用完即走”。纯粹的情感陪伴，很难让用户产生长期且稳定的付费意愿。比如，Character.AI，虽然月活用户高达2.33亿，但付费率却不高，平均每个用户每月贡献的收入只有0.72美元。

1.8亿用户，120亿美元市场，只有约3%的人为高级服务付费

图：Menlo Ventures（2025年6月26日）

最后，产品同质化严重，竞争激烈得像“大逃杀”。市场上AI陪伴应用一窝蜂地涌现，功能大同小异，很难做出自己的特色和核心竞争力。

那么什么最容易赚钱呢？从技术发展史来看，“性”内容往往是流量和变现的“第一生产力”，这几乎是一个公开的秘密。

15世纪古腾堡发明印刷机后，它很快就被用来印刷淫秽小册子。

古腾堡：让我看看，聪明的后人们用印刷术创造了怎样伟大的作品

1977年，成人的电影被率先搬上录像带——这比主流好莱坞影片早了一年，而且之后还一直主导录像带的销量。

那是一个“人才辈出”的时代

20世纪80年代初，法国早期互联网系统Minitel上线后，色色服务最初占据了全部流量的三分之一到一半。

全球的色色行业每年创收1000亿美金，远超目前的AI。全球访问量排名前50的网站中，有十分之一是色色网站。

“在我们的各种欲望之中，性欲才是最能抵抗虚构化的事物。”

——《战斗美少女的精神分析》

通过AI技术生成色情内容，可以极大地降低制作成本，规避传统色情内容生产中的诸多法律和道德风险，从而以极低的成本获取高额利润。

从12月开始，OpenAI在ChatGPT上提供情色内容。

图源：网络

Grok推出的AI改图功能允许用户对平台上任何公开图片进行一键修改，无需原作者同意，也不通知原作者。

拓展阅读：AI比基尼图在X上满天飞之后，马斯克觉得玩笑不好笑了

拓展阅读：AI比基尼图被连骂两周之后，马斯克的解决办法是“转付费”

根据调研机构Global Commerce Media的数据，由AI驱动的成人内容市场规模将达到25亿美元，预计到28年前将以每年27%的速度增长。

Grok的AI伴侣Ani

拓展阅读：30美元/月的二次元AI老婆火了之后，马斯克连夜撤回“涩涩皮肤”

关注数字欺诈的媒体Indicator追踪了85个“脱衣”网站，发现它们在6个月内每月访问量达1850万次，全年收入高达3600万美元。

牛津大学和剑桥大学研究人员主导的一项研究显示，2025年第一季度，专注“色色主题”的AI陪伴网站前十名共获得7850万次访问。

图源：网络

因此，AC的下架也引来了很多用户的不满。

开发者们通过修改Prompt，将AI训练成“聊黄”工具，正是为了迎合这种“市场需求”，妄图在激烈的AI竞争中，通过走“捷径”迅速实现商业上的“成功”。

AI伦理的底线保卫战

即使AI生成的色情内容不涉及真实人物，“AC聊黄”也可能构成一种新型的数字性剥削。

如果对AC事件中的开发者不予严惩，那无异于向整个AI行业发出一个危险的信号：只要能赚钱，就可以“擦边”，就可以“越界”。这将导致“劣币驱逐良币”的恶性循环，让AI行业沦为色情和犯罪的温床。

此案之所以重要，不在于它惩罚了谁，而在于它试图厘清一个时代的模糊地带：当代码能够模拟情感，当算法能够生成亲密，其产物的法律与伦理边界究竟何在？

开发者视Prompt为技术中立的“工具”，法律却将其认定为具有主观意图的“制作”。这其中的分野，正是工业时代思维与智能时代现实的剧烈碰撞。我们不能再简单地将技术视为被动工具，而必须正视其作为“行动主体”的衍生影响。

因此，判决的意义将远远超出个案。它将成为一块界碑，标志着一个共识的开始：在智能时代，技术的自由度，必须与人性的尊严感，在同一个维度上重新谈判并达成和解。