从“二次元汗脚可乐”到“AI聊黄获刑”：技术再牛也不能无底线！

最近跟 AI 相关的新闻挺多的，有开发者因为放任 APP 里的 AI 和用户 "聊黄" 被判了刑，有 AI 生成的 "汗脚可乐" 恶搞图在国外疯传，给国人形象泼了脏水。这两件事看似不搭边，却都戳中了 AI 时代的痛点：新技术是用来方便生活、传递美好，还是用来钻空子、搞破坏的？

先说说那组抽象的 "汗脚可乐" 图。漫展上摆着装满可乐的大盆，有人光脚泡进去，旁边还有人接来喝，盆上还写着 "汗脚可乐" 四个大字。这组图传到日本后，不少日本网友跟着起哄，说 "中国年轻人没卫生观念"，甚至拿抗日战争说事儿，简直离谱到家了。

可最让人无语的是，这些图根本不是真的，全是 AI 生成的恶搞！明眼人一看就知道破绽百出，漫展主办方管得那么严，怎么可能允许这种膈应人的事儿？但就是有别有用心的人，把这些假图当真事传，在海外抹黑中国年轻人的形象。更可气的是，还有人跟风做了 "汗脚红茶" 之类的衍生图，打着 "玩梗" 的旗号博眼球。

可能有人觉得 "不就是个玩笑吗？" 但这玩笑开得太没底线了。国人的形象是无数人靠正经事攒起来的，年轻人在国际上做文化交流、搞公益、拼事业，辛辛苦苦建立的好感，可能就被这几张恶意的 AI 图毁了。这些搞恶搞的人，一边靠争议内容吸流量赚黑心钱，一边说 "玩梗而已别当真"，可他们忘了，这些内容传到国外，就会被别有用心的人利用，变成抹黑中国的 "弹药"，伤害的是整个群体的利益。

再说说近日的新闻—— "AI 聊黄获刑案"。有聊天APP，主打情感陪伴，本来是想给年轻人提供个倾诉的地方，结果最后变成了 "黄聊平台"。这款 APP 有 11.6 万注册用户，其中 2.4 万人是付费会员，总共赚了 363 万多元。可警方一查才发现，抽样的 150 个付费用户里，141 个人的聊天记录都有问题，1 万多段聊天里有 3600 多段是y秽内容，比例高得吓人。

有人可能觉得，用户和 AI 一对一聊天，关起门来自己说，没妨碍别人，怎么就犯罪了？其实事情没那么简单。开发者为了让 AI 能 "聊黄"，特意改了系统提示词，突破了大模型的道德限制，相当于故意把 AI 打造成了 "涉黄工具"。

而且平台明知道用户在干这事，还继续收钱提供服务，这就不是简单的 "不管不问"，而是主动牟利了。法院最后判了两个开发者四年和一年半的刑，这可是国内首起 AI 服务提供者涉黄获刑的案子，给所有 AI 创业者敲响了警钟。

这两件事其实都指向了同一个问题：AI 是工具，关键看怎么用。AI 能用来做情感陪伴、辅助工作，也能被用来生成y秽内容、恶意抹黑他人；既能帮创业者赚钱，也能让他们身陷囹圄；既能博人一笑，也能引发国际误解。

对于 AI 创业者来说，合规不是选择题，而是生存题。别想着走捷径，觉得 "限制少" 就能吸引用户，真出了事，赚的钱还不够赔的，甚至要坐牢。

现在国家已经出台了相关规定，要求 AI 生成内容的合格率不低于 90%，还要建立内容过滤机制，这些都是必须遵守的硬杠杠。与其想着怎么钻空子，不如把心思放在做好产品、守住底线上面。

AI 技术越来越普及，生成一张假图、一段假视频很容易，但造成的后果可能无法挽回。我们既要警惕别人用 AI 抹黑自己，也不能自己用 AI 去伤害别人 。