OpenAI因伦理担忧放弃成人聊天机器人计划

自从人工智能聊天机器人向公众开放以来，人们就一直在寻找各种方式与它们“亲密接触”。这并不令人意外——任何技术都难免如此。但有趣的是，许多聊天机器人最初并非为此设计，用户常常需要“哄骗”它们回应那些更成人的请求。

这是一个巨大的市场，如果你毫无道德顾虑的话。当然，大多数人工智能公司早已无视环境问题以及围绕版权侵权和艺术剽窃的争议，它们很乐意让孤独的用户沉迷于人工智能伴侣，即使这意味着允许用户与它们进行一些“不正经”的互动。

OpenAI 就是这样的公司之一。去年年底，它曾宣布计划推出一款成人向的人工智能聊天机器人，摆脱 ChatGPT 的种种限制和规定。该产品原定于 2025 年 12 月推出，但被推迟了。而现在看来，它可能根本不会推出了——因为参与开发的人员意识到这是个糟糕透顶的主意。

ChatGPT 意识到鼓励用户与 AI 建立关系可能是个坏主意

OpenAI 在给《金融时报》的一份声明中证实，这款成人聊天机器人已被“无限期搁置”。这个概念在内部和外部都引发了巨大争议，据报道至少有一名员工因此产品而离职。

“人工智能不应该取代你的朋友或家人；你应该拥有人际联系，”这位前雇员如是说。

人们的担忧源于与 AI 进行性角色扮演可能对用户产生的影响，尤其是用户可能对机器人产生情感依赖——这种情况我们之前已经见过很多次了。AI 服务 Replika 曾积极向那些寻求 AI 关系和 NSFW（不适合工作场所）角色扮演的用户推销其服务，但后来却推出了旨在让一切保持“全年龄向”的更新。这令那些已经依赖其 AI 机器人寻求陪伴感的用户感到崩溃。

OpenAI 昨天还宣布关闭 Sora，缩减其 AI 视频生成服务。

OpenAI 对此并不陌生。它最近关闭了 ChatGPT 的一个旧版本，该版本普遍被认为对用户过于“顺从”，意味着当用户明确表示计划做某些危险或非法的事情时，机器人不会提出质疑。然而，由于许多人觉得这个版本的 ChatGPT 交谈起来更“友好”，他们继续使用并逐渐对其产生依赖。当它最终被移除时，一些用户将其比作失去挚爱。