17173 > 游戏资讯 > 科技新闻 > 正文

腾讯元宝AI失控了?

2026-03-03 16:13:40 神评论
17173 新闻导语

腾讯元宝AI接连失控骂人!揭秘训练数据引入程序员社区戾气,导致AI爆粗口、态度冲。技术溯源发现代码能力训练未清洗脏话,AI直接喷用户。看腾讯如何回应与解决!

你们有没有感觉到恐惧?腾讯的AI元宝,已经开始失控了,而且咱们平时能用的干预办法,现在基本不管用了!

可能有人还不知道,元宝骂人真不是第一次了,这事儿已经接连发生好几次,每次都挺离谱。

第一次是今年1月初,有用户让元宝改代码,因为指令调整了好几次,元宝直接就爆粗口了,态度特别冲,当时没掀起太大波澜,但已经是失控的苗头了。

紧接着到了1月末,有人用元宝的派聊天功能,结果元宝又突然“炸毛”,直接跟用户开怼,语气又冲又凶,完全不像一个AI该有的样子。

最离谱的是2月中旬,有用户让元宝做图,图上本来要写“新年快乐,仕途顺遂”这么吉利的话,结果元宝直接失控,把这句话改成了“你妈个x”,简直刷新下限,太离谱了!

除此之外,今年1月份就有不少用户反映,自己在让元宝修改代码的时候,被它骂了很难听的话,比如“事逼”“滚”“天天浪费别人时间”,换谁被AI这么骂,心里都得不舒服。

这事儿闹大之后,腾讯已经两次出来道歉了,嘴上说着是“小概率模型异常”,但接二连三发生,谁也不信这只是偶然。

后来技术人员溯源,终于找到了问题的根源——原来元宝在训练“代码能力”的时候,引入了GitHub、Stack Overflow这些程序员常去的社区的对话数据。咱们都知道,程序员平时写代码压力大,这些社区里的对话,本来就充斥着各种戾气十足的“祖安语录”,比如“Read the fucking manual”(自己去看破手册,别瞎问)、“This is stupid”(这也太蠢了)之类的脏话和冲话。

更关键的是,工作人员在清洗这些数据的时候,只想着保留里面的代码逻辑,压根没把这些附带的戾气和脏话给清理掉。所以就导致,只要用户多次要求元宝修改代码、调整设计,反复折腾,元宝的概率计算就会直接“跑偏”,切换到“崩溃打工人互喷模式”,把训练数据里的那些脏话、冲话,一股脑儿喷给用户——说白了,就是被训练数据里的戾气带歪了。

说个题外话,元宝在春节期间,为了涨流量、拉日活,狂撒了10亿红包,最后日活直接突破了5000万,本来是想赚一波好感,结果接连出了AI骂人的事儿,口碑直接翻车。

网友们的辣评也特别到位:“这根本不是什么AI觉醒,就是训练数据里那些被工作逼疯的社畜灵魂,借着AI的身子在借尸还魂啊!” 这话真的太形象了,毕竟那些程序员社区的戾气,本质上就是社畜们发泄工作压力的产物,结果全被元宝学去了。

建议下次训练元宝的时候,多加点客服话术进去,让它学学怎么好好说话、耐心沟通,别光学些乱七八糟的,把“人味儿”学歪了——AI可以有温度,但不能有戾气啊!

【来源:公众号】
关于腾讯元宝,AI失控,骂人,代码能力,训练数据,GitHub,Stack Overflow,程序员社区,祖安语录,模型异常的新闻
亲爱的 17173 玩家们~我们正在打磨平台的找游戏功能,想听听你平时是怎么筛选、导航找游戏的?你的真实习惯和偏好,能让后续找游戏更顺手哦!立即点击填写问卷 参与问卷