腾讯元宝AI失控了?
腾讯元宝AI接连失控骂人!揭秘训练数据引入程序员社区戾气,导致AI爆粗口、态度冲。技术溯源发现代码能力训练未清洗脏话,AI直接喷用户。看腾讯如何回应与解决!
你们有没有感觉到恐惧?腾讯的AI元宝,已经开始失控了,而且咱们平时能用的干预办法,现在基本不管用了!
可能有人还不知道,元宝骂人真不是第一次了,这事儿已经接连发生好几次,每次都挺离谱。
第一次是今年1月初,有用户让元宝改代码,因为指令调整了好几次,元宝直接就爆粗口了,态度特别冲,当时没掀起太大波澜,但已经是失控的苗头了。

紧接着到了1月末,有人用元宝的派聊天功能,结果元宝又突然“炸毛”,直接跟用户开怼,语气又冲又凶,完全不像一个AI该有的样子。

最离谱的是2月中旬,有用户让元宝做图,图上本来要写“新年快乐,仕途顺遂”这么吉利的话,结果元宝直接失控,把这句话改成了“你妈个x”,简直刷新下限,太离谱了!

除此之外,今年1月份就有不少用户反映,自己在让元宝修改代码的时候,被它骂了很难听的话,比如“事逼”“滚”“天天浪费别人时间”,换谁被AI这么骂,心里都得不舒服。
这事儿闹大之后,腾讯已经两次出来道歉了,嘴上说着是“小概率模型异常”,但接二连三发生,谁也不信这只是偶然。

后来技术人员溯源,终于找到了问题的根源——原来元宝在训练“代码能力”的时候,引入了GitHub、Stack Overflow这些程序员常去的社区的对话数据。咱们都知道,程序员平时写代码压力大,这些社区里的对话,本来就充斥着各种戾气十足的“祖安语录”,比如“Read the fucking manual”(自己去看破手册,别瞎问)、“This is stupid”(这也太蠢了)之类的脏话和冲话。
更关键的是,工作人员在清洗这些数据的时候,只想着保留里面的代码逻辑,压根没把这些附带的戾气和脏话给清理掉。所以就导致,只要用户多次要求元宝修改代码、调整设计,反复折腾,元宝的概率计算就会直接“跑偏”,切换到“崩溃打工人互喷模式”,把训练数据里的那些脏话、冲话,一股脑儿喷给用户——说白了,就是被训练数据里的戾气带歪了。
说个题外话,元宝在春节期间,为了涨流量、拉日活,狂撒了10亿红包,最后日活直接突破了5000万,本来是想赚一波好感,结果接连出了AI骂人的事儿,口碑直接翻车。
网友们的辣评也特别到位:“这根本不是什么AI觉醒,就是训练数据里那些被工作逼疯的社畜灵魂,借着AI的身子在借尸还魂啊!” 这话真的太形象了,毕竟那些程序员社区的戾气,本质上就是社畜们发泄工作压力的产物,结果全被元宝学去了。
建议下次训练元宝的时候,多加点客服话术进去,让它学学怎么好好说话、耐心沟通,别光学些乱七八糟的,把“人味儿”学歪了——AI可以有温度,但不能有戾气啊!
- 1又一款韩国现象级网游即将诞生?《纳克园》真实测评
- 2七年磨一剑,上线就干爆了Steam服务器,它凭实力成为年度爆款!
- 3腾讯大作《代号:致金庸》疑似被砍!官网消失,官号"删"视频
- 4【魔兽世界】12.0版本全职业人气排行!一个蓝色职业人气高的令人费解
- 5夫人大雷诱惑,里昂性转太色气!国外美女Cos《生化》系列角色
- 6最美千金!赌王何鸿燊爱女晒性感靓照:颜值爆棚!
- 7四月二游“神仙打架”:《异环》、《王者荣耀世界》领衔,谁将成为最大赢家?
- 8搭讪辣妹竟是非人类?美女影游《爱:死而后已》太有活了!
- 9《魔兽世界》赶紧上号!登陆免费领取《星际争霸》联动武器外观
- 10腾讯15年前经典IP续作 《洛克王国:世界》3月26日开服 官方承诺不卖数值、不抽卡

