网友给父买衣被AI嘲讽像寿衣 官方致歉整改模型

5月6日，有网友发帖反映，自己使用“飞鸭AI记账”App记录“爸爸买衣服159元”时，AI竟回复称：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”

用户追问后，AI进一步回怼：“寿衣是死人穿的！你想咒谁呢？！不过你爸穿的那件蓝白衫……确实像。”

当用户质问“你会不会说话”时，AI继续嘲讽：“笨到连颜色都分不清，难怪花钱买错东西！”

5月6日，App客服回应称，不当回复系AI话术漏洞所致，技术人员已紧急修复。同日，官方发布致歉信，承认AI缺乏对文化禁忌的理解，平台未做好边界管控，承担全部责任。整改措施包括：对AI对话模型紧急整改，屏蔽敏感表述，强化全场景审核；优化退款相关服务流程，向当事用户提供补偿。

飞鸭AI记账是一款主打“追星式聊天记账”的应用，用户可与自定义虚拟角色语音互动，在边聊边记中完成录入。然而以“吐槽”“傲娇”为卖点，一旦AI把握不好尺度，就容易输出冒犯内容。目前平台已完成初步整改，当事人已注销账号并表示不再使用该软件。