节省近50%GPU计算！通义百聆开源新一代语音交互模型

阿里通义百聆家族近日开源新一代语音交互模型Fun-Audio-Chat-8B。

新模型兼具高智商和高情商，具备出色的共情能力，与之对话，仿佛与懂你的人聊天。

在OpenAudioBench、VoiceBench、UltraEval-Audio、MMAU、MMSU、SpeechFunctionCall等权威基准测评中，Fun-Audio-Chat-8B斩获SOTA，超过同量级开源模型。

目前，百聆家族成员包括“会说话”的语音转文字模型Fun-ASR、“听得懂”的文字转语音模型Fun-CosyVoice3。

最新开源的模型Fun-Audio-Chat-8B主打语音对语音功能——“能听会说”。

用户可与模型音频对话，适用于语音聊天、情感陪伴、智能设备和语音客服等多种场景。

无任何情绪标签或提示词情况下，它能通过语义、语气、语速、停顿、重音等细微信号，感知对方的情绪状态，并给出恰到好处的关切、安慰或鼓励式回应。

此外，用户可尝试角色扮演，量身定制语音的情绪、说话风格、语速、高低音和音量等。

而模型能保持“原有智商”，主要得益于两个创新的音频模型训练模式。

一是采用Core-Cocktail两阶段训练策略，先快速学新本事，再把“新本事”和“老底子”融合起来，为了避免学新东西把原来的能力忘掉（灾难性遗忘），第一阶段训练得到的模型和原始的纯文本大模型参数合并后，再进行微调。

二是与人类偏好对齐。通过多阶段和多任务的后训练设计，模型在真实对话场景中能更好地理解用户语音内容与情绪线索，作出更自然、更符合人类期望的回应。

值得注意的是，新模型通过压缩-自回归-解压缩的双分辨率端到端设计，音频帧率降到业界最低的5Hz，在保证语音质量的同时节省近50% GPU计算。

目前，用户可在魔搭社区、HuggingFace和GitHub下载模型自行体验。