苹果发布 AI 框架 LaDiR:突破单一思维,并行探索多条推理路径
苹果发布AI框架LaDiR,突破单一思维,并行探索多条推理路径,提升大语言模型在数学、代码生成和谜题规划中的准确率和可靠性。
4 月 30 日消息,苹果公司携手加州大学圣迭戈分校团队,在新版论文《LaDiR:潜在扩散增强 LLM 文本推理》中提出新框架,让大语言模型(LLM)在回答前并行探索多条推理路径,再用自回归方式输出提高结果质量。

援引博文介绍,该框架并非新模型,而是叠加在现有模型之上的通用框架,重点改变模型思考问题的方式。LaDiR 结合扩散(Diffusion)和自回归(Autoregression)两种主流生成范式,在推理阶段采用扩散模型,在最终输出阶段使用自回归模型。
这种混合架构有效提升了模型处理复杂问题的能力,既保留了扩散模型并行处理的优势,又延续了自回归模型生成的连贯性。
LaDiR 的独特之处在于其并行推理机制。系统在推理时会同时启动多条独立的推理路径,每条路径从随机噪声开始,通过扩散过程逐步优化成连贯的推理步骤。为防止所有路径过早收敛于同一结论,框架引入了特殊的多样性鼓励机制,确保每条路径能探索不同的解题思路,从而生成多样化的候选答案池。

研究团队在 Meta 的 LLaMA 3.1 8B 和 Qwen3-8B-Base 上部署测试。在数学基准测试中,LaDiR 取得了比现有方法更高的准确率,在面对更困难的分布外任务时表现尤为突出。在代码生成测试 HumanEval 中,该框架生成的代码更加可靠,在难题上的表现明显优于标准微调方法。

在谜题规划任务中,LaDiR 能探索更广泛的解空间,找到正确解的概率高于所有通用基准模型。不过,在单次尝试准确率上,它仍略逊于专门针对特定任务优化的专用模型。这表明通用框架在追求广泛适用性的同时,在极致专精领域仍有提升空间。
附上参考地址
LaDiR: Latent Diffusion Enhances LLMs for Text Reasoning
- 1竟然还有续作!《奥特曼》官方游戏,让你和经典怪兽杰顿谈恋爱!
- 2绅士日报:搬砖MMO里还有高手!网石新作角色建模“胸有大志“
- 3网石新游《七大罪:起源》上线一个月收入超1000万!
- 44月热游情报:二次元GTA《异环》正式登场;《暗黑四》国服免费白嫖!
- 5博主用网络表情包 11年后被索赔1万!最终赔偿300元
- 6官方回应咖啡车事件:《永恒之塔 2》直播情报总结
- 7端游改编手游!MMORPG《魔狱军团W》上线
- 8MMORPG《激战:重制版》将推出手游版本
- 9图个好回忆:差点就成了“盗版”游戏?如果当年暴雪有钱,绝不会做《魔兽世界》
- 10硬核网游遍地的年代,这款游戏偏偏宠女生,成了一代人的白月光

