17173 > 游戏资讯 > 科技新闻 > 正文

史上首次!AMD Lemonade SDK新增NVIDIA CUDA支持

2026-06-11 13:00:25 神评论
17173 新闻导语

AMD Lemonade SDK 10.7史上首次集成NVIDIA CUDA后端,NVIDIA GPU用户可获得完整本地AI推理体验。新增跨厂商Vulkan支持与LLM性能对比工具lemonade bench,开源跨平台AI部署新突破!

AMD主导开发的开源本地AI服务器解决方案Lemonade发布了10.7版本,正式集成NVIDIA CUDA后端,首次实现对NVIDIA GPU的完整本地AI推理适配。

Lemonade此前已广泛支持AMD Ryzen AI NPU、Radeon/Instinct GPU、x86_64 CPU及Apple Metal GPU,唯独缺失对NVIDIA产品的专门优化。

此次10.7版本在Windows与Linux双平台上同步集成Llama.cpp的CUDA后端,配合NVIDIA GPU检测功能,用户可在NVIDIA硬件上获得与AMD硬件一致的本地AI体验。

该项目还首次在Linux上加入stable-diffusion.cpp的CUDA后端,同时带来跨厂商的Vulkan扩展支持,进一步拓宽了GPU适配范围。

本次更新还带来Lemonade产品路线中的重要工具lemonade bench,专用于在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多后端之间进行端到端的LLM推理性能对比,降低开发者测试门槛。

除此之外,LMX-Omni模型支持、原生Prometheus实时监控端点等增强功能一同上线,稳步推进Lemonade向全场景本地AI引擎演进。

值得关注的是,本次CUDA后端的合并是由外部开发者提交,最终由AMD官方合并进主线,标志着AMD向跨厂商AI生态迈出了重要一步。

AMD Lemonade项目持续在GitHub发布开源版本,目前10.7已可通过项目主页下载体验,开发者可根据硬件需求选择适当后端组合,实现从云端API到本地部署的平滑过渡。

【来源:快科技】
关于AMD,Lemonade,NVIDIA CUDA,AI推理,GPU,开源,Llama.cpp,stable-diffusion.cpp,Vulkan,10.7版本的新闻
17173不想再闭门造车了!想请您来【QQ群:1075303978】当“骨灰级体验官”。你觉得新版丑、难用、没内味?直接骂,我们听着。新功能你先用、改版方案你投票,有效反馈还能攒积分兑换点卡/周边好礼。 一键入群