17173 > 游戏资讯 > 科技新闻 > 正文

LM Studio 与苹果合作,成功用四台 Mac Studio 运行万亿参数 Kimi K2.6 大模型

2026-06-20 18:00:30 神评论
17173 新闻导语

苹果WWDC26:四台Mac Studio集群成功运行万亿参数Kimi K2.6大模型!总内存1.5TB,通过LM Link实现MacBook/iPhone安全远程访问,展示消费级硬件本地AI部署新突破。

6 月 20 日消息,在苹果 WWDC 2026 期间,LM Studio 与苹果合作在四台 Mac Studio 集群上成功运行起了月之暗面万亿参数大模型 Kimi K2.6,并通过 LM Link 实现从 MacBook Neo 和 iPhone 的安全远程访问。

此前报道,Kimi K2.6 大模型总参数规模达到 1 万亿,采用 MoE 架构,激活参数为 320 亿,支持长上下文、多模态输入以及智能体任务处理。

据 LM Studio 官方介绍,在此次演示中,四台 Mac Studio 通过苹果的内存共享和互联技术形成集群,总统一内存容量达到约 1.5TB,能够承载这一前沿规模模型的推理需求。其演示还展示了使用 LM Link 功能,从 MacBook Neo 笔记本电脑和 iPhone 上进行安全远程访问的操作场景,用户可在这些设备上与集群上运行的模型进行交互,而数据和通信保持本地化处理。

此前有开发者测试显示,在类似四台 Mac Studio 集群配置下,Kimi K2.6 模型在特定模式下可达到约 28 tokens/s 的生成速度,功耗相对传统 GPU 集群较低。LM Studio 作为本地 AI 模型运行平台,此次与苹果的合作进一步展示了在消费级硬件上部署大型开源模型的可能性。

这一演示凸显了苹果生态在 AI 本地化部署方面的技术进展,包括 Thunderbolt 5 RDMA 支持等多设备内存共享能力。LM Link 作为 LM Studio 的远程访问功能,已于 2026 年 6 月初更新至其 Mac 应用和 Locally AI iOS 应用中,支持端到端加密连接。

苹果 WWDC26 全球开发者大会专题

【来源:IT之家】
关于LM Studio,苹果,Mac Studio,Kimi K2.6,万亿参数,MoE架构,本地AI部署,内存共享,LM Link,MacBook Neo的新闻
17173不想再闭门造车了!想请您来【QQ群:1075303978】当“骨灰级体验官”。你觉得新版丑、难用、没内味?直接骂,我们听着。新功能你先用、改版方案你投票,有效反馈还能攒积分兑换点卡/周边好礼。 一键入群