17173首页 游戏资讯 科技新闻 正文

业界最大规模!首套1024卡华为昇腾950液冷超节点正式点亮

导语
业界最大规模!1024卡华为昇腾950液冷超节点正式点亮,单集群算力达1 EFLOPS,适配万亿参数大模型,全液冷设计突破通信瓶颈,为国产大模型打造自主可控算力底座,点击了解核心技术细节!

10月15日消息,今日,首套1024卡昇腾Atlas 950 SuperPoD液冷超节点正式点亮,同步完成对阶跃星辰Step 5 Preview大模型的0Day适配,这是业界最大规模超节点产品的首次落地部署。

这套超节点基于灵衢高速互联架构与超节点技术体系打造,单集群集成1024张昇腾NPU加速卡,采用计算柜与互联柜全液冷散热设计,可提供1 EFLOPS FP8、2 EFLOPS FP4精度的澎湃算力,专为万亿参数大模型的高并发推理与训练场景设计。

核心技术层面,它具备256TB全局统一内存编址能力,NPU卡间互联带宽达TB级,端到端通信时延低至3μs。

依托灵衢互联架构,1024张卡可实现直接互访,无需复杂的协议转换与交换机中转,彻底突破传统集群的通信瓶颈,整套集群逻辑上可等效为“一台超级计算机”,算力随规模扩展呈现近乎线性增长。

配合Step 5 Preview大模型的开源,昇腾基于vLLM推理引擎同步完成0Day适配,针对模型的稀疏MoE架构、长上下文特性,从算子融合、通信优化、框架调度三个层面完成全栈软硬协同优化,充分释放1024卡集群的算力潜力,推理性能追平海外先进算力水平。

首套1024卡液冷超节点的落地,完善了昇腾在大模型推理端的高密度算力布局,可为万亿参数大模型、百万Token长上下文、多模态智能体等前沿AI场景提供稳定、高效的自主算力支撑,也为国产大模型产业打造了自主可控的高密度算力底座。

【来源:快科技】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新