Astera Labs 推出 Leo X 智能内存控制器：将 KV Cache 从加速器卸载到外部内存

9 月 16 日消息，芯片高速互连初创企业 Astera Labs 美国加州当地时间 15 日宣布以 Leo X、Leo 2 E、Leo 2 P 三系列丰富其 Leo 智能内存控制器产品线。

Leo 2 E、Leo 2 P 是符合标准 CXL 3.2 规范的芯片，支持 4 个下游 DDR4 / DDR5 内存控制器。Leo 2 E 支持 PCIe Gen6 1×16 单端口配置；Leo 2 P 则在此基础上允许 2×8 双端口配置，实现附加内存的池化和共享。

与此同时，Leo X 系列是一款基于网络架构的智能内存控制器，专为直接满足 AI 加速器侧的内存需求而设计。

该系列芯片可与 Astera Labs 的 Scorpio 网络交换芯片配套使用，通过 PCIe 和平台专用协议实现 GPU 的横向扩展，提供专用的内存层以卸载 KV Cache 和智能体上下文。

Astera Labs 表示 Leo X 系列为 GPU 访问 KV Cache 提供了更低延迟、更高带宽的通道，能将首词元延迟缩短多达 62%、词元吞吐量提升多达 22%。