高通发明全新HBC内存架构：带宽提升54倍！还不烫手

如今AI算力与日俱增，但是一直存在诸多制约，其中很严重的一点就是“内存墙”，也就是内存带宽提升的速度远远跟不上算力需求，即便是HBM高带宽内存也经常力不从心，而且HBM的发热越来越严重。

高通在投资者日上公开了新的高带宽计算近内存架构“HBC”，尝试突破内存墙，从而让特定AI负载实现性能的线性提升。

HBC内存架构其实并不复杂：它将AI加速器从SoC系统芯片中单独拿出来，堆叠在LPDDR内存堆栈之下，彼此通过TSV硅通孔直连。

这么做可以将延迟降低到SRAM级别，还能获得堆叠内存的高密度、大容量，又避开了HBM内存复杂的封装工艺、高昂的设计成本、巨大的功耗发热，比如不需要硅中介层。

当然了，绝对带宽、容量肯定不如HBM，高通也没有公布具体数值，只是说单位功耗带宽是HBM的5-7倍，容量是片上SRAM的200倍以上。

不过，高通的这种设计思路并非“原创”，很多存储厂商也都在研究近内存计算架构，但都未能大规模落地。

比如ASIC厂商智邦集成电路(GUC)近期推出了DRAM-on-Logic(DoL)技术，在逻辑芯片上堆叠1-4层DRAM，带宽可达约5TB/s，甚至性能优于部分HBM3E。

根据路线图，高通Dragonfly(飞龙)系列AI加速器将在今年推出“AI200”，搭配传统LPDDR5X内存，容量最高达43TB，可风冷，可也冷。

第一代HBC产品“AI250”明年亮相，最大容量还是43TB，有效带宽对比AI200提升多达18倍。

第二代HBC产品“AI300”后年跟进，具体容量没说，只强调会增强扩展能力，带宽对比AI200提升足足54倍。