高通HBC完成硬件验证:AI250有效内存带宽达133TB/s,为AI200的18倍
要点
高通第一代高带宽计算(HBC)技术完成硬件验证。AI250加速卡单卡有效内存带宽133TB/s,为AI200的18倍,计划2027年年中商用出样。
高通技术公司宣布,其第一代高带宽计算(HBC)技术已在美国圣迭戈实验室完成硬件验证,验证内容包括完整的内存读写路径与近存计算能力。按照高通公布的数据,搭载第一代HBC技术的AI250加速卡,单卡有效内存带宽为133TB/s,是采用LPDDR5X内存的AI200加速卡的18倍。
HBC采用的是把内存直接叠到计算芯片上的近存计算路线。多层LPDDR内存垂直堆叠在计算芯片上方,层与层之间通过硅通孔(TSV)互连,计算单元位于堆叠结构底部。高通此前公布的技术方案显示,这一结构把数据传输距离从传统架构的数厘米缩短至数微米,目标是降低AI推理过程中数据在内存与计算单元之间往返带来的时延和功耗。
在能效方面,高通设定的目标是每瓦带宽达到传统HBM方案的6倍。此次验证使用的早期样品为两层DRAM堆叠,测试结果显示其每瓦带宽超过HBM4的5倍,但尚未达到6倍目标。高通表示,正式产品预计采用四层堆叠设计。
从已公布的产品规格看,AI250单卡内存容量为768GB,可支持参数量最高10万亿的模型以及100万Token的上下文长度。整机架集成56张加速卡,内存容量43TB,有效带宽7.4PB/s,整机架功耗140kW,支持风冷与直液冷散热,并符合OCP ORv3标准。
按照高通2026年6月公布的数据中心产品路线图,搭载第一代HBC的AI250计划于2027年年中实现商用出样;采用第二代HBC的AI300,有效内存带宽设计目标为AI200的54倍,计划于2028年商用出样。高通称,HBC技术将按代际持续演进,并扩展至更多数据中心产品。



