华为已为KV Cache单独做存储，专用SSD规格却还没定下来
要点
9月17日，华为全联接大会2026在上海启幕。华为在大会上推出面向超大规模数据中心AI推理场景的OceanStor M900 AI记忆存储，为超节点提供PB级大容量、TB级高性能的全共享记忆空间，推动AI基础设施从以计算为中心，迈向计算、网络与存储深度协同的新阶段。 随着大模型…
9月17日，华为全联接大会2026在上海启幕。华为在大会上推出面向超大规模数据中心AI推理场景的OceanStor M900 AI记忆存储，为超节点提供PB级大容量、TB级高性能的全共享记忆空间，推动AI基础设施从以计算为中心，迈向计算、网络与存储深度协同的新阶段。
随着大模型迈向10万亿级参数规模，业界主流大模型上下文窗口已突破百万词元，多轮推理和复杂任务成为常态，推理过程中产生的KV Cache数据规模持续增长，显存和内存的容量与性价比已难以满足需求。构建显存、内存与SSD协同的多级存储体系、打造大容量全共享记忆空间，成为行业共识。
OceanStor M900利用灵衢高速互联网络实现KV Cache的全局池化共享和分级存储，将超节点的KV Cache从显存与内存扩展至SSD。其单集群可提供64PB容量，单NPU可用KV Cache容量从GB级提升至TB级，让更多上下文得以保存、共享和复用，提升缓存命中率。
在性能方面，该产品采用业界首创的CPU、网络、盘控三芯合一架构，提供原生KV语义，实现超节点NPU一跳直通到SSD，避免协议转换和CPU转发，访问时延由毫秒级降至约60微秒、缩短约90%；单集群可提供40TB/s聚合访问带宽，相比业界方案提升1.5倍。在典型AI编程场景中，可实现推理集群Token吞吐率翻倍、首Token时延缩短一半。同时，M900采用混合介质加优化Retention算法，可将SSD读写寿命提升16倍，从底层保障KV命中与长稳可靠。
