企业级IT与信创国产化深度观察 | 大观视界
企业级IT与信创国产化深度观察 | 大观视界
| 数据中心训推一体 AI 加速风冷 OAM 模组 | 峰值功耗550W,可适配标准 OAM V1.X 版本的 GPU 服务器,与现有基础设施高度兼容,可广泛应用于大模型、多模态 AIGC、图像识别、语音识别、自然语言处理、推荐系统等人工智能训练与推理应用场景 |
|---|---|
| 产品定位 | 数据中心训推一体 AI 加速风冷 OAM 模组 |
| 产品形态 | 4U OAM V1.1 风冷模组 |
| 峰值功耗 | 550W,可适配标准 OAM V1.X 版本的 GPU 服务器 |
| 显存配置 | 64GB 大显存 |
| 显存带宽 | 1.6TB/s 大显存带宽 |
| 硬件加速 | 配备超大 TensorCore 硬件加速 |
| 互联能力 | 支持 PCIe 5.0 x8 主机互联接口技术,通过 UBB 主板实现单机 8 卡互联,每张卡支持 4 端口共 256GB/s 双向互联带宽 |
| 虚拟化 | 最高支持 4 个独立安全虚拟实例(SVI),通过国密一级认证 |
| 模型适配 | 已完成中国移动「九天」35B 大模型全流程适配与推理验证,依托 vLLM 框架与 torch_br 计算库全栈优化 |
| 应用场景 | 大模型、多模态 AIGC、图像识别、语音识别、自然语言处理、推荐系统等训练与推理场景 |
参数由厂商公开资料整理,实际以产品实物及官方说明为准。