企业级IT与信创国产化深度观察 | 大观视界
企业级IT与信创国产化深度观察 | 大观视界
| 风冷 OAM 模组 | 峰值功耗 400W,拥有强大的算力和高速互连能力,可为广泛的人工智能训练场景,提供高能效比的算力解决方案 |
|---|---|
| 产品定位 | 风冷 OAM 模组 |
| 产品形态 | OAM 模组,可灵活适配标准 OAM V1.X 版本服务器 |
| 发布时间 | 2022 年发布的高性能通用 GPU |
| 内存架构 | 配置 32GB HBM2E 片外内存,带宽总计 819GB/s |
| 片上缓存 | 配置多级大容量片上缓存,单卡可支持百亿参数大模型推理业务 |
| 互联能力 | 支持 PCIe 5.0 x8 主机互联接口技术,通过 UBB 主板实现单机 8 卡互联,每张卡支持 4 端口共 256GB/s 双向互联带宽 |
| 虚拟化与安全 | 最高支持 4 个独立安全虚拟实例(SVI),并通过国密一级认证 |
| 精度支持 | 原生支持 FP32、BF16、INT8 等主流精度,原创定义 TF32+ 数据精度(相较 TF32 提供更高数据精度与吞吐性能) |
| 精度限制 | FP8 暂不支持;FP16 暂不支持;INT8/INT4 量化需配合 vllm-br,支持直接加载量化模型但不支持量化训练 |
| 编解码能力 | 单卡最高支持 256 路 HEVC/H.264 视频解码 |
| 模型适配 | 高效适配文生文、文生图、多模态等大模型类型,同时支持数百个传统 AI 模型 |
| 软件平台 | 依托自研 BIRENSUPA™ 软件开发平台,支持业内主流深度学习框架与模型 |
参数由厂商公开资料整理,实际以产品实物及官方说明为准。