壁砺™ 106M 数据中心训推一体 AI 加速风冷 OAM 模组
壁仞科技 AI 训推一体加速卡 e企观

壁砺™ 106M 数据中心训推一体 AI 加速风冷 OAM 模组

峰值功耗 400W,拥有强大的算力和高速互连能力,可为广泛的人工智能训练场景,提供高能效比的算力解决方案

参数规格

共 13 项
风冷 OAM 模组 峰值功耗 400W,拥有强大的算力和高速互连能力,可为广泛的人工智能训练场景,提供高能效比的算力解决方案
产品定位 风冷 OAM 模组
产品形态 OAM 模组,可灵活适配标准 OAM V1.X 版本服务器
发布时间 2022 年发布的高性能通用 GPU
内存架构 配置 32GB HBM2E 片外内存,带宽总计 819GB/s
片上缓存 配置多级大容量片上缓存,单卡可支持百亿参数大模型推理业务
互联能力 支持 PCIe 5.0 x8 主机互联接口技术,通过 UBB 主板实现单机 8 卡互联,每张卡支持 4 端口共 256GB/s 双向互联带宽
虚拟化与安全 最高支持 4 个独立安全虚拟实例(SVI),并通过国密一级认证
精度支持 原生支持 FP32、BF16、INT8 等主流精度,原创定义 TF32+ 数据精度(相较 TF32 提供更高数据精度与吞吐性能)
精度限制 FP8 暂不支持;FP16 暂不支持;INT8/INT4 量化需配合 vllm-br,支持直接加载量化模型但不支持量化训练
编解码能力 单卡最高支持 256 路 HEVC/H.264 视频解码
模型适配 高效适配文生文、文生图、多模态等大模型类型,同时支持数百个传统 AI 模型
软件平台 依托自研 BIRENSUPA™ 软件开发平台,支持业内主流深度学习框架与模型

参数由厂商公开资料整理,实际以产品实物及官方说明为准。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。