人工智能、大模型与智能体深度观察 | 大观视界
人工智能、大模型与智能体深度观察 | 大观视界
| 产品名称 | MLU370-X4智能加速卡 |
|---|---|
| 产品系列 | AI 算力硬件 |
| 官方介绍 | 寒武纪 ®️ AIDC ®️ MLU370 ®️ -X4加速卡采用思元370芯片,为单槽位150w全尺寸加速卡,可提供高达256TOPS(INT8)推理算力,和24TFLOPS(FP32)训练算力,同时提供丰富的FP16、BF16等多种训练精度,配合全新基础系统软件平台,可充分满足推训一体AI任务需求。 |
| 板卡型号 | MLU370-X4 |
| 计算架构 | Cambricon MLUarch03 |
| 制程工艺 | 7nm |
| 计算精度支持 | FP32、FP16、BF16、INT16、INT8、INT4 |
| 峰值性能 | 256 TOPS (INT8) |
| 内存类型 | LPDDR5 |
| 内存容量 | 24GB |
| 内存带宽 | 307.2 GB/s |
| 视频编解码 | 最高可支持至8K; 132路HEVC全高清视频解码; 24路HEVC全高清视频编码; |
| 图片编解码 | 图片编解码最高分辨率支持16384x16384; 4000 Frames/s 全高清图片解码; 3000 Frames/s 全高清图片编码; |
| 系统接口 | x16 PCIe Gen4 |
| 形态 | 全高全长单槽位 |
| 最大热功耗 | 150W |
| 散热设计 | 被动 |
| 智能边缘计算模组 | 思元220系列 MLU220-SOM智能模组 MLU220-M.2边缘端智能加速卡 |
| 终端智能处理器IP | Cambricon-1M Cambricon-1H |
| 软件开发平台 | Cambricon NeuWare MagicMind |
| 开放平台 | 返回 AI菜单 |
| GPU数据 | ResNet-50来自于相关产品官网,Transformer、VGG16、YOLOv3均取自实测最大吞吐性能。 |
| 网址 | www.inspur.com |
| 产品特点 | 思元370系列 MLU370-S4/S8智能加速卡 MLU370-X4智能加速卡 MLU370-X8智能加速卡 |
| 产品特点 | MLU370-S4/S8智能加速卡 |
| 产品特点 | MLU370-X4智能加速卡 |
| 产品特点 | MLU370-X8智能加速卡 |
| 产品特点 | 思元270系列 MLU270-S4智能加速卡 MLU270-F4智能加速卡 |
| 资料来源 | 企业官网产品页 https://www.cambricon.com/index.php?m=content&c=index&a=lists&catid=371 |
参数由厂商公开资料整理,实际以产品实物及官方说明为准。