企业级IT与信创国产化深度观察 | 大观视界
企业级IT与信创国产化深度观察 | 大观视界
| 要点 1 | 端到端 AI 性能提升最高 70%(TPCxAI 测试,EPYC 9965) |
|---|---|
| 要点 2 | 基于 EPYC 9575F 的 NVIDIA H100 延迟受限推理性能提升约 10 倍;AMD Instinct MI300X 推理性能提升 11% |
| 要点 3 | DeepSeek 聊天机器人性能提升最多 89%;Llama 3.1 8B 中型语言模型性能提升最多 33%;GPT-J 6B 汇总场景吞吐提升最多 28%;Llama 3.2 1B 转换场景性能提升最多 36% |
| 配套产品 | AMD Instinct GPU(PCIe 或整合式集群)、AMD Pensando 开放式网络解决方案、AMD Versal 自适应 SoC |
| 配套软件 | AMD ZenDNN(CPU 推理优化深度神经网络加速库,基于 oneDNN 等开源项目)、AMD ROCm(开放 GPU 软件栈)、Hugging Face Optimum-AMD 接口 |
参数由厂商公开资料整理,实际以产品实物及官方说明为准。