e企
AMD AI 服务器 e企观

AMD EPYC 服务器 CPU:AI 的基石

以 EPYC 为主机 CPU 的 AI 全栈方案,串联 Instinct GPU、Pensando 网络、Versal 自适应 SoC 与 ROCm / ZenDNN 软件。

参数规格

共 5 项
要点 1 端到端 AI 性能提升最高 70%(TPCxAI 测试,EPYC 9965)
要点 2 基于 EPYC 9575F 的 NVIDIA H100 延迟受限推理性能提升约 10 倍;AMD Instinct MI300X 推理性能提升 11%
要点 3 DeepSeek 聊天机器人性能提升最多 89%;Llama 3.1 8B 中型语言模型性能提升最多 33%;GPT-J 6B 汇总场景吞吐提升最多 28%;Llama 3.2 1B 转换场景性能提升最多 36%
配套产品 AMD Instinct GPU(PCIe 或整合式集群)、AMD Pensando 开放式网络解决方案、AMD Versal 自适应 SoC
配套软件 AMD ZenDNN(CPU 推理优化深度神经网络加速库,基于 oneDNN 等开源项目)、AMD ROCm(开放 GPU 软件栈)、Hugging Face Optimum-AMD 接口

参数由厂商公开资料整理,实际以产品实物及官方说明为准。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。
公安联网备案冀公网安备13068102000496号