企业级IT与信创国产化深度观察 | 大观视界
企业级IT与信创国产化深度观察 | 大观视界
| 产品名称 | 天垓150 |
|---|---|
| 产品系列 | AI 训练卡 |
| 官方介绍 | -具备强大的通用性,生态直接兼容,算子库覆盖率高 -支持包括DeepSpeed、Megatron-DeepSpeed、Megatron-LM、Colossal-AI等主流框架,提供自研的推理框架无缝兼容vLLM和TGI热门框架 |
| 推理系列 | 智铠100 |
| 产品特点 | 软件 天数智算软件栈 |
| 产品特点 | 开发易迁移 - 生态友好,支持异构方案混训,为企业算力扩容考虑现有资产ROI - 快速支持国内外新兴大模型,包括LLaMa,Qwen, Yi等最新版本和最大参数量 |
| 产品特点 | 生态兼容强 -具备强大的通用性,生态直接兼容,算子库覆盖率高 -支持包括DeepSpeed、Megatron-DeepSpeed、Megatron-LM、Colossal-AI等主流框架,提供自研的推理框架无缝兼容vLLM和TGI热门框架 |
| 产品特点 | 计算性能高 -计算性能和内存带宽行业领先,从容应对更复杂的人工智能及大模型应用 -配备了64GB的HBM内存,板级功耗为350W |
| 产品特点 | 模型覆盖广 -通用GPU架构支持人工智能及通用计算融合,广泛支持通用计算算法和AI模型 -支撑各种主流大模型的大规模集群稳定运行,在大模型性能上表现卓越 |
| 资料来源 | 企业官网产品页 https://www.iluvatar.com/productDetails?fullCode=cpjs-yj-xlxl-tg150 |
参数由厂商公开资料整理,实际以产品实物及官方说明为准。