摩尔线程 AI 训练卡 e企观

MTT E300

端侧 vLLM-MUSA 用户指南技术文档

型号MTT E300
厂商摩尔线程
官网访问 ↗

参数规格

共 32 项

端侧 vLLM-MUSA 用户指南技术文档	vLLM MUSA 是一个硬件插件，使得 vLLM 框架可以方便快速的在摩尔线程的 GPU 上运行，而无需侵入式的去修改 vLLM 原始的代码。vLLM MUSA 采用标准化的硬件抽象接口和动态注册架构，实现了摩尔线程 GPU 与 vLLM 框架的解耦集成。
MTNN 开发者指南技术文档	MTNN (Moore Threads Neural Network) 是一组专为摩尔线程长江 SoC 平台设计的端侧 AI 推理工具链与运行时库。它帮助开发者将训练好的深度学习模型高效部署到 M1000 设备上，充分发挥其 NPU 的硬件加速能力，实现低延迟、高能效的设备端机器学习。
MTStream SDK 开发者手册技术文档	MTStreamSDK 是专为摩尔线程长江 SoC 平台设计的高性能多媒体处理软件开发包。它通过插件的形式，封装了底层硬件编解码器、图像处理单元的复杂操作，提供简单易用的插件。
相关产品	MTT AIBOOK AI 算力本，为智能体而生 AI 算力本，为智能体而生。搭载国产强芯，支持多系统，助力智能体持续进化。查看详情
产品能力	MTT E300 搭载摩尔线程自研“长江”智能 SoC 芯片，集成全功能 GPU、全大核 CPU 与高能效 NPU 等多核异构计算单元，提供高达 50 TOPS 的 INT8 稠密算力，支持 INT8/FP16/FP32/FP64 多种精度计算，可在 -20°C 至 +65°C 的宽温环境下稳定运行。
产品能力	该模组兼容主流 AI 框架与开放生态，支持端云协同与轻量化部署，并配套全栈工具链，旨在为各行业提供高算力、低延迟、强可靠的国产化 AI 解决方案，加速边缘智能应用落地。
产品能力	高规格异构算力，支持 INT8/FP16/FP32/FP64 精度计算
产品能力	提供高达 50 TOPS 的 INT8 稠密算力，并支持 FP16/FP32/FP64 等多精度计算
产品能力	广泛覆盖通用计算、AI 计算、图形渲染、高性能计算、科学计算、视频编解码以及加密计算等场景
产品能力	采用 LPDDR5X 统一内存，内存带宽高达 136GB/s，最高支持 64GB 容量
产品能力	MTT E300 为开发者提供了从底层操作系统、驱动程序、SDK，到上层 AI 计算、图形渲染、视频编解码及高性能计算的完整开发套件。
产品能力	配合丰富的示例代码、参考用例、最佳实践及标准工作流，可为嵌入式边缘计算开发提供全面、高效的软件支撑。
产品能力	全面兼容 CUDA 与国产 MUSA 生态，提供一站式迁移工具链，最快数小时内即可完成模型的跨平台迁移与部署，大幅度降低了技术适配的成本。
产品能力	GPU 推理支持 Torch-MUSA 和 vLLM-MUSA ，并计划支持 Ollama/llama.cpp 等主流推理框架，满足大模型与传统模型的多样化部署需求。
产品能力	NPU 推理框架 MTNN 提供完整代码及开发工具，积极适配 ONNX RUNTIME、PaddlePaddle，提供 MTStream 高性能多媒体开发套件，构建更完整的软件开发支持。
产品能力	基于 MUSA 统一系统架构，实现对各类模型的高效推理。
产品能力	目前已在 Gitee 社区开源覆盖核心视觉场景的 TOP50 CV 模型库 ModelZoo，进一步降低模型验证与落地门槛。
产品能力	MTT E300 采用模块化硬件设计，支持嵌入式开发、调优与集成，可灵活部署为多种独立设备形态，全面满足不同行业在算法、应用、工作流、算力、功耗、产品形态及尺寸等方面的差异化需求。
产品能力	面向复杂场景，打造软硬一体、端边云协同的全面解决方案。
产品能力	在提供高可靠硬件的基础上，配套持续迭代的平台化软件、工具链与参考设计，并通过不断优化的本地推理框架、编译器及底层算子，确保模型推理性能与系统落地效率的持续跃升。
产品能力	vLLM MUSA 是一个硬件插件，使得 vLLM 框架可以方便快速的在摩尔线程的 GPU 上运行，而无需侵入式的去修改 vLLM 原始的代码。
产品能力	vLLM MUSA 采用标准化的硬件抽象接口和动态注册架构，实现了摩尔线程 GPU 与 vLLM 框架的解耦集成。
产品能力	MTNN (Moore Threads Neural Network) 是一组专为摩尔线程长江 SoC 平台设计的端侧 AI 推理工具链与运行时库。
产品能力	它帮助开发者将训练好的深度学习模型高效部署到 M1000 设备上，充分发挥其 NPU 的硬件加速能力，实现低延迟、高能效的设备端机器学习。
产品能力	MTStreamSDK 是专为摩尔线程长江 SoC 平台设计的高性能多媒体处理软件开发包。
产品能力	它通过插件的形式，封装了底层硬件编解码器、图像处理单元的复杂操作，提供简单易用的插件。
产品能力	AI 算力本，为智能体而生。搭载国产强芯，支持多系统，助力智能体持续进化。
产品特性	产品查看全部产品融合智算中心系统与设备全功能 GPU / 显卡软件应用与模型融合智算中心 MTT KUAE 服务器 MTT SGX5000 算力本与台式机 MTT AIBOOK MTT AICUBE AI 模组 MTT E300 智算中心 MTT S5000 MTT S4000 MTT S3000 MTT S2000 游戏显卡 MTT S80 MTT S70 专业视觉加速卡 MTT X300 MTT S50 数字办公 MTT S30 / S10 基础软件驱动程序 MUSA SDK Moore Perf System MUSACODE 人工智能 AI 训练套件 AI 推理套件云原生 GPU 虚拟化 / vGPU KUAE 云原生套件图形与多媒体 PES 控制中心 Smart Media Engine 科学计算科学计算套件应用摩笔马良模型 AI 语音
产品特性	解决方案全部解决方案人工智能云与数据中心高性能渲染视频加速人工智能融合智算中心 DigitalME 数字人 AI Reality AI 推理云与数据中心云电脑高性能渲染数字孪生与 GIS 工业设计与制造视频加速广播与专业音视频视频会议
产品特性	体验中心大模型体验 MetaPark
产品特性	软件下载产品驱动 MUSA 软件 AI 镜像
产品特性	开发者摩尔学院开发者社区技术博客技术文档

参数由厂商公开资料整理，实际以产品实物及官方说明为准。

免责声明本页信息整理自互联网公开渠道，仅供资讯参考，不构成任何投资或商业决策依据；相关产品参数、企业信息可能存在滞后或误差，请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题，请联系 981209856@qq.com，我们将第一时间核实处理。