Edge0 开源 Edge0-145B 与 Edge0-120B 端侧模型:145B 权重 40.81 GiB,可在 16 GiB 显存环境运行
要点
开源项目 Edge0 于 2026 年 11 月 13 日发布并开源 Edge0-145B 与 Edge0-120B 两款模型,同时推出统一推理框架 edge0-strata 与配套部署工具,权重与推理框架分别托管在 Hugging Face 与 GitHub 公共仓库。 两款…
开源项目 Edge0 于 2026 年 11 月 13 日发布并开源 Edge0-145B 与 Edge0-120B 两款模型,同时推出统一推理框架 edge0-strata 与配套部署工具,权重与推理框架分别托管在 Hugging Face 与 GitHub 公共仓库。
两款模型均采用 Latent MoE 架构。Edge0-145B 总参数 145B,latent width 为 1792、48 层,配置 512 个专家、每个 token 路由至其中 10 个,并设有一个共享专家;Edge0-120B 总参数 120B,latent width 为 1280,其余配置相同。可选量化版本为 Q3_K 与 NVFP4。
在内存与速度上,项目公布的实测读数显示,145B 的 Q3K 权重为 40.81 GiB,启用专家驻留后分布为 23.14 GiB VRAM 加 31.28 GiB RAM;NVFP4 权重为 47.79 GiB,分布为 23.25 GiB VRAM 加 38.27 GiB RAM,未缓存专家按需从 SSD 读取,双卡场景下第二张显卡可承接首张显存放不下的专家。项目同时说明这些是单次运行读数,不是最低系统配置要求。在显存受限测试中,机器被限制为 16 GiB 显存与 20 GiB 系统内存,RTX 5090 D 24GB 运行 Q3K 的 16K 预填充速度为 3554.9 tok/s、Agent 解码 121.2 tok/s;RTX 4090 24GB 对应为 3179.4 tok/s 与 91.7 tok/s;Apple M2 Ultra(Metal)对应 800.3 tok/s 与 57.0 tok/s。
六项基准测试中,Edge0-145B 取得 DeepSWE 1.1 64.6、Terminal-Bench 2.1 86.5、AA-LCR 79.3、IFBench 80.6、GPQA-Diamond 90.4、HLE 35.4 的成绩;Edge0-120B 对应为 51.3、75.3、81.0、79.3、87.4、31.0。同一对比表中,DeepSeek-V4-Flash-0731 的 DeepSWE 为 54.4、Terminal-Bench 为 82.7、GPQA-Diamond 为 90.8,Claude-Opus-4.6(Max)的 DeepSWE 为 78.2、IFBench 为 91.3、GPQA-Diamond 为 40.0。
许可方面,框架代码采用 Apache-2.0,模型采用 Edge0 Community Model License 1.0,允许个人使用、研究教育、修改、非商业分享、内部使用以及商用生成物输出;模型销售与付费分发、提供推理或微调的商用模型服务需另行取得书面许可。此前该项目已发布 35B 与 8B 预览版模型,采用基于 GGML 的原生引擎。




冀公网安备13068102000496号