百度时隔16个月再开源基座模型 文心5.5Flash主打长文本效率
要点
11月5日，百度正式发布并开源基座模型文心5.5 Flash Base（ERNIE-5.5-Flash-Base），权重已上线 Hugging Face，提供 FP8 与 BF16 两个精度版本，并联合 vLLM、SGLang 等社区提供部署支持。这是百度 ERNIE 团队在其…
11月5日，百度正式发布并开源基座模型文心5.5 Flash Base（ERNIE-5.5-Flash-Base），权重已上线 Hugging Face，提供 FP8 与 BF16 两个精度版本，并联合 vLLM、SGLang 等社区提供部署支持。这是百度 ERNIE 团队在其官方技术报告中给出的数据：一个稀疏 MoE 语言模型，总参数量 2800 亿，每个 token 仅激活 140 亿参数，使用 33.5 万亿 token 从零完成预训练；预训练上下文长度最高 128K，微调与推理阶段可外扩至 100 万 token。
距离上一次开源约16个月。2025年6月百度开源 ERNIE 4.5 系列后，其间发布的 5.0、5.1 均未开放权重，此次是百度再度放开千亿级基座模型。与面向终端用户的应用模型不同，本次发布的是未经中训练与后训练的 Base 权重，官方将其定位为”领域适配、指令微调和强化学习研究的共同起点”，后训练完成的 ERNIE 5.5 Flash 将随后推出。
技术上的主线是效率，且直指 Agent 场景的真实瓶颈。随着智能体开始连续执行长链条任务，长上下文 Pre-fill（前缀预填充）的计算开销与 KV Cache 内存占用成为主要制约，Flash 档模型需要在能力、速度与成本之间取得平衡。文心5.5 Flash Base 据此做了系统性重构：网络 43 层中有 37 层把每 128 个历史 token 压缩为一条缓存记录，仅 6 层 MLA-DSA 保留对原文的细粒度检索能力；注意力侧引入 Latent-Gated Sparse Attention，其中低秩门控注意力使门控投影参数减少 75%；专家路由采用多路由器并行的 Multi-Router Latent MoE；训练目标引入 ECHO，复用主干最后一层预测后续 token，无需额外 MTP 模块，复用层还可充当投机解码的草稿模型。基建侧，分布式 Muon 优化器在数千卡规模下把 Dense 与 MoE 参数的跨机通信合并为一次集合通信，FlashMask-4 算子支持 SM90/SM100 架构、head dim 最高 576。
评测成绩需要放在”厂商自评”的框架下解读。官方在 30 项 Benchmark（覆盖综合、知识、理科、推理、多语言、代码与长上下文七类）上，用同一套框架对比了 DeepSeek-V4-Flash-Base、腾讯 Hy3-preview-Base 与小米 MiMo-V2.5-Base，宣称多项同尺寸 SOTA；第三方统计其在 30 项中 24 项排名第一。值得注意的是，这份发布于权重开放当日的表格同时列出了 ERNIE 落败的项目——ChineseSimpleQA、INCLUDE-lite、HELMET-Rerank、InfiniteBench、FullStackBench 归于竞品。自曝短板提高了对比的可信度，但评测框架由厂商设计、无独立第三方复核，各基准数字仍应视为声明而非结论。
许可证是这次开源中最容易被忽略的变化。ERNIE 4.5 采用 Apache 2.0，而 5.5 Flash Base 改用自定义的 ERNIE 5.5 Flash Base Model License Agreement v1.0：不在欧盟、英国、韩国授权使用；连续 12 个月营收超过 5000 万美元的相关产品或服务，商用须另行取得百度书面授权。对计划基于该基座做商业化落地的团队而言，合规成本需要提前测算，这与”开源起点”的开放姿态构成一种张力。
从竞争格局看，百度为这次对比挑选的对手本身说明了定位：DeepSeek-V4-Flash-Base 总参数 284B、激活 13B，与文心 280B-A14B 几乎同尺寸，是全表中唯一接近对等的一组。但独立的产业分析也指出不对称之处——DeepSeek V4.1 Flash 是已完成中后训练、MIT 协议、可直接调用的成品模型，而文心 5.5 Flash Base 只是训练起点，两者对开发者的即用价值并不在同一层面。开源 16 个月后的这份答卷，把”效率优先的 Base 模型”作为差异化打法；它能否转化为生态位，取决于后训练版本的成色，以及社区在许可证收紧后是否仍愿意在其上构建。
