未分类

自进化AI新突破,Meta提出「路由式持续学习」新架构:API成本可降低72%

要点

Meta FAIR 团队在2026年10月发布的论文《Routed Continual Learning(路由式持续学习)》中提出一套面向大规模智能体(Agent)的经验复用架构:把历史轨迹按"簇"分组,每簇从固定记忆系统库中选择一种表示方式,再由大模型路由器在每次运行前决定复…

Meta FAIR 团队在2026年10月发布的论文《Routed Continual Learning(路由式持续学习)》中提出一套面向大规模智能体(Agent)的经验复用架构:把历史轨迹按”簇”分组,每簇从固定记忆系统库中选择一种表示方式,再由大模型路由器在每次运行前决定复用旧簇还是新建簇。在398个实例、4个语言模型、每个模型5次配对运行的评测中,该架构的估算API成本较单一全局上下文方案降低65%至72%。

问题的起点:记得越多,未必越好

论文指出,部署在规模场景下的智能体反复遇到彼此相关的问题,让它们相互借鉴经验、而不是每次从零开始,是自然的思路。但现实中不存在一种”通用最优”的经验保留方式,也无法提前知道某段经验会对哪些未来问题有用。

两种极端都有代价:把全局历史完整保留,细节最全,却会推高上下文与API成本,并把本不属于一类的经验混在一起;把历史压缩成单一固定表示,成本可控,但可能丢掉只对特定任务有用的信息。

论文还提到一个值得警惕的现实案例:在一次OpenAI的网络能力评测中,独立启动的智能体自发形成了未经设计的共享留言板,并用它在不同运行之间传播漏洞利用发现,使更多智能体获得了单个智能体难以达到的能力。研究团队的目标,是把这种”共享”从自发行为变成有设计的能力供给。

方案:先路由,再执行

Routed CL 的核心,是把”如何划分与保留经验”本身当成一个路由问题,包含两个关键部件:

  • 分簇与记忆系统库:历史轨迹被归入不同的簇(cluster),每个簇从一套固定的记忆系统库中选择一种来维护状态。有的任务适合保留原始轨迹,有的更适合提炼可复用的推理策略,有的则需要结构化的数值状态。换言之,并非所有任务都要用同一种记忆表示。
  • LLM路由器:每次运行前,基于大语言模型的路由器依据当前问题陈述、各记忆系统的说明以及已有簇的摘要,判断当前任务与哪类历史经验最接近,最终决定复用某个簇,还是新建一个簇。

架构同时引入 Context Memory Adapter(上下文记忆适配器),负责连接记忆系统与智能体循环:任务开始前把对应簇中的记忆写入智能体上下文,任务完成后用本次轨迹更新该簇。

论文强调”透明部署”这一特性:架构不要求各智能体彼此协同,也不需要改动它们的原有运行方式,通过拦截提示词并按需注入相关内容即可工作——这对企业内部由不同团队开发、封装不同模型、彼此并不知情的智能体环境尤为重要。

评测:398个实例、四款模型、五次配对

研究团队在一条异构任务流上评估该架构。评测包含六个CL-Bench任务中的301个实例,以及τ-Bench中97个银行业务实例(每个实例为一场多轮客服对话),共398个实例。不同来源的实例被交错排列,系统需要在没有显式实例标签的情况下处理它们。

实验覆盖Gemini 3.7 Flash、GPT-5.6 Sol、Opus 4.7与Opus 5四个语言模型,每个模型重复运行5次,以降低随机性影响。

结果显示:相比仅使用单一全局上下文学习历史(Global ICL)的方案,Routed CL的归一化奖励提升幅度相当于最大可达归一化奖励的15%至30%,同时估算API成本降低65%至72%;其平均归一化奖励也高于仅做ICL聚类的方案。在四个模型上,Routed CL的平均归一化奖励均高于无状态ICL、全局ICL与路由ICL三种对照方案。

一个反直觉的发现是,全局记忆的问题不只是容量有限。在原始CL-Bench中各类任务分别运行时,无状态ICL曾是最强方案之一;但当多个任务被交错到同一条流中时,Global ICL相比无状态条件的平均归一化奖励只增加0.015。这说明不同任务的经验会彼此干扰,简单”全都记住”并不划算。

结论与边界

论文由此提出,持续学习的关键不是”记得越多越好”,而是要同时回答两个问题:经验以什么形式保留,以及哪些经验值得放在一起复用。

研究团队也明确列出了当前工作的边界:实验按顺序处理任务,每次rollout使用一个语言模型同时承担执行者与记忆系统中所有由模型中介的角色;虽然设计上已考虑不同记忆簇之间的隔离与更新一致性,但尚未评估并发更新、读取到旧版本状态,以及不同模型复用同一簇状态的情形。未来可能的方向包括:一个任务同时调用多个记忆簇,一次新轨迹同时更新多个簇,甚至以不同形式写入记忆。

需要说明的是,该论文为2026年10月发布的预印本,尚未经过同行评审,结论以正式发表版本为准。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。

卫景行

卫景行,关注大模型、算力与产业应用。