未分类

Axion 1.0发布:以两阶段监督微调加强化学习训练智能体基础模型,122B在HLE评测取得59.0%

要点

来自杜克大学、字节跳动、马里兰大学帕克分校和纽约州立大学布法罗分校的研究团队推出开源智能体基础模型Axion 1.0,训练流程只包含两阶段监督微调(SFT)和强化学习(RL),未额外安排中期训练、直接偏好优化或在线策略蒸馏。论文《Axion 1.0: Open Agent Fo…

来自杜克大学、字节跳动、马里兰大学帕克分校和纽约州立大学布法罗分校的研究团队推出开源智能体基础模型Axion 1.0,训练流程只包含两阶段监督微调(SFT)和强化学习(RL),未额外安排中期训练、直接偏好优化或在线策略蒸馏。论文《Axion 1.0: Open Agent Foundation Models, Simplified》2026年11月2日提交arXiv,11月11日更新至第三版。

数据构造是关键。第一阶段用数学、物理、化学、生物、计算机科学等领域的题目训练多步推理与计算能力。团队对种子题做难度增强,把原题答案变成新问题中的中间量、扩大取值范围、引入需分类讨论的条件等,答对的题目连同解法交由生成模型进一步提升难度,每次改写后重新验证答案,最终收集10819条第一阶段SFT轨迹;该阶段允许调用Python但不开放搜索和网页访问。

第二阶段针对需外部信息才能解答的任务。题目从公开结构化数据出发,由程序筛选唯一实体并计算答案,再由语言模型改写为自然语言问题;数据源涉及NASA系外行星档案库、OpenAlex、UniProt、Ensembl等。收集轨迹时出题所用数据表与答案不提供给模型,模型须通过搜索、网页访问和Python获取信息,无需检索即可答对的问题被剔除,该阶段最终保留7544条正确工具交互轨迹,约合3.12亿token。

两阶段SFT后,35B与122B主模型使用异步GRPO进行强化学习,在搜索、网页访问、学术检索和Python环境中生成解题轨迹。奖励为阶段性设计:最终答对获完整奖励,经验证的中间进展可获部分奖励,未提交最终答案则施加惩罚。

评测显示,Axion 1.0-122B在限制部分网站访问的完整Humanity’s Last Exam(HLE)中取得59.0%,高于论文列出的GPT-6 Astra(57.2%)和GPT-5.5(52.2%),接近Claude Opus 5(63.6%)与Claude Fable 5(63.8%);在FrontierScience Research上取得66.7%,超过GPT-5.6 Sol(63.3%);在FrontierScience Olympiad上,122B与35B分别取得87.0%和86.0%,均超过GPT-5.6 Sol(79.0%)和Gemini 3.1 Pro(85.0%);35B在信息搜寻基准SEAL-0上取得62.2%,超过GPT-5.6 Sol(53.2%)、Gemini 3.1 Pro(53.2%)和Agents-A1(56.4%);122B在HiPhO上取得46.2%,高于GPT-5.6 Sol(42.9%)和GPT-5.5(43.3%)。以35B为例,FrontierScience Olympiad经第一阶段SFT由71.0%升至83.0%,BioMysteryBench经第二阶段由17.6%升至35.3%,FrontierScience Research经第二阶段由48.3%升至58.3%,SEAL-0经强化学习由53.2%升至62.2%。

两主模型均为MoE架构,35B版本基于Qwen3.6-35B-A3B、激活3B参数,122B版本基于Qwen3.5-122B-A10B、激活10B参数。项目主页axion1-0.github.io,代码仓库github.com/bytedance/axion1_0,采用Apache 2.0许可,数据与模型权重在Hugging Face发布。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。

邵嘉禾

邵嘉禾,关注大模型、算力与产业应用。

公安联网备案冀公网安备13068102000496号