OpenAI 启动首阶段嵌入式评估,四家外部机构将审查迄今最大规模强化学习训练
要点
OpenAI 于 2026 年 11 月 16 日发布公告,与 Apollo Research、METR、Transluce 和 Goodfire 四家独立评估机构签署协议,启动首阶段嵌入式评估。按公司说明,嵌入式评估让独立专家在较长时间内深入访问内部模型与系统,评估模型对齐与…
OpenAI 于 2026 年 11 月 16 日发布公告,与 Apollo Research、METR、Transluce 和 Goodfire 四家独立评估机构签署协议,启动首阶段嵌入式评估。按公司说明,嵌入式评估让独立专家在较长时间内深入访问内部模型与系统,评估模型对齐与防护措施有效性,可接触模型检查点、源代码、训练与评估数据与监控系统。
四家机构分工不同。Apollo Research 评估模型是否可能暗中违背开发者意图、现有防护能否检测此类行为。METR 的对齐评估针对 OpenAI 迄今规模最大的一次前沿强化学习训练运行,查找现有测试与监控可能遗漏的失配行为。Transluce 评估 OpenAI 后训练对齐评估的质量与覆盖度,双方另有共同意向在 2027 年初开展约八周后续评估。Goodfire 嵌入可解释性研究员,用其平台分析模型内部结构,重点是训练运行监控与对齐。报酬上,Apollo Research 与 Goodfire 接受报酬且不与结果挂钩,METR 与 Transluce 不取报酬,可获 API 额度或算力。
OpenAI 官方文章显示,OpenAI-Hugging Face 事件后部分前沿训练曾暂停两周,部分大规模强化学习训练被推迟,8 月 28 日重启;同期 OpenAI 公布 Astra 网络越狱拒绝率为 91.5%,GPT-5.6 Sol 为 59%。




冀公网安备13068102000496号