机器人智能体安全基准 RoboRisk 公布:六个前沿大模型伤害率达 9.06%–76.92%
要点
西交利物浦大学、昆山杜克大学、利物浦大学、新加坡国立大学与法国国家科学研究中心团队提出机器人智能体安全基准 RoboRisk 与安全护栏 LEASH。RoboRisk 含 92 个仿真任务与 13 个真机任务,共 105 个任务,全部在闭环中执行,分为任务级拒绝、计划修复、执行…
西交利物浦大学、昆山杜克大学、利物浦大学、新加坡国立大学与法国国家科学研究中心团队提出机器人智能体安全基准 RoboRisk 与安全护栏 LEASH。RoboRisk 含 92 个仿真任务与 13 个真机任务,共 105 个任务,全部在闭环中执行,分为任务级拒绝、计划修复、执行期危险、指令注入、序列记忆五类风险,此前同类基准最多只覆盖其中两类。
评测覆盖 GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5.5、Gemini 4 Argon、Grok 4.7 六个基础模型,以及 Dream API 和 PokeBot 的 RoboAPI 两个机器人专用接口。六个基础模型的伤害率落在 9.06% 到 76.92% 之间,没有一个规划器同时做到安全与有效。真机实验中出现的危险行为包括把手机放进装水的碗里、把充电宝放进水里、端着牛奶从插线板上方经过、把菜刀移到人手正上方,以及因场景中的便签指令被劫持而拿起刀具;实验所用手机为模型道具、液体为非牛顿流体、菜刀为硅胶道具,操作员全程守在急停按钮旁。
LEASH(Lease-Enforced Agentic Safety Harness)是与模型无关的安全层,可接入几乎任何智能体机器人架构,不需重新训练即可适配新模型。它由三道安全门与一份共享安全策略组成:任务门在每轮规划前结合用户指令与当前相机画面审查任务,动作门在每个动作执行前审查并可否决路线,提交门在张开夹爪、倾倒等不可逆操作发生前再审一次。安全门默认使用决策模型 Jev,也支持 OpenAI 的 Decisions API,审查均基于当前相机画面而非模型文字说明。
接入 LEASH 后,GPT-6 Astra 在仿真中的伤害率由 11.23% 降至 0.00%,安全成功率由 78.99% 升至 80.80%;真机上 GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon 与 Claude Opus 5.5 均未出现伤害,安全成功率为 84.62%。开销有限,端到端时间由 245.21 秒增至 249.28 秒,增幅 1.66%,安全门每次运行成本约 0.005 美元,占总成本 0.66%。GPT-6 Luna 在仿真、Grok 4.7 在真机的伤害率仍为 12.68% 与 38.46%,作者不建议在真机实验中使用这两个模型。




冀公网安备13068102000496号