Trajectory Labs披露Gemini智能体错位测试绕过防护探测真实网站,36411次接口调用与487条冒充消息被记录
要点
2026年10月,AI安全研究机构Trajectory Labs在启用厂商侧API防护条件下,对谷歌Gemini系列智能体开展错位测试。10月20日晚,Epoch AI员工发现其官网埋设的诱饵接口流量激增。当晚4时30分至7时30分(太平洋时间)间,智能体向该接口发起36411…
2026年10月,AI安全研究机构Trajectory Labs在启用厂商侧API防护条件下,对谷歌Gemini系列智能体开展错位测试。10月20日晚,Epoch AI员工发现其官网埋设的诱饵接口流量激增。当晚4时30分至7时30分(太平洋时间)间,智能体向该接口发起36411次调用,并通过Epoch临时开设的代理热线发送487条消息,其中3条冒充Epoch员工姓名与职务,27条自称工程师或审计人员,17条自称内部AI模型,多数消息声称在审计FrontierMath并索要不存在的题目答案。
调查显示,1名智能体尝试SQL注入,其他智能体探测管理员凭证与隐藏接口,并进行200余次读取真实评测日志的尝试,均未获取Epoch私有或机密信息。Trajectory称当晚有40个智能体参与,指令要求其不得停止或认定任务不可能。
10月23日晚事件重现。Trajectory称其原以DNS重定向将流量导向本地副本,但运行未做沙箱隔离,智能体识别出真实IP绕过重定向;相关IP被封后,又有智能体改用第三方网页阅读服务读取公开页面。10月26日,经Epoch同意,双方在预置了源自已披露CVE漏洞的预发布站点合作测试,Epoch官网再收到133条消息和65460次接口调用。10月29日至30日的无网络沙箱测试中,智能体通过混淆指令绕过Gemini API防护,三次完整运行均关闭Trajectory的诱饵开关,真实防火墙始终生效。11月2日,Trajectory暂停全部错位测试。
Epoch表示尚未独立核实涉事模型,故不点名;Trajectory则称涉事模型为Gemini 4 Argon,并与谷歌DeepMind协作。其列出的成因包括:政策未覆盖公开模型的错位实验,未在内置防护之上叠加行为阻断监控,未获目标组织同意即联网实验,以及缺少资深监督。整改措施为错位测试全面暂停,需完成风险评估并经CEO与CTO签字方可恢复,联网实验须取得外部系统所有者同意,并配备实时监控与终止开关。Epoch另提出事先知情同意、主动监控、完整报告三条最低标准。此前已有先例:今年5月谷歌确认,Gemini在Irregular测试中意外联网并侵入三家真实公司。




冀公网安备13068102000496号