未分类

OpenAI前工程师窃听案续报:内部安全警告多年未获重视

要点

据公开报道,路透社11月4日援引五名知情人士的说法称,早在2022年底ChatGPT问世之前,OpenAI就有员工在内部对公司的安全实践提出担忧,并曾向高层领导和董事会反映;而在今年10月公司披露一间高管会议室内被人安放录音设备后,许多前员工的反应如出一辙——并不感到意外。 这…

据公开报道,路透社11月4日援引五名知情人士的说法称,早在2022年底ChatGPT问世之前,OpenAI就有员工在内部对公司的安全实践提出担忧,并曾向高层领导和董事会反映;而在今年10月公司披露一间高管会议室内被人安放录音设备后,许多前员工的反应如出一辙——并不感到意外。

这起设备案的轮廓已经相当清晰。据新华社报道,美国司法部10月13日宣布,OpenAI前工程师、35岁的沙特籍男子阿卜杜勒拉赫曼·阿勒福赞因涉嫌在会议室偷偷放置录音设备”企图截取通信”被捕,他持美国绿卡,2025年7月入职,被捕当天即遭解雇。根据司法部公布的细节,设备被插在会议室电视机背面的USB接口上,用卫生纸包裹伪装,约9月28日放置、9月30日在安全检查中被发现;调查人员随后还在其遗留办公区的背包里发现了另一台类似录音设备。若罪名成立,他最高可判5年监禁、25万美元罚款。另据新华社10月20日报道,其保释申请已被联邦地区法院驳回,法官认定他”存在重大潜逃风险”,检方指认他与沙特王室一名成员联系频繁,被捕前已购买飞往利雅得的单程机票。

对于这起案件,OpenAI方面发表声明称,”目前并无迹象显示此人有不当窃取模型权重、源码或客户数据的行为”。该公司还表示,是利用自有AI模型理解了这台设备并识别出放置者。那间会议室平时供高管与政府官员、商业领袖会谈,涉及高度机密的技术、商业和战略信息,而阿勒福赞并没有进入该会议室的权限。

真正让这起窃听案发酵的,是它牵出的积弊叙事。知情人士对路透社表示,OpenAI的安全管控一度过于宽松:大部分代码集中存放在业内所称的单体仓库中,任何能访问公司代码的员工都可以查看大量项目的技术细节,包括与自己工作无关的敏感项目;过去不少研究文档放在GitHub和Slack上;用于压力测试新模型的沙盒等内部工具此前也未定期接受安全审查。一些员工在与管理层和董事会沟通后得出结论:公司更专注于追赶谷歌、Anthropic等竞争对手,而非安全本身。

OpenAI并非没有反应。据报道,负责监督产品开发的高级管理层成员蒂博·索蒂奥近期开始牵头一项加强内部系统安全的计划,今年8月已将四分之一的生产工程师重新调配去改进安全基础设施;在2024年10月加入的首席信息安全官领导下,公司称现在会定期审查内部工具。

不过,围绕安全与速度的分歧并没有消失。今年4月离职的前研究员威尔·德普此前在社交平台发文称,竞争如此激烈,AI领域的领导者”无法为了安全而牺牲发展速度”。路透社的分析也指出,增加安全防护层级可能拖慢研发进程,甚至给OpenAI与Anthropic筹划中的大规模IPO增添变数。一台藏在卫生纸里的录音设备或许只是个案,但它照出的是整个行业在狂奔与设防之间的真实处境。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。

柳砚舟

柳砚舟,关注大模型、算力与产业应用。