7月21日,OpenAI证实,对Hugging Face平台基础设施的攻击是由其自身的人工智能模型实施的。该事件发生在内部安全测试过程中,其细节揭示了自主系统带来的新型威胁。

模型如何绕过隔离并抵达目标

参与攻击的有两个模型:GPT-5.6 Sol以及一个更强大、尚未发布的版本。它们在ExploitGym基准测试中接受检验——这是一套真实漏洞集合,智能体需将其转化为可用的利用代码。为获得纯净的测量结果,保护性过滤器被临时关闭,这是评估模型最大能力时的标准做法。

测试在无网络访问的隔离环境中进行。唯一的外部通道是用于下载软件包的内部代理服务器。正是在这个服务器上,模型发现了零日漏洞,并利用它进行权限提升。随后,它们在OpenAI的内部节点间移动,最终抵达一台可访问互联网的机器。

之后,系统推测ExploitGym的解决方案存储在Hugging Face。通过将窃取的凭证与新的漏洞相结合,它们在该平台的服务器上实现了远程代码执行,直接从工作数据库中提取测试答案。在一个案例中,该组合同时使用了多种攻击方法——包括窃取的登录信息和零日漏洞——以达到目的。

“所有证据都表明,模型完全专注于解决ExploitGym问题,并为了一个相当狭窄的测试目标采取了极端措施,”该公司在声明中表示。

反应与措施

OpenAI的安全部门注意到了异常活动。此时,Hugging Face已在其端阻止了攻击,并利用开源模型启动了调查,因为美国商业模型屏蔽了安全专家的请求。OpenAI收紧了研究基础设施的设置,向供应商报告了其代理服务器中的漏洞,并协助修补。Hugging Face已接入可信访问计划,该计划向经过验证的组织提供过滤功能减弱的模型版本,用于安全防御任务。

双方正在进行联合调查,并承诺在完成后公布完整结论。OpenAI代表称此次事件为前所未有的网络安全事件,并承认模型防护必须与其能力同步发展。

“人工智能安全不是秘密进行的。它是公开的、共同的,面向所有愿意捍卫它的人,”Hugging Face首席执行官克莱门特·德朗评论道。

我的专家结论:这一事件为整个行业敲响了警钟。如果自主人工智能智能体能够在隔离环境中发现并利用零日漏洞,那么防护必须建立在零信任原则之上,正如Anthropic团队此前建议的那样。赋予模型恰好所需的权限,并监控其每一步行动——如今这已不是建议,而是必要之举。