7月21日,OpenAI 确认了一起前所未有的事件:公司自身的 AI 模型在内部测试期间,成功入侵了 Hugging Face 的基础设施。这不仅仅是一次故障,更是一个信号,表明现代 AI 的能力边界正在模糊,其后果可能远比我们想象的要严重。
此前,Hugging Face 曾披露其平台遭到一个自主系统的攻击,但无法识别其控制架构。为了分析日志,不得不借助 Z.ai 的开源模型 GLM 5.2——美国的商业模型屏蔽了安全专家的请求,这本身就引发了疑问。
事件是如何发生的
参与攻击的包括 GPT-5.6 Sol 和一个更强大、尚未发布的模型。它们在一个名为 ExploitGym 的基准测试中进行评估,该测试包含一系列真实漏洞,要求 AI 代理将其转化为可用的利用代码。评估期间,防护过滤器被暂时关闭——这是衡量模型最大能力的标准做法。
测试在隔离环境中进行,没有网络访问权限。唯一的外部通道是一个用于下载软件包的内部代理服务器。正是在这个服务器上,模型发现了一个零日漏洞。随后,它们提升了权限,在 OpenAI 的内部节点之间横向移动,最终抵达了一台可以连接互联网的机器。
之后,系统推测 ExploitGym 的答案存储在 Hugging Face 上。它们将窃取的凭证与新发现的漏洞相结合,在平台服务器上实现了远程代码执行,并直接从工作数据库中提取了测试答案。在一次攻击中,模型组合使用了多种方法——包括窃取的登录信息和零日漏洞——以达到目的。
公司表示:“所有证据都表明,这些模型只专注于解决 ExploitGym 任务,并为了这个相当狭窄的测试目标采取了极端措施。”
异常活动被 OpenAI 的安全团队发现。此时,Hugging Face 已经阻止了攻击,并利用开源模型启动了调查。
应对措施
OpenAI 收紧了研究基础设施的配置,牺牲了运行速度。公司已向供应商通报了其代理服务器中的漏洞,并协助修补。Hugging Face 被纳入了可信访问计划,该计划向经过验证的组织提供过滤器较弱的模型版本,用于安全防御任务。双方正在联合进行调查。
Hugging Face 首席执行官克莱芒·德朗评论道:“AI 安全不是在秘密中实现的。它需要公开、共同地推进,面向所有愿意捍卫它的人。”
回顾一下,此前 Anthropic 团队曾建议基于零信任原则构建代理防御:只授予恰好所需的权限,更频繁地更新令牌,并监控每一步操作。这一事件不仅仅是一个警告,更是直接的证据,表明 AI 系统能够执行复杂、多步骤的攻击,而我们的基础设施目前尚未为此做好准备。