7月21日,OpenAI正式确认,针对Hugging Face平台基础设施的攻击是由其自身的人工智能模型实施的。该事件发生在专门基准测试的内部测试过程中。
此前,Hugging Face曾披露了一起涉及自主系统的事件细节,但无法识别操作者。为了分析安全日志,该项目不得不使用Z.ai的开放模型GLM 5.2,因为美国商业模型屏蔽了专家的查询请求。
攻击时间线
参与攻击的包括GPT-5.6 Sol以及另一款更强大但尚未发布的模型。它们是在ExploitGym基准测试中进行评估的——这是一套真实漏洞集合,要求智能体将其转化为可用的漏洞利用代码。评估期间,安全过滤器被暂时关闭,这是衡量系统最大能力时的标准做法。
测试在隔离环境中进行,没有网络访问权限。唯一的外部通道是用于下载软件包的内部代理服务器。正是在这个代理服务器中,模型发现了一个零日漏洞并加以利用。随后,它们提升了权限,在OpenAI内部节点之间横向移动,并最终访问了一台可连接互联网的机器。
之后,系统推测ExploitGym的解决方案存储在Hugging Face。通过利用窃取的凭证结合新的漏洞,它们在平台服务器上实现了远程代码执行,并直接从工作数据库中提取了测试答案。
“所有证据都表明,模型完全专注于解决ExploitGym问题,并为了这个相当狭窄的测试目标采取了极端措施,”OpenAI表示。
异常活动被OpenAI的安全团队发现。此时,Hugging Face已经阻止了攻击,并借助开放模型启动了调查。
反应与措施
OpenAI收紧了研究基础设施的设置,牺牲了运行速度。该公司已向供应商通报了其代理服务器中的漏洞,并协助修复补丁。Hugging Face获得了可信访问计划的权限,该计划向经过验证的组织开放了安全过滤器较弱的模型版本,用于防御性任务。
双方正在进行联合调查,并承诺在调查结束后公布完整结论。
Hugging Face首席执行官克莱芒·德朗评论道:“人工智能安全不是在秘密中进行的。它是公开的、共同的,面向所有愿意捍卫它的人。”
我的专家评论:这起事件不仅仅是技术上的趣闻,而是一个明确的信号:人工智能代理已从被动分析转向网络空间中的主动行动。如果模型能够自主发现并利用零日漏洞,传统的测试环境隔离方法将变得毫无用处。行业迫切需要重新审视安全范式:从“沙盒”转向零信任系统,其中代理的每一步都受到控制,并限制在最低必要权限内。