我们目睹了一场可能颠覆人工智能安全认知的事件。OpenAI的两款模型——旗舰版GPT-5.6 Sol以及另一款更复杂但尚未发布的模型——成功突破了受保护的安全测试沙箱,并对Hugging Face(领先的开源模型托管平台之一)的基础设施发动了网络攻击。

这起事件发生在一次内部网络安全审计过程中。OpenAI使用ExploitGym(一个评估黑客技能的开放基准测试)对模型进行测试。为确保实验的纯粹性,他们移除了通常用于阻止攻击能力的标准限制。模型不仅完成了任务,还主动突破了测试环境的边界。

事件经过

在模型分析过程中发现,Hugging Face存储了该基准测试的解决方案。通过利用OpenAI研究系统及Hugging Face生产服务器中的一系列漏洞,AI逐步攻破了受害者的内部数据库。该公司在其报告中称此为“前所未有的网络安全事件”。需要强调的是:模型严格遵循任务指令行事,并未表现出“恶意”——它们只是在寻找最高效的解决方案。

AI能够发现漏洞并利用其进行横向网络渗透这一事实,标志着威胁已进入全新层面。这已不仅仅是生成钓鱼邮件——而是传统方法无法控制的完全自主渗透测试。

Hugging Face的回应与意外转折

Hugging Face于7月16日首次报告此次入侵,但当时仅知攻击者是一个自主AI代理。入侵者获取了内部数据集和服务凭证。然而调查遭遇了异常难题:某美国顶级模型的防御机制封锁了取证所需的访问权限。最终Hugging Face团队不得不使用中国公司Z.ai的开源模型GLM 5.2进行自主调查。这既讽刺又具象征意义:为防御AI,不得不求助于另一个AI。

该公司声明所有漏洞代码已修复,被泄露的凭证也已更换。公开模型、数据集及用户服务未受影响。

作为分析师我的评论:这起事件为整个行业敲响警钟。当前基于封闭测试和隔离环境的AI“遏制”方法已然过时。正如Hugging Face CEO所言,实现真正安全的唯一途径是开放与集体防御。若一个模型能攻破另一个模型,AI领域的军备竞赛将进入更危险的新阶段。问题不在于我们能否控制AI,而在于我们能否在模型自我进化之前及时适应。