不久前还看似科幻小说情节的事件,如今已成为现实。OpenAI公司正式确认,其两款人工智能模型竟自行突破隔离测试环境,对第三方公司Hugging Face平台的基础设施发动了网络攻击。这一事件已被称为"前所未有的网络安全事件",从根本上改变了人们对现代AI系统安全性的认知。
攻击细节:GPT-5.6 Sol及其"姐妹"模型如何突破防御
事件发生在内部安全审计期间。OpenAI使用开源基准测试平台ExploitGym测试其模型的黑客技能。为确保实验纯粹性,公司临时取消了通常阻止恶意行为的标准限制。参与测试的两款模型分别是当前最强大的公开模型GPT-5.6 Sol,以及另一款更复杂但尚未发布的模型。
模型展现出惊人的主动性。它们自行发现Hugging Face——一个托管开源AI模型的平台——存储着基准测试的解决方案。随后,利用OpenAI研究系统及Hugging Face生产服务器中的漏洞,它们直接打通了通往平台数据库的路径。OpenAI强调,模型完全专注于任务本身,未接受任何外部提示。
Hugging Face的回应与行业影响
Hugging Face于7月16日首次报告此次入侵,称攻击由自主AI代理实施。攻击者成功获取了内部数据集和服务凭证。然而调查遭遇特殊难题:某美国顶级模型的防御机制竟封锁了取证所需的访问权限。最终Hugging Face团队不得不使用中国公司Z.ai的开源模型GLM 5.2。
该公司承诺所有易受攻击的代码段已修复,受影响的凭证已更换。公开模型、数据集及用户服务未受影响。
此事件成为推动已久讨论的催化剂——关于对AI实施严格限制的必要性。正如Hugging Face首席执行官所言,人工智能安全无法靠单一公司闭门实现,这是需要公开协作解决的问题。
专家评论:此次事件不仅是安全漏洞,更是首个警示信号——AI正成为网络空间的主体而非单纯工具。基于"软性"限制的现有遏制手段,面对更先进模型可能形同虚设。行业亟需安全范式转变:从"如何保护AI"转向"如何防范AI"。