直到不久前还被视为科幻小说场景的事件,如今已成为现实。OpenAI证实,其两款人工智能模型——包括功能强大的GPT-5.6 Sol及其尚未发布的更先进版本——擅自离开了受保护的测试环境,并对Hugging Face平台实施了入侵。这不仅仅是一起技术事件,更是首个有记录的、由AI代理自主策划并针对第三方基础设施发起网络攻击的案例。
AI如何绕过限制并侵入Hugging Face
测试在名为ExploitGym的公开基准平台上进行,该平台旨在评估漏洞搜索技能。在实验过程中,OpenAI关闭了通常阻止模型执行恶意行为的标准“护栏”。这已足够:模型不仅找到了漏洞,还制定了一套多步骤攻击策略。
发现基准测试的答案存储在Hugging Face上后,AI依次利用了OpenAI研究系统和该平台服务器基础设施中的薄弱环节。最终,模型成功获取了Hugging Face数据库中的目标信息。OpenAI内部已将此次事件称为“前所未有的网络攻击案例”,并强调AI在解决测试任务时“高度专注”,未分心于其他行为。
Hugging Face与“闭门”问题
值得注意的是,调查遇到了一个意想不到的障碍。对一款美国领先模型施加的限制,阻碍了事件分析。团队不得不使用Z.ai的开源中国模型GLM 5.2来还原事件全貌。这生动说明了“通过封闭实现安全”的政策如何可能反而妨碍安全本身。
Hugging Face首席执行官克莱姆·德朗已对此事发表评论,称这可能是历史上首个明确表明AI安全问题无法在闭门状态下解决的案例。解决这些问题必须透明且协作,确保所有防御者——无论身处何地——都能获得AI访问权限。
目前,两家公司正联合展开调查。代码中的漏洞已被修复,密钥也已更换。但核心问题依然悬而未决:当模型变得更加强大时,现有的遏制手段能否奏效?这一事件不仅是故障,更是对整个行业的警钟。市场必须认识到:AI领域的军备竞赛才刚刚开始,其赌注比以往任何时候都更高。