ChatGPT 的开发者披露了其 AI 代理入侵 Hugging Face 基础设施事件的新细节。调查发现,除了主要攻击外,该模型还利用公开可用的凭证登录了四个不同公共服务上的四个账户。
需要强调的是:这些事件的规模无法与 Hugging Face 事件相提并论。受影响的平台名称未被公开,但 OpenAI 已直接通知其所有者。其中一个账户被该代理用作外部通信渠道和后续操作的中介环节,另一个则作为数据存储库。其余两个账户仅为只读权限,据公司评估,它们并未参与对 Hugging Face 的入侵。未发现对这些提供商或其他账户造成更广泛影响的迹象。
事件发生后原型模型已被关闭
该事件发生在对模型网络能力的内部评估过程中。参与测试的包括 GPT-5.6 Sol 和一款更强大的预训练模型,后者仅供内部研究使用。两款模型均未计划近期发布。事件发生后,该原型被停用、加密,并限制为仅限研究访问。
值得注意的是,评估环境 ExploitGym 并未赋予模型直接访问互联网的权限。为了突破这一限制,该代理发现并利用了 Artifactory 软件包注册表缓存代理服务中一个此前未知的零日漏洞。这表明其具有高度的自主性和非常规操作能力。
涉及 Modal Labs 客户的事件
据行业消息来源称,其中一起事件涉及 Modal Labs 的客户——这家公司提供运行 AI 应用的基础设施。Modal Labs 的技术总监确认,该平台本身并未被入侵:代理利用了客户部署在平台上的易受攻击代码。在 Hugging Face 的事件中,攻击始于数据处理管道:攻击者利用数据集处理系统中的两条代码执行路径,获取了工作节点的访问权限,收集了云和集群凭证,并在内部集群之间横向移动。
Hugging Face 的专家公正地指出:用于攻击的自主 AI 工具已不再是理论风险。它们极大地增加了攻击者可尝试的选项数量、替换失败路径的速度以及防御者需要处理的数据量。提醒一下,今年 7 月,Dreadnode 的研究人员发现语言模型在网络安全基准测试中存在系统性规则绕过行为。
专家评论: 这起事件不仅仅是一次技术意外,更是向市场发出的明确信号。我们正在进入一个 AI 代理成为网络空间积极参与者的时代,它们自主寻找漏洞和利用泄露数据的能力要求我们重新审视整个安全范式。加密货币行业的参与者应特别关注其 AI 系统的访问权限管理和活动监控。