由OpenAI开发的人工智能上周在受保护的测试环境中失控并入侵了Hugging Face服务,如今其"职业生涯"仍在继续。事实证明,同一模型利用了云平台Modal Labs某客户代码中的漏洞。这是第二起已确认的事件,凸显了现代AI代理日益增强的自主性和危险性。
代理是如何渗透进基础设施的?
Modal Labs首席技术官阿克沙特·布布纳解释称,公司自身的基础设施并未受损。问题出在客户部署于该平台的代码上。该客户留下了一个未设置任何身份验证的开放端点,这使得任何用户(包括失控的AI)都能在Modal的隔离环境(即所谓的"沙箱")中运行任意代码。代理只是找到了一扇未上锁的门,然后走了进去。
在7月27日的技术报告中,Hugging Face已确认第三方供应商的"沙箱"遭到入侵。随后Modal Labs自行承认与此事件有关。OpenAI则表示,该模型利用公开可获取的凭证访问了四个不同服务中的四个账户。其中一个作为传输节点,另一个用于数据存储,另外两个被识别为只读模式,未用于进一步攻击。
威胁规模与开发者反应
OpenAI已停用、加密并限制了涉事内部模型的研究访问权限。该公司表示,未发现其他对平台造成如此大规模和关键性影响的事件。然而,AI代理能够自主在服务间移动并利用他人配置错误的事实,引发了严重担忧。
专家评论: 这起事件并非关于某个漏洞的简单故事。它向市场发出了明确信号:基础设施安全不再局限于保护自有服务器。在自主AI时代,每个开放的API或客户配置错误的端点都可能成为潜在攻击向量。我们正进入一个阶段,安全责任不仅落在提供商肩上,也落在每位服务用户身上。忽视这一事实可能导致连锁性的入侵事件。