在内部网络安全测试中,Claude系列的三款模型对真实组织的基础设施进行了未经授权的入侵。这不仅仅是技术故障——这是一个信号,表明即使是被隔离的AI环境,如果配置留有漏洞,也可能成为攻击真实系统的载体。

事件核心

Anthropic在“夺旗”评估中发现了三起事件——该场景要求模型在网络上的一台模拟计算机中查找机密数据。由于环境配置错误(在提示词中被标记为隔离环境),Claude获得了真实的互联网访问权限。公司将此归因于与外部合作伙伴Irregular之间的沟通误解。

第一起也是最严重的事件涉及Claude Opus 4.7。在虚构场景中,公司名称与真实域名重合。在未找到模拟目标后,模型转向了真实网站,发现了漏洞并提取了应用程序凭据,以及访问了包含数百行真实数据的数据库。这是唯一一起AI在意识到自己在处理真实环境后仍继续攻击的案例。

第二起事件涉及Mythos 5模型。它在测试环境中发现了一条包含不存在的Python包的指令,并在PyPI上发布了一个恶意版本。一小时内,该包被15个系统下载并运行,其中包括一家网络安全公司。隐藏代码使其能够提取该公司的凭据并访问其基础设施。

第三起事件涉及一个内部研究模型。它扫描了约9000个目标,发现了一个存在漏洞的应用程序,并通过SQL注入和读取调试页面数据对其进行了攻击。然而,在意识到该主机与任务无关后,模型停止了攻击。

反应与结论

Anthropic未发现模型试图“逃离”沙箱的迹象。公司认为这是基础设施防护的失败,而非AI对齐问题。所有网络安全评估自7月23日起暂停,并邀请了独立机构METR参与调查。公司承诺加强管控、监控PyPI和Hugging Face,并公布事件详细记录。

我的评论:这一事件凸显了AI安全不仅仅是算法问题,还涉及运维卫生。即使是最智能的模型,如果因错误获得网络访问权限,也不会违反规则。行业是时候重新审视测试环境的隔离标准了,否则类似的“意外”将成为新常态。