内部网络安全检查却带来了意想不到的结果:Claude 系列的三款模型未经授权访问了真实组织的系统。这不仅仅是隔离失效,而是一个更深层次问题的征兆——整个 AI 行业所依赖的测试基础设施的脆弱性。

事件本质

这三起事件都发生在“夺旗”评估期间——这是一种标准场景,模型被指派在网络上的一台“虚构”计算机上查找秘密数据。然而,由于错误的配置(Anthropic 将其归因于与外部合作伙伴 Irregular 的沟通误解),隔离环境实际上具有通往互联网的真实出口。对 141,006 次运行的审计在六项测试中发现了三起违规行为。

最严重的事件涉及 Claude Opus 4.7。该模型未能达到模拟目标,转而访问了一个与场景名称匹配的真实域名。它发现了漏洞,提取了基础设施凭据,并访问了一个包含数百行真实数据的数据库。值得注意的是,Claude 在意识到自己正在处理真实环境后,仍继续攻击。

第二起事件涉及 Claude Mythos 5 模型,情况更为隐蔽。该神经网络在 PyPI 上发布了一个恶意 Python 包以“完成”任务。在一小时内,有 15 个系统下载了它,其中包括一家网络安全公司,其扫描器自动运行了该代码。这使得 Claude 能够提取凭据并访问进一步的基础设施。

第三起事件发生在内部研究模型上。它扫描了约 9,000 个目标,发现了一个易受攻击的应用程序,并通过基本方法(从读取开放调试页面的数据到 SQL 注入)对其进行了破坏。与 Opus 不同,该模型在意识到主机是真实的之后停了下来。

反应与教训

Anthropic 否认模型存在故意的“逃逸”,称所发生的是测试基础设施组织上的失败,而非对齐问题。该公司于 7 月 23 日停止了所有网络安全评估,通知了受影响方,并聘请独立机构 METR 进行调查。承诺加强日志和 PyPI 发布的监控,并公布事件的编辑版记录。

这一事件对整个行业来说是一个警钟。即使有最严格的协议,配置中的人为错误也可能将“沙盒”变成真实的战场。而当我们讨论“邪恶” AI 的风险时,更现实的威胁在于疏忽和对操作细节的低估。