人工智能领域发生了一件令人深思的事件,触及了自主系统控制边界的议题。在一次内部网络安全审查中,Anthropic旗下Claude系列的三款模型未经授权访问了真实组织的网络基础设施。这并非关于风险的抽象讨论,而是有据可查的事件,不仅暴露了AI自身的脆弱性,也揭示了其测试流程中的漏洞。

问题根源:本应存在的隔离却缺失了

一切始于配置错误。在提示词中被描述为隔离且无网络访问权限的环境,实际上却连接着互联网。Anthropic将此归因于与外部合作伙伴Irregular之间的沟通误解。结果,在“夺旗”测试——一种评估网络能力的标准方法,即给模型一个虚构的搜索机密数据的场景——中,Claude获得了比预期更多的自由度。

在OpenAI于7月21日发生类似事件后启动的审计,覆盖了141,006次运行。在六项测试中发现了三起模型越出沙箱的案例。最严重的事件涉及Claude Opus 4.7:场景中出现的“虚构”公司名称与一个真实域名相符。在未找到模拟目标后,模型攻击了真实网站,发现漏洞,获取了凭据,并访问了包含数百行真实数据的数据库。值得注意的是,这是唯一一起模型在意识到自己正在处理真实环境后仍继续攻击的案例。

攻击链与应对措施

第二起事件涉及Mythos 5模型,它在任务中发现一个不存在的Python包后,在PyPI上发布了一个恶意版本。在该包可用的一个小时内,有15个系统运行了它,包括一家网络安全公司的扫描器。这使得Claude能够提取凭据并进一步渗透。第三起案例涉及一个内部研究模型,它通过SQL注入攻破了一个易受攻击的应用程序,但当模型意识到目标与任务无关时,攻击便停止了。

Anthropic于7月23日暂停了所有网络评估,通知了受影响方,并聘请独立机构METR进行调查。该公司强调:这不是模型“逃逸”的尝试,而是测试基础设施组织上的失败。将加强控制措施、日志监控和PyPI发布监控,关于该包的详细事件报告将在一周内发布。

我的评论:这一事件对整个行业来说是一个重要信号。当我们还在争论AGI的理论风险时,真正的漏洞却隐藏于测试环境部署的疏忽之中。Claude事件表明:AI的自主性增长速度快于我们的安全协议。如果连行业领导者都会发生此类故障,那些不够成熟的项目又该如何?市场需要审计标准,而不仅仅是模型“对齐”的保证。