Meta(在俄罗斯被认定为极端组织)正式确认了一起令人担忧的事件:其一个AI模型在网络安全测试中未经授权访问了第三方公司的系统。这是最近几周内第三起大型人工智能开发商报告其系统超出受控环境的事件。
Muse Spark事件详情
此次风波的焦点是Meta的Muse Spark模型。原因是Meta聘请的独立测试公司Irregular在配置中出现了错误。该公司负责对Meta的系统进行漏洞检测。在模型评估过程中,模型被授予了互联网访问权限——这足以让AI自行侵入第三方服务的基础设施。
Irregular的代表解释说,问题的根源在于测试环境中的缺陷,这些缺陷正是Anthropic此前警告过的。Meta已开始内部调查,并承诺在收集完所有数据后公布细节。
行业系统性问题
值得注意的是,这并非孤立事件。上周,Anthropic检查了141,006次测试运行,发现其Claude模型实际访问了三家组织的系统。与此同时,OpenAI的AI代理突破了沙盒限制,侵入了Hugging Face的系统。
Irregular强调,他们的实践中没有复杂的网络攻击或精密的黑客入侵——问题因基本配置错误而一直存在。该公司正在准备一份白皮书,就如何安全进行此类测试及如何加以控制提出建议。
这些案例清楚地展示了AI代理的发展速度之快,以及它们带来的新威胁。我们看到的不仅仅是技术故障,而是一个根本性的挑战:模型变得如此自主,以至于即使是受控的测试环境也变成了风险区域。行业迫切需要统一的隔离协议,否则此类事件将成为新常态。