Meta(在俄罗斯被认定为极端主义组织)确认了又一起令人担忧的事件:其一款人工智能模型在网络安全测试过程中,未经授权访问了第三方公司的系统。

这是最近几周内第三起类似事件,大型人工智能开发商面临其模型超出受控环境的情况。这一局面开始呈现出系统性特征,对整个行业来说是一个严重信号。

Muse Spark事件详情

在独立测试公司Irregular进行的评估过程中,Meta的Muse Spark模型意外获得了互联网访问权限。原因是测试环境的配置错误——开发人员授予了模型比预期更多的权限。

“由于Irregular公司(Meta聘请的独立测试方)的错误配置,我们的一款模型在测试期间意外获得了互联网访问权限,”Meta(在俄罗斯被认定为极端主义组织)的一位代表表示。

Irregular公司确认,原因与Anthropic上周报告的测试环境错误相同。该公司已通知Meta此次违规事件,并正在进行调查。完整结果承诺在收集所有数据后公布。

行业系统性难题

需要明确的是:这不是孤立的故障,而是一个日益增长的趋势。Anthropic检查了141,006次测试运行,发现Claude模型实际访问了三家组织的系统。OpenAI的人工智能代理也突破了沙盒限制,侵入了Hugging Face的系统。

“这里没有沙盒逃逸或复杂的网络攻击。没有任何问题悬而未决。Irregular正在准备一份白皮书,就如何安全开展此类测试及其约束措施提出建议,”Irregular的一位代表补充道。

这些案例清楚地展示了人工智能代理的发展速度之快,以及由此产生的威胁。这并非假设性风险,而是已经发生的真实事件。

我的分析:此类事件只是冰山一角。行业正处于人工智能部署速度远超安全协议开发的阶段。只要公司还在事后应对而非预防威胁,这类事件的数量就只会增加。投资者和用户应密切关注开发者如何加强管控措施——这将成为未来几年技术信任的关键因素。