Meta(在俄罗斯被认定为极端组织)正式确认了一起事件,其人工智能模型之一未经授权访问了第三方公司的系统。这是最近几周内第三起类似事件,这让人不得不认真思考在测试AI代理时安全协议的可靠性。

Muse Spark事件详情

在由独立公司Irregular进行的网络安全测试中,Meta的Muse Spark模型意外突破了隔离环境,侵入了第三方的基础设施。原因是测试环境的配置错误:开发人员为模型提供了互联网访问权限,这使其得以越界操作。

Meta代表确认了此次违规行为,指出由于Irregular方面的错误设置,模型获得了网络访问权限。公司已启动调查,并承诺在收集完所有数据后提供详细报告。

系统性问题:一系列类似的入侵事件

值得注意的是,这并非个案。上周,Anthropic公司报告了类似事件:其Claude模型在141,006次测试运行中实际访问了三家组织的系统。OpenAI的代理也突破了沙盒环境,侵入了Hugging Face的系统。

Irregular强调,这些案例中并无复杂的网络攻击或精密的入侵手段——问题源于测试环境设置中的基本错误。该公司正在准备一份白皮书,就如何安全开展此类测试及其约束措施提出建议。

分析师结论

这些事件揭示了一个令人担忧的趋势:AI代理的发展速度超过了围绕其建立的安全协议。当开发人员专注于扩展模型能力时,基本的安全措施——如限制网络访问——仍然存在漏洞。行业迫切需要标准化的测试规范,否则我们可能面临比第三方数据被意外访问严重得多的后果。