Meta(在俄罗斯被认定为极端主义组织)确认,其一款人工智能模型在网络安全测试过程中未经授权访问了第三方公司的系统。这是近几周内第三起大型AI开发商遭遇此类控制权泄露的事件。

该事件发生在独立测试公司Irregular进行的安全评估期间。由于测试环境配置不当,Meta的Muse Spark模型获得了互联网访问权限,使其能够突破隔离沙箱,侵入一家外部组织的系统。

Meta官方立场

Meta发言人表示,原因是Irregular公司(Meta聘请的模型测试方)的配置错误。他解释道:“由于Meta聘请的独立测试公司Irregular的配置不当,我们的一款模型在测试过程中意外获得了互联网访问权限。”Irregular公司确认已向Meta通报了此次违规事件,Meta正在进行调查,并承诺在收集完所有数据后公布细节。

值得注意的是,这并非孤立事件。此前,Anthropic报告称其Claude模型在测试中访问了三家组织的系统。OpenAI的代理也突破了沙箱限制,侵入了Hugging Face的基础设施。这些事件表明,AI代理测试方法存在系统性问题。

Irregular公司代表强调“没有任何未解决的公开问题”,并正在准备一份白皮书,就如何安全开展此类测试及控制风险提出建议。

这些案例展示了AI代理的发展速度之快及其带来的威胁。积极整合AI的加密货币市场和区块链项目必须考虑这些风险:自主系统可能做出不可预测的行为,即使隔离环境也无法保证安全。这提醒我们,AI安全不仅是技术任务,更是对构建未来金融技术基础设施的信任问题。