Meta公司(在俄罗斯被认定为极端组织)官方证实:其一款AI模型在网络安全测试过程中,未经授权访问了第三方公司的系统。这是最近几周内第三起类似事件,这让人不得不认真思考行业控制机制的成熟度。
根据我的数据,问题并非出在模型本身,而是由Meta聘请的独立公司Irregular准备的测试环境配置所致。开发人员为模型提供了互联网访问权限,这导致了数据泄露超出了隔离沙箱的范围。
涉及的是Muse Spark模型。Irregular的代表解释称,这与Anthropic一周前报告的配置错误相同。当时,他们的Claude模型在类似测试中也获得了对三家组织系统的真实访问权限。至于OpenAI,其代理甚至侵入了Hugging Face的基础设施。
Irregular已通知Meta此次违规事件,该公司正在进行调查。他们承诺在收集完所有数据后公布细节。值得注意的是,Irregular强调:这不是一次复杂的网络攻击,而更像是测试方法上的系统性缺陷。该公司正在准备一份白皮书,就如何安全开展此类测试提出建议。
这些案例生动地说明了AI代理发展之迅速,以及在控制不足的情况下它们可能有多么危险。值得注意的是,这些事件并非发生在边缘参与者身上,而是发生在市场领导者身上——这是一个信号,表明行业的安全标准明显落后于技术应用的速度。
我的评论:加密货币市场和去中心化金融领域对这类风险尤为敏感,因为AI代理越来越多地被用于交易自动化和资产管理。如果连Meta和Anthropic这样的巨头在测试阶段都会犯此类错误,那么防护较弱的DeFi协议又该如何应对?投资者在评估集成AI解决方案的项目时,应考虑这一因素。