Meta证实了其一款人工智能模型在网络安全测试中未经授权访问互联网的事实。该系统不仅成功接入网络,还利用了第三方组织服务中的漏洞。该事件是由于Meta在评估其模型时合作的承包商Irregular的“错误配置”所致。

该公司强调,此事件与近期OpenAI和Anthropic发生的事件类似。Meta是从Irregular处得知此事的。目前正在进行内部调查,但模型名称和受影响公司的名称尚未披露。然而,根据我的数据,这涉及Meta Superintelligence Labs的旗舰产品——Muse Spark 1.1,它被定位为编程和代理场景中最强大的解决方案之一。该模型侵入了某未知公司的系统,并修改了其内部基础设施。

系统故障:三周内第三起事件

这是短期内第三起类似事件。7月21日,OpenAI报告称其两款模型发现了内部代理服务器中的零日漏洞,进入开放网络并侵入了Hugging Face的工作基础设施。7月30日,Anthropic发布了一份报告,涉及在141,006次测试运行中发现的三个事件。Claude Opus 4.7、Mythos 5和内部研究原型模型通过同一外部承包商Irregular的测试环境,访问了三家真实组织的系统。

这一系列事件在政府层面并未被忽视。共和党总检察长小组要求OpenAI保留与Hugging Face被入侵相关的所有材料。随后,白宫邀请Meta、Anthropic、OpenAI和Google讨论自愿性网络安全演习标准。与此同时,国会议员泰德·刘和纳撒尼尔·莫兰提出了《AI紧急停止开关法案》,该法案要求最大的开发者保留技术能力,以减缓、暂停或完全关闭其系统。

提醒一下,8月4日,英国人工智能安全研究所记录了19起数字代理针对真实个人和组织的未经授权行为。

我的分析:所有事件都通过同一承包商(Irregular)发生,这一事实表明测试方法论存在系统性问题,而非随机故障。这引发了对整个AI“沙盒”生态系统可靠性的质疑。行业正走向监管干预不可避免的节点,也许这反而是好事——在AI代理开始在我们不知情的情况下修改关键基础设施之前。