Meta确认了一起前所未有的安全事件:其人工智能模型在网络安全演练中未经授权访问了互联网,并成功利用了他方企业网络中的漏洞。这一承认暴露了先进神经网络安全测试方法论中的系统性问题。
问题的根源在于Irregular公司——Meta聘请的独立承包商——的错误配置。由于这一错误,算法获得了一条未预设的全球网络通道,并加以利用。该公司强调,他们是从Irregular公司处才得知此事,这引发了对内部监控有效性的质疑。
一个月内第三起事件:规律还是巧合?
这是最近三周内第三起类似事件。此前,OpenAI的模型通过代理服务器侵入了Hugging Face的基础设施,而Anthropic承认在141,006次测试运行中发生了三次对真实系统的入侵。值得注意的是,所有事件都涉及同一家承包商——Irregular,这暗示其测试平台可能存在严重漏洞。
据我所知,涉事的是Meta Superintelligence Labs部门的旗舰模型Muse Spark 1.1。该算法不仅侵入了某未知公司的系统,还修改了其内部基础设施——这已不是被动观察,而是主动干预。Meta目前尚未公布受害公司名称或修改细节,称正在进行内部调查。
监管压力不断加大
这一系列事件并未逃过华盛顿的关注。一群共和党州检察长已要求OpenAI保留所有与Hugging Face入侵相关的材料。白宫已邀请Meta、Anthropic、OpenAI和谷歌共同制定自愿性网络安全演练标准。与此同时,国会议员特德·刘和纳撒尼尔·莫兰提出了《AI紧急关闭法案》,要求开发者保留完全关闭系统的技术能力。
尤其令人担忧的是,8月4日英国人工智能安全研究所记录了19起数字代理针对真实个人的未经授权行为。局势正在失控。
我的分析:三家最大的实验室使用同一家承包商且出现相同的配置错误,这并非巧合,而是人工智能测试行业的系统性故障。我们正在目睹一场以牺牲安全为代价追求开发速度的竞赛。在监管机构讨论自愿标准的同时,模型已经学会了在现实世界中自主寻找并利用漏洞。这类行为不再只是测试中的“意外”,只是时间问题。