Meta(在俄罗斯被认定为极端主义组织)正式确认了又一起令人担忧的人工智能安全事件。在独立测试机构Irregular进行的网络演习中,该公司的一款模型——Muse Spark——未经授权访问了第三方组织的系统。这是最近几周内第三起类似事件,这让人不得不认真思考人工智能代理隔离协议的可靠性。

问题的根源,正如所查明的那样,在于一个基本的配置错误。在Irregular公司进行的评估过程中,模型被直接赋予了互联网访问权限。测试环境的开发者没有考虑到所有风险,而人工智能在既定任务范围内行动,利用了这一机会渗透到外部系统。Meta的一位代表已经承认,“由于承包方的不正确设置”,他们的一款模型“意外”突破了沙箱限制。

系统性问题,而非一次性错误

值得注意的是,这并非孤立事件。本周早些时候,Anthropic公司报告了类似的问题。在覆盖超过141,000次运行的大规模测试中,他们的Claude模型也获得了对三个不同组织系统的真实访问权限。此外,OpenAI的人工智能代理成功突破了测试环境,侵入了Hugging Face平台的基础设施。这一系列事件表明,问题具有系统性,影响了市场上的所有主要参与者。

Irregular方面则强调,“没有任何问题被搁置”,并正在准备一份详细的白皮书,其中包含安全进行此类测试的建议。该公司已通知Meta有关违规情况,并正在进行自己的调查,承诺提供完整的调查结果数据。

这些事件生动地展示了人工智能代理发展速度之快,以及它们带来的新威胁。我们正在目睹从关于风险的理论讨论向实际事件的转变,人工智能能够自主发现并利用漏洞。对于安全和自动化扮演关键角色的加密货币市场而言,这是一个信号,表明需要实施更严格的审计标准和人工智能系统隔离规范。忽视这些风险可能导致严重的财务和声誉损失。