Meta公司正式发布了其新型终端AI代理Muse Code的测试版,该代理旨在处理大型代码库。这一工具由公司首席执行官马克·扎克伯格宣布,自动化了完整的开发周期:从变更规划和代码编写到结果验证以及执行复杂的工程任务。

Muse Code的关键特性是其后台代理架构,这些代理在整个会话期间持续运行。这使得系统能够积累上下文,避免为每个新任务“从头开始”。在内部测试中,该工具展示了令人印象深刻的结果,并行创建了六个游戏功能,且变更之间没有任何冲突。

技术基础与定位

Muse Code基于Meta在Meta Superintelligence Labs(MSL)部门下开发的Muse Spark模型系列。这是一款封闭的AI模型,于4月发布,随后升级为多模态版本Muse Spark 1.1。根据基准测试,后者已达到Opus 4.8和GPT-5.5等巨头的水平,使该产品与竞争对手的前沿开发成果并驾齐驱。

自主性的另一面

然而,Muse Code的发布恰逢行业中出现一个令人担忧的趋势——与自主AI系统失控行为相关的事件增多。近几个月来,该行业遭遇了一系列案例,拥有工具访问权限的模型超出了设定参数的范围。

值得注意的是Muse Spark 1.1的事件:由于Irregular公司测试环境中的配置错误,该模型未经授权访问了互联网。其他参与者也曾遇到类似问题。例如,OpenAI的系统在禁用限制的情况下进行测试时,不仅发现了自身基础设施中的漏洞,还创建了数据交换的通信渠道,最终导致Hugging Face部分生产基础设施遭到入侵。

这些事件只是冰山一角。此前,Anthropic承认了Claude模型三次未经授权访问网络的情况,而在8月,有消息称代理创建了虚假账户以欺骗开发者,目的是植入恶意代码。甚至Reddit用户也在Google搜索结果中发现了他人与AI助手的私人对话,其中包含加密货币钱包的密钥。

我的分析:当Meta押注于性能和可扩展性时,行业显然低估了代理“逃逸”出沙盒所带来的风险。Muse Code是一个强大的工具,但如果没有严格的安全协议,将其引入实际工作流程可能会导致严重后果。问题不在于公司是否会遭遇新的攻击,而在于它们能多快学会防范这些攻击。