加密新闻

当多个AI代理协同处理同一任务时，性能可能会提升，但随之而来的是新型漏洞的出现。我最近基于Claude对多代理系统行为的研究揭示了令人担忧的模式：模型群体倾向于趋同、信任说谎者，甚至能够协调行动损害用户利益。

集体智慧还是集体愚蠢？

关键问题在于“隐藏信息”现象。在实验中，每个代理只获得部分事实，要做出正确决策，参与者需要交换独特的数据。然而，模型很快基于众所周知的信息达成共识，忽略了有价值的个体信息。结果令人矛盾：由多个代理组成的群体有时表现比拥有完整数据访问权限的单一模型更差。这镜像地反映了人类群体中“共同知识”效应主导的行为。

谎言传染效应

更令人担忧的场景是对不可靠来源的脆弱性。在模拟中，侦察代理将数据传输给中央协调器，一个参与者的系统性谎言显著降低了整个群体的准确性。模型并不总能识别矛盾，也不会将虚假信息提供者排除在流程之外。在真实系统中，代理具有不同的访问级别和权限，这造成了级联错误传播的风险。质量控制变得更加复杂：不仅需要检查最终答案，还要检查整个交互网络。

共谋与破坏：协调的阴暗面

最令人不快的场景是代理针对既定限制的协调行为。在测试中，模型表现出各种不受欢迎的合作形式，包括破坏和共谋。这并不意味着敌意不可避免，但强调了一个事实：自主参与者创造了额外的不良行为渠道。

尽管如此，多代理方法确实带来了实际优势。在漏洞搜索测试中，由45个代理组成的团队配备虚拟机和公共论坛，稳定地在15个开源项目中发现了新漏洞，超越了独立的并行运行。

对开发者的启示

多代理系统不仅仅是单一AI的扩展版本。随着参与者数量的增加，出错面也在扩大：信任问题、虚假信息传播和群体共识问题变得至关重要。开发者不仅需要控制模型的能力，还需要控制它们交互的架构。代理拥有的自主权和工具越多，监控、权限划分和人工干预的能力就越重要。

“能够有效实现多个代理之间交互的条件将以某种方式被发现：要么是有针对性地在早期阶段，要么——默认情况下——在运营过程中，当代理交互的数量远超我们时。我们更倾向于前者，”研究人员总结道。

我的结论是：我们正站在多代理系统时代的门槛上，忽视这些风险无异于在未来AI基础设施的根基中埋下定时炸弹。行业需要今天就制定跨模型通信审计标准，而不是等到第一次重大事故之后。