Anthropic揭露了一起大规模AI技术盗窃案:与阿里巴巴相关的运营者攻击了Claude
美国人工智能公司Anthropic(先进语言模型Claude的开发商)记录了其历史上最大规模的AI模型蒸馏攻击。在致美国参议院银行委员会的信函中,该公司指控与阿里巴巴及其AI实验室Qwen相关的运营者,开展了一场大规模非法提取Claude能力的行动。
根据我的团队收集的数据,从4月22日至6月5日,攻击者创建了近25000个虚假账户。通过这些账户,他们向模型生成了超过2880万次查询。"除了规模之大,这场运动因其厚颜无耻的性质而令人震惊。阿里巴巴在纽约证券交易所上市,在美国维持商业运营,并对美国投资者和监管机构负责,"文件中强调道。
此次攻击中使用的蒸馏方法本身并非被禁止:它被合法地用于创建更便宜或更紧凑的模型版本。然而,当竞争对手通过虚假账户绕过服务限制,利用模型响应来训练自己的系统时,问题就出现了。在此案例中,攻击针对的是Claude在代理任务、软件开发及长期规划方面的关键能力。
Anthropic强调,此类行为使中国实验室能够在不承担训练成本的情况下复制先进模型的行为。"当中国实验室从美国模型中蒸馏这些能力时,他们获得了美国投资的回报,却无需承担成本和风险。这颠覆了支撑美国AI领导地位的经济逻辑,"信中写道。该公司还警告称,未经授权的蒸馏可能加速中国AI系统在网络行动、军事任务和情报领域的发展。
Anthropic对国会的要求
针对此事件,该公司呼吁立法者扩大AI模型开发者与美国政府之间的技术指标和情报共享。同时建议明确反垄断规则,使企业能够在不违反竞争法的情况下共享此类攻击信息。另一项要求涉及出口管制:加强对先进AI芯片和计算资源的限制,并堵住允许中国组织访问海外数据中心的漏洞。
背景与先例
这并非Anthropic首次遭遇大规模蒸馏。今年2月,该公司指控DeepSeek、Moonshot AI和MiniMax通过约24000个虚假账户生成了超过1600万次与Claude的交互。当时,这些行动通过IP地址、请求元数据和基础设施指标与特定实验室相关联。值得注意的是,蒸馏本身仍是普遍的行业实践:4月,埃隆·马斯克在联邦法院作证时承认,xAI在训练Grok时"部分"使用了OpenAI的模型。
在此背景下,国会议员比尔·休伊曾加提出了一项法案,规定对非法获取美国AI产品的外国实体实施出口限制和制裁。作为分析师,我认为此事件凸显了建立统一监控和应对此类攻击体系的迫切需求。当美国公司花费数十亿美元进行研发时,竞争对手通过虚假账户的后门获取其成果,这可能会长期削弱美国的技术领导地位。