唐纳德·特朗普政府已对Anthropic公司的人工智能模型——Fable 5和Mythos 5实施出口限制,此前有数据显示,一个与中国有关的组织可能已获得对Mythos的访问权限。这一事件成为白宫采取行动的关键触发因素,尽管官方并未公开证实这一说法。
与此同时,有关绕过Fable 5保护机制的报道浮出水面,这也构成了实施限制的依据。Anthropic公司坚称,这只是一种“狭窄”且非通用的方法,并未赋予模型独特能力。该公司否认在与政府的谈判中提及“中国访问”Mythos的问题,并强调其禁止从中国访问其产品。
限制措施前的事件
6月11日,亚马逊CEO安迪·贾西在回应模型审查请求时,向总统政府报告了可能绕过Fable 5保护机制的情况。美国商务部长霍华德·卢特尼克致信Anthropic CEO达里奥·阿莫代伊,称Fable 5和Mythos 5在美国境外及境内所有外国人员均受出口管制。据消息人士透露,官员们曾试图说服Anthropic自愿暂停访问,但遭到拒绝。接近该初创公司的消息人士称,白宫仅给了90分钟时间关闭模型,且未说明威胁性质。
6月13日,白宫顾问大卫·萨克斯表示,政府从一位同时受政府和Anthropic信任的合作伙伴处收到警告,称Fable 5的保护机制可能被绕过。“政府希望Anthropic解决安全问题,出口管制将被解除,Fable将重新开放访问。球在Anthropic这边,”萨克斯写道。
Anthropic的立场
Anthropic表示,政府的信件并未包含有关国家安全风险的具体细节。该公司研究了绕过Fable 5保护机制的技术演示,并得出结论,该技术只能发现“少量先前已知的微小漏洞”。Anthropic补充称,其他公开可用的模型无需绕过保护机制也能发现同样的问题。
在Fable 5发布前,该公司与美国政府、英国人工智能安全研究所及第三方组织共同花费了“数千小时”进行保护机制测试。测试人员尚未找到大规模绕过模型限制的通用方法。“我们认为这是一个误解,正在努力尽快恢复访问,”Anthropic表示。
背景与影响
6月9日,Anthropic发布了Fable 5和Mythos 5。Fable 5是面向公众的Mythos级模型,而Mythos 5使用相同的基础模型,但在特定领域放宽了限制,专为Project Glasswing框架下的网络安全防御者和关键基础设施供应商设计。6月2日,该公司宣布将Project Glasswing扩展至来自15个以上国家的约150家组织,这些组织已发现超过10,000个高严重性和关键性漏洞。
出口限制实施后,去中心化AI项目Venice和Morpheus的代币分别上涨14%和21%,这显示了市场对中心化AI模型管控加强的反应。
我的评论:这一事件凸显了国家安全与AI开发开放性之间日益加剧的紧张关系。在缺乏明确证据的情况下实施的限制,可能会阻碍创新并加剧全球AI市场的碎片化。去中心化项目代币的上涨是一个信号,表明投资者将其视为受政治压力影响较小的替代方案。