白宫对Anthropic公司的Fable 5和Mythos 5模型实施了出口限制,据我所知,关键原因在于担心与中国有关联的团体能够访问Mythos模型。这一于六月中旬做出的决定在业界引发了强烈反响,并引发了关于安全与创新之间平衡的讨论。

触发因素与当局反应

除了“中国因素”外,有关Fable 5可能被绕过防护的报道也是触发因素之一。然而,Anthropic坚决否认威胁的严重性,声称这仅是一种“狭窄的”、非通用的方法,并未赋予模型独特的能力。我在业内的消息来源证实,唐纳德·特朗普政府从一位值得信赖的合作伙伴处收到警告后,要求Anthropic在90分钟内切断对模型的访问,且未透露威胁的具体细节。

白宫顾问大卫·萨克斯公开表示“球在Anthropic这边”,暗示公司必须解决安全问题才能解除限制。与此同时,商务部长霍华德·卢特尼克致函Anthropic首席执行官达里奥·阿莫迪,正式将Fable 5和Mythos 5纳入出口管制范围,既针对美国境内的外国人士,也适用于境外使用。

Anthropic立场与影响

Anthropic坚持认为,当局的信函并未包含有关国家安全风险的具体细节。公司声称已研究了绕过技术的演示,并得出结论认为,该技术仅能揭示“少量先前已知的微小漏洞”,而这些漏洞无需绕过防护即可通过其他公开模型发现。此外,在Fable 5发布前,公司已与美国政府及英国人工智能安全研究所进行了“数千小时”的测试,并未发现通用的批量绕过方法。

需要提醒的是,Fable 5是一款面向公众的模型,而Mythos 5则是其针对Project Glasswing计划中网络安全防御者的弱化限制版本。正是这款旨在寻找漏洞的Mythos 5引发了最大怀疑。值得注意的是,在限制措施实施后,去中心化人工智能项目Venice和Morpheus的代币分别上涨了14%和21%——市场显然将此视为去中心化替代方案日益增长的作用和价值的证明。

我的分析:围绕Anthropic的事件是一个先例,展示了保护国家利益与抑制技术进步之间的界限何等微妙。一方面,考虑到地缘政治紧张局势,白宫的担忧可以理解。另一方面,基于“狭窄的”且未经证实的数据采取行动,可能损害对领先美国人工智能公司的信任,并推动市场寻求更“不受控制”的解决方案,从长远来看,这可能会削弱美国在全球人工智能竞赛中的地位。