白宫政府对Anthropic公司的模型实施了出口限制,关键触发因素是对与中国有关联的群体可能获取Mythos模型的担忧。这一事件,连同有关试图绕过Fable 5模型防护措施的报道,成为了政府决策的基础。

双重触发因素:中国与防护绕过

根据现有信息,对中国群体访问Mythos的怀疑是促使唐纳德·特朗普政府采取行动的主要因素之一。然而,具体是哪个组织、如何获得访问权限以及白宫的信息来源仍未公开。第二个触发因素是亚马逊CEO安迪·贾西于6月11日应模型审查要求告知政府,存在绕过Fable 5限制的可能性。

美国商务部长霍华德·卢特尼克致函Anthropic负责人达里奥·阿莫迪,指出Fable 5和Mythos 5在美国境外及境内所有外国人员均受出口管制。官员们试图说服该公司自愿暂停访问权限,但Anthropic拒绝了。据接近该初创公司的消息人士称,白宫仅给了公司90分钟时间关闭模型,且未提供威胁性质的详细信息。

白宫顾问大卫·萨克斯表示,政府从一位同时受政府和Anthropic信任的合作伙伴处收到了警告。他指出“球在Anthropic这边”,并称一旦安全问题得到解决,出口管制将被解除。

Anthropic立场:“误解”

Anthropic坚决否认这些指控。该公司声称,政府的信函未包含任何关于国家安全风险的具体细节,投诉仅涉及绕过Fable 5防护的方法。该初创公司研究了这一技术的演示,并得出结论认为它只能发现“少量先前已知的微小漏洞”。此外,其他公开可用的模型无需绕过防护就能识别相同问题。

在发布Fable 5之前,该公司与美国政府、英国人工智能安全研究所及第三方组织共同花费了“数千小时”测试防护措施。测试人员未找到大规模绕过模型限制的通用方法。Anthropic认为此事是“误解”,并正在努力恢复访问权限。

提醒一下,6月9日Anthropic发布了面向公众的Mythos级模型Fable 5,以及作为Project Glasswing一部分、为网络安全防御者提供的限制较弱的Mythos 5。此前,6月2日,该公司宣布将该计划扩展到来自15个以上国家的约150个组织,这些组织已发现超过10,000个高严重性和关键性漏洞。

专家观点:Anthropic的处境是政治风险与国家安全问题开始主导技术进步的典型案例。即使“中国访问”的指控被夸大,政府如此强硬反应的事实本身就标志着人工智能监管的新时代,出口管制将成为地缘政治施压的工具。投资者应考虑到,此类事件将加剧该领域的波动性,正如我们在限制措施实施后Venice和Morpheus代币分别上涨14%和21%时所看到的那样。