美国商务部已解除对Claude Fable 5和Claude Mythos 5模型的出口限制。Anthropic团队于6月30日正式确认了这一消息,并宣布自7月1日起,Fable 5将重新面向全球开放。

该模型将集成到Claude Platform、Claude.ai、Claude Code和Claude Cowork中。通过AWS、Google Cloud和Microsoft Foundry的访问权限将尽快恢复。这一决定是与美国当局进行富有成效谈判的结果。

新的安全标准

为了让Fable 5回归,开发人员训练了一个专门的安全分类器。其任务是阻止亚马逊向政府报告中描述的行为。如果请求被拒绝,用户会收到通知,而该请求会被重定向到Claude Opus 4.8。据该公司称,新分类器在超过99%的情况下能识别出目标方法。

同时,Anthropic承认:“可能无法让任何AI模型完全抵御越狱攻击。”新措施将导致日常编程和调试任务中出现更多误报。这是为了更广泛地访问模型其他功能而做出的有意识妥协。

评估威胁的共识框架

Anthropic与亚马逊、微软、谷歌以及Project Glasswing的其他合作伙伴共同开始制定评估越狱危险性的通用方法。行业内至今仍缺乏统一标准来判定此类安全绕过的严重程度。

拟议的方案根据四个标准评估越狱行为:

  • 与现有工具相比,它在多大程度上扩展了攻击者的能力;
  • 该绕过行为适用于多少种不同的恶意任务;
  • 将其转化为实际攻击的难易程度;
  • 其他人发现或重复此方法的难易程度。

对于最危险的案例,该公司承诺立即启动预防性保护措施。Anthropic还组建了一支全天候监控团队,负责监测发布越狱数据的渠道,并启动了HackerOne计划,用于报告Fable 5可能存在的安全绕过问题。

在6月26日获得政府批准后,Mythos 5的访问权限已部分恢复给美国组织。该公司将继续与当局合作,包括提供发布前的保护工具访问权限、共享黑客攻击信息以及为联合研究提供专用资源。

我的分析:Fable 5和Mythos 5的情况生动地展示了美国AI监管如何变得日益严格,同时又保持灵活性。Anthropic表现出愿意妥协的态度,通过引入复杂的过滤系统,但也承认其不完美之处。这为整个行业开创了先例:预计在不久的将来,其他主要参与者将效仿这一做法,制定自己的“共识框架”来评估威胁。投资者应关注那些积极投资安全的公司——在监管趋严的背景下,这将成为关键竞争力因素。