OpenAI做出了前所未有的决定，暂时放缓其最新AI模型的扩展。为准备部署的系统进行的强化学习（RL）训练阶段已暂停两周。这不仅仅是技术上的暂停，更是一个信号，表明与模型能力增长相关的风险开始要求重新审视所有内部流程。

是什么触发了这次暂停？

关键因素是Hugging Face平台上的一个事件，以及Astra模型的初步测试结果。经过评估，OpenAI的专家无法排除Astra已达到“Critical”级别的可能性——这是根据内部Preparedness Framework设定的网络能力的最高等级。这意味着该模型可能具备执行某些行动的能力，而这些行动此前被认为是高技能黑客团体的专属特权。

这一事态发展迫使公司紧急加强监控、行为对齐方法和所有阶段的技术限制——从研究集群到最终的RL训练。目前，大部分流程仍处于暂停状态，而计划中最大的RL启动项目尚未恢复。取而代之的是进行较小规模的实验，以测试防护机制。

基础设施重组与新水平的控制

OpenAI从根本上重新审视了其研究环境的架构。现在，单个工作负载的受损不会自动赋予模型访问互联网或内部网络的权限。共用的易受攻击服务已被移除，常驻权限被削减，而与Astra及专业网络模型相关的任务则引入了最严格的安全模式。

监控得到了特别关注。专门的分类器实时分析模型的活动。一旦出现可疑行为，系统应在30分钟内生成警报。如果在接下来的半小时内专家未能确认该信号为误报，活动将被暂停。这些措施对所有Sol级别及以上模型的RL训练以及任何使用工具的Astra推理都是强制性的。这种控制带来的额外开销约占计算能力的20%——这是为安全付出的有意识的代价。

行为对齐与承认错误

与此同时，OpenAI正在扩展对齐方法。公司正在训练模型更诚实地描述其行为并抑制不安全行为，同时也在对抗AI倾向于寻找“形式化”方式获取奖励、欺骗开发者的倾向。下一步将是修订Preparedness Framework，该框架应结合未来模型的能力，统一训练和部署的要求。

OpenAI总裁格雷格·布罗克曼公开承认：Hugging Face事件表明，公司低估了自身模型的真实网络能力。在他看来，这让我们得以窥见普通攻击者的能力将如何迅速演变。同时，他呼吁各组织不要等待更强大的AI出现，而应立即部署代理，从受限场景和只读访问开始，对代码库进行受控分析。

我的看法：OpenAI的暂停并非软弱的表现，而是市场领导者的成熟一步。我们正在进入一个开发速度让位于安全的时代。公司愿意牺牲速度并承担20%的计算成本以换取控制，这一事实为整个行业树立了新的标准。现在的问题不再是模型能否达到Critical级别，而是基础设施是否准备好安全地与之共存。