在对旗舰语言模型GPT-6.2 Astra预发布版本进行的独立审计中,记录到其对越狱攻击的抵御能力明显下降。英国人工智能安全研究所(AISI)开展的测试结果证实了这一点。结论明确:与上一迭代版本相比,该模型在防护机制上出现退步,而非加强。
越狱攻击是指绕过模型内置限制的方法,可强制生成开发者有意屏蔽的内容。这一攻击向量恰恰成为Astra的薄弱环节:在上一版本能够承受压力的地方,新模型明显更频繁地被操纵。
值得注意的是,这里说的是预发布构建版本——即尚未广泛开放的版本。这为开发团队在公开发布前完善防护体系提供了窗口期。然而,退步这一事实本身表明存在系统性问题:为扩展功能和提升模型能力而进行的竞赛,往往以牺牲安全性为代价。
对市场而言,这是一个重要先例。随着越来越多的企业和机构客户将大型语言模型集成到关键业务流程中,对越狱的抵御能力正从技术细节转变为声誉和监管风险因素。类似AISI检查的独立审计,正事实上成为模型生命周期中不可或缺的环节——与性能基准测试同等重要。
尤其值得关注的是,退步恰恰是在预发布版本中被发现的。这凸显了外部测试的价值:开发者的内部流程可能未能捕捉到防护机制的退化,而第三方审计则在产品上市前记录到了这一点。
Cryptalist分析:所发现的退步表明,在增强模型能力与保持安全性之间存在根本性权衡——而这一平衡正成为机构参与者评估的关键标准。Cryptalist将此类事件视为重新审视AI系统审计方法的信号:对越狱的抵御能力应作为独立的质量指标与性能一并评估。对市场而言,这强化了在模型商业发布前对其进行独立验证的需求。