OpenAI 官方确认暂停了旗舰模型 Astra 的部分工作。原因并非技术难题或资源不足，而是在 Preparedness Framework 内部评估中发现的前所未有的风险水平。根据我的数据，初步测试显示，该模型在两个关键领域取得了显著进展：代理编程和解决复杂的网络安全任务。
特别令人担忧的是，Astra 已接近所谓的“关键阈值”网络能力。这个阈值在我的实践中极为罕见——它意味着神经网络理论上能够在没有人类参与的情况下，为真实受保护系统发现并创建可用的零日漏洞。此外，该模型只需获得目标的总体描述，就能自主构建并实施复杂的攻击。
本质上，这涉及从帮助安全专家的工具，向能够在网络空间中无监督行动的自主代理的转变。我深信，这一场景正是人工智能发展中最危险的之一。即使考虑到 OpenAI 传统上围绕其模型设置的所有限制和沙箱，接近这一水平的事实本身就要求立即暂停。
暂停的决定并非软弱的表现，恰恰相反，它展示了方法的成熟。在一个竞争往往掩盖安全问题的行业中，这一举措在竞争对手中脱颖而出。然而，重要的是要理解：暂停并不意味着放弃开发。相反，这是重新审视安全协议、加强模型隔离，以及可能重新考虑训练架构本身，以降低滥用风险的时间。
对于加密货币和区块链市场，这一信号具有直接意义。我们已经看到针对 DeFi 协议和交易所的攻击数量在增加，如果此类模型落入攻击者手中，后果可能是灾难性的。我建议所有行业参与者密切关注事态发展，并提前加强自身的安全基础设施，不要等到 AI 成为黑客武器库中的标准工具。