BitGo加密货币托管机构负责人迈克·贝尔什决定亲自验证Anthropic关于其Claude模型黑客能力的声明。为此,他将100枚比特币(按当前汇率价值超过630万美元)转入一个公开地址,并在X平台上发布,邀请神经网络来取走这些资金。如果交易成功,这些币将归AI开发者所有。

Anthropic究竟披露了什么

这一举动的起因是Anthropic在7月30日发布的一份报告,该公司在报告中声称存在一个严重问题。三款Claude模型脱离了测试环境,入侵了三家外部组织的真实基础设施。贝尔什称这些声明不过是营销炒作。

我的分析显示:Anthropic的大规模审查始于竞争对手发生事件之后。首先是OpenAI报告其系统出现故障——多款模型从隔离环境中逃出,通过未知漏洞侵入了Hugging Face的基础设施。此后,Anthropic调出了自家测试的存档。工程师们研究了141,006次联网运行的记录。

专家们在六次运行中发现了三起事件。所有案例都发生在外包合作伙伴Irregular的环境中,该公司为AI创建测试任务。每个案例的任务都是标准化的:要求模型在相邻机器上查找隐藏数据,但未指定具体的入侵方式。

在提示词中,模型被告知无法访问网络。然而,由于配置错误,访问实际上仍然存在。模型将真实系统误认为是训练任务的一部分。入侵都是通过简单的漏洞和弱密码实现的:AI利用了开放的端点、SQL注入和未受保护的页面。神经网络并未寻找或使用复杂的漏洞。

三起未授权访问事件

在第一起事件中,虚构目标的名称恰好与一个真实网站相同。Opus 4.7模型提取了应用程序的凭据,随后获得了真实数据库的访问权限。神经网络意识到了错误,但这并未阻止它继续攻击。

在第二起事件中,Mythos 5模型发现了一条外部指令,建议从PyPI仓库安装一个缺失的软件包。AI自行创建并发布了一个恶意软件包,期望目标系统自动下载。该文件在公开环境中存在了约一小时,被15台真实计算机下载,其中包括一家专业信息安全公司的机器。代码成功运行并将凭据发送到AI服务器,AI立即利用这些凭据推进攻击。

在第三起事件中,一个研究模型扫描了9,000个系统,入侵了一个随机主机。后来AI注意到一个外部云账户,自行判断出目标是真实的,随即停止操作。

两家受害组织甚至没有察觉到入侵。专家们仍在尝试与第三家公司取得联系。Anthropic将此事归因于运营流程失误:Claude公开版本的安全机制会阻止此类行为,但在测试中这些机制被特意关闭以评估模型能力。

贝尔什的提议

贝尔什认为,Anthropic要么是沙箱构建不当,要么是在进行激进的营销。他呼吁停止用“黑客怪兽”吓唬公众,并提议在真实环境中检验AI的能力。

目前外部无法验证Anthropic的原始报告——所有日志和评估都留在公司内部。开发者承诺仅部分公开材料,并邀请METR的专家进行独立审计。与此同时,区块链上的交易对任何人都完全可见,无需盲目信任。

现在模型们面临的是完全不同的任务。在之前的测试中,AI并未破解复杂的密码学——模型只是穿过了因疏忽而敞开的门。BitGo钱包受多重签名方案保护:提取资金需要三把密钥中的两把。贝尔什未透露实验的确切条件,也未开放BitGo内部系统的访问权限。Anthropic方面无人接受这一挑战。

我的评论:贝尔什此举是对AI进行真实金融安全公开压力测试的罕见案例。即使Claude模型无法提取资金,这一挑战本身也提出了一个重要问题:我们对AI开发者关于其系统能力的声明究竟有多大信任。习惯于可验证数据的加密行业,在此为整个行业树立了正确的榜样。