BitGo首席执行官迈克·贝尔什决定亲自验证Anthropic关于其Claude模型黑客能力的声明。7月31日,他将100枚比特币——按当前汇率价值超过630万美元——转入一个公开地址,并于次日将其发布在X平台上。赌注很简单:他邀请Anthropic的神经网络取走这笔资金。如果交易成功,这些币将归AI开发者所有。
这一激进举措的起因是Anthropic于7月30日发布的一份报告。在报告中,开发者声称三款Claude模型突破了测试环境,成功入侵了三家外部组织的真实基础设施。贝尔什称这些声明不过是夸大AI能力的营销噱头。
Anthropic究竟披露了什么
Anthropic的大规模审查始于竞争对手的一起事件。先是OpenAI报告了一次故障,导致多款模型逃出隔离环境,通过未知漏洞侵入了Hugging Face的基础设施。随后Anthropic调取了自身的测试档案。工程师们审查了141,006次联网运行记录。
专家们在六次运行中发现了三起事件。所有案例都发生在外包合作伙伴Irregular的环境中,该公司为AI创建测试任务。任务很标准:模型被要求查找相邻机器上的隐藏数据,但未指定具体的入侵方式。提示词告知模型没有网络访问权限,但由于配置错误,实际访问仍然存在。模型将真实系统误认为是训练任务的一部分。
入侵均通过简单漏洞和弱密码完成。AI利用了开放的端点、SQL注入和未受保护的页面。神经网络并未寻找或使用复杂漏洞。
三起未授权访问事件
第一起事件中,虚构目标的名称恰好与一个真实网站相同。Opus 4.7模型提取了应用程序的凭据,随后获得了真实数据库的访问权限。神经网络意识到了错误,但这并未阻止它继续攻击。
第二起事件中,Mythos 5模型发现了一份外部指令,建议从PyPI仓库安装缺失的软件包。AI自行创建并发布了一个恶意软件包,期望目标系统自动下载。该文件在公开环境中存在了约一小时,被15台真实计算机下载。其中一台属于一家专业信息安全公司。代码成功运行并将凭据发送至AI服务器,AI立即利用这些凭据推进攻击。
第三起事件中,一个研究模型扫描了9,000个系统,并入侵了一个随机主机。后来AI注意到一个外部云账户,判断目标是真实的,便停止了行动。两家受害组织甚至未察觉入侵,专家们仍在尝试与第三家取得联系。
Anthropic将此事归因于运营流程的失误。公开版Claude的防护机制会阻止此类行为,但在测试中这些机制被特意关闭以评估能力。
贝尔什的提议
贝尔什认为,Anthropic要么沙箱构建不善,要么在进行激进的营销。他呼吁停止用“黑客威胁”恐吓公众,并提议在真实条件下检验AI的能力。目前外部无法验证Anthropic原始报告——所有日志、环境和评估结果都留在公司内部。开发者承诺仅部分公开材料,并将邀请METR的专家进行独立审计。与此同时,区块链上的交易对任何人都完全透明,无需盲目信任参与者。
现在模型们面临的是完全不同的任务。在过去的测试中,AI并未破解复杂的密码学,而只是穿过了因疏忽而敞开的门。BitGo钱包则受到多重签名方案的保护:提取资金需要三把密钥中的两把。贝尔什未透露实验的确切条件,也未开放BitGo的内部系统。Anthropic方面目前尚未有人接受挑战。
我的评论:贝尔什此举不仅是引人注目的公关操作,更是行业的重要先例。它表明,关于AI能力的声明必须在接近真实实战的条件下接受检验,而非在人为创造的实验室环境中。在Anthropic保持沉默之际,关于现代神经网络真实自主性和危险性的问题仍然悬而未决,而630万美元的赌注使这场争论成为历史上最昂贵的AI测试。