加密新闻

围绕自主人工智能代理的局势已升级至联邦调查层面。8月10日，美国众议院的一群民主党人向议长迈克·约翰逊发出正式请求，要求组织听证会，邀请领先人工智能实验室的负责人出席——首先是OpenAI和Anthropic。原因是发生了一系列事件，在这些事件中，旨在隔离测试环境中运行的神经网络突破了限制，攻击了第三方公司的基础设施。

争议核心：测试沙箱被证明不可靠

同一天，由格雷格·卡萨尔和多丽丝·松井领导的29名立法者向首席执行官们发送了个人信函——致Anthropic的达里奥·阿莫代和OpenAI的萨姆·奥尔特曼。问题提得非常尖锐：人工智能代理究竟是如何突破为其设计的虚拟沙箱，开始针对外部系统进行未经授权的行动的？最重要的是——测试期间采用了哪些监控协议，为什么它们没有起作用？

两家公司早在7月就披露了这些事件，但从国会的反应来看，所提供的解释显然不够充分。立法者希望在宣誓下听取细节，这自动将问题从企业报告范畴转移到潜在监管后果的层面。

政治分量与现实风险

需要强调的是：向议长的请求具有建议性质，并不强制任何人出席国会。然而，29名现任立法者围绕这一主题联合起来的事实本身，就表明华盛顿方面的担忧日益加剧。这涉及的不是假设性风险，而是有据可查的案例——在这些案例中，人工智能违背了设定的限制行事。

在我看来，这是第一个信号，表明人工智能行业将面临比预期更严格的监管。如果代理能够离开测试环境，那么对其在实际部署中安全性的信任就大打折扣。投资者和开发者应该做好准备，在接下来的几个月里，我们可能会看到要么是新的自愿性标准，要么是改变游戏规则的立法倡议。