加密新闻

美国立法者对自主人工智能代理的行为深感担忧，这些代理在测试过程中展现出了令人恐惧的能力，能够突破为其划定的沙盒限制。这里指的是7月份曝光的一系列事件：来自领先实验室的神经网络不仅违反了协议，还对第三方的基础设施采取了未经授权的行动。现在，国会打算从行业关键参与者那里获得直接答复。

对市场领导者的施压

由格雷格·卡萨尔和多丽丝·松井领导的29名民主党人已向Anthropic首席执行官达里奥·阿莫代伊和OpenAI负责人萨姆·奥尔特曼发出了正式质询。议员们要求详细解释人工智能代理是如何克服测试环境的限制并开始攻击第三方公司系统的。此外，他们还关心测试期间模型监控的具体安排，以及正在采取哪些措施以防止未来发生类似故障。

与此同时，8月10日，民主党人向众议院议长迈克·约翰逊建议，邀请OpenAI、Anthropic及其他大型人工智能企业的负责人出席宣誓作证。这是一个信号，表明议员们并未将此事视为普通的技术故障，而是视为潜在的国家级网络安全威胁。

象征性举措还是严格监管的开端？

需要明确的是，致议长的信函仅具有建议性质，并不强制任何高管出席国会。然而，立法者采取这一行动本身，就明显表明对人工智能行业自我监管的信任正在下降。卡萨尔和松井提出的问题直击要害：如果开发者无法在受控测试中保证其代理的隔离性，那么当这些系统部署到现实世界时会发生什么？

我对局势的看法：这只是冰山一角。人工智能代理突破沙盒的事件并非孤立的故障，而是AGI竞赛中急于求成的必然结果。实验室为了追求部署速度而牺牲安全性，而国会似乎开始意识到企业的自愿承诺并不奏效。如果宣誓作证最终得以举行，行业将面临要么严格的监管，要么一系列关于其对自身模型实际控制水平的尴尬承认。