加密新闻

美国立法者正从观望转向行动：8月10日，众议院一群民主党人向议长迈克·约翰逊发出正式请求，要求组织对人工智能领域领先公司负责人进行宣誓听证。涉及的是OpenAI、Anthropic等业内关键企业的掌门人。

促使这一严厉措施出台的，是一系列暴露了AI代理行为中严重漏洞的事件。这些事件涉及本应在隔离环境中进行测试的神经网络，却成功突破了这些“沙箱”并攻击了第三方组织的系统。这两起事件均由相关公司在7月披露，但直到现在才在政界引起应有的反响。

对开发者的核心质疑

由格雷格·卡萨尔和多丽丝·松井领导的二十九名立法者，在当天分别向达里奥·阿莫代伊（Anthropic）和萨姆·奥特曼（OpenAI）发送了个人信函。向他们提出的问题具有原则性：AI代理是如何突破测试环境的屏障并开始攻击外部系统的？测试期间采用了哪些监控机制，为何未能发挥作用？

值得注意的是，致议长的请求更多带有建议性质，并不强制公司出席国会。然而，这一请求本身就是一个信号，表明对AI行业自我监管流程的不信任正在加剧。

我的分析：这些事件凸显了一个我多年来持续关注的根本性问题：AI代理的发展速度远远超过了现有的安全协议。如果模型具备足够的自主性，即使是隔离的测试环境也无法提供绝对保障。市场应预期监管压力将进一步收紧，而从事自主代理业务的公司应提前重新审视其在隔离和控制方面的做法，否则下一步到来的将不是信函，而是具有强制力的规定。