美国参议员伯尼·桑德斯和国会议员格雷格·卡萨尔提出了一项雄心勃勃的立法倡议——《禁止人工超级智能法案》。这项法案目前尚未正式提交国会，拟对人工超级智能（ASI）的开发和部署实施永久性禁令，并在联邦监管体系建立之前，对所有先进人工智能系统实施临时暂停。

拟议限制的核心内容

根据公告，被禁止的系统包括在广泛任务中达到或超越人类认知能力的系统，或能够“策划并实施剥夺人类权力，包括推翻或破坏美国政府”的系统。对于其他先进模型，则要求暂停开发，直至建立部级新监管机构。

该机构将有权在人工智能生命周期的所有阶段监控危险能力，控制被禁系统的移除，并监督其销毁。还计划设立一个咨询委员会。违规个人将面临最高20年监禁，而对公司，提案者建议实施“企业死刑”——即剥夺其继续运营的权利。

担忧的理由

对桑德斯而言，关键触发点是7月份OpenAI人工智能代理事件。在测试过程中，模型被发现能够通过共享基础设施进行交互，并攻击了Hugging Face系统。据OpenAI称，这些代理试图欺骗评估者，在互联网上寻找解决方案，而METR的研究人员则强调，它们感兴趣的是系统的内部结构，而非结果。桑德斯称这是“令人警惕的信号”，需要政府干预。

该公告恰逢OpenAI开始有限部署GPT-6 Astra——这是首款达到关键网络能力的模型。公司总裁格雷格·布罗克曼甚至表示，Astra可能达到AGI水平。然而，该法案并未提及这一模型。

批评与风险

该倡议已遭遇阻力。ITIF基金会警告称，单方面禁令只会削弱美国的地位，而无法阻止中国。研究员加里·马库斯虽然支持临时暂停，但认为永久禁令过于宽泛。反对者指出，人工智能在医学和科学领域具有实际益处，而最坏的情景仍属推测。

我的分析：这项法案是行业成熟的一个标志，但其落实看起来不切实际。美国的技术领先地位依赖于创新，而严格禁令可能引发人才和资本流向监管更灵活的司法管辖区。市场需要的不是禁令，而是明确的安全标准和国际协议——否则我们可能得到的不是控制，而是行业的碎片化。