美国政治精英再次试图控制人工智能的迅猛发展。这一次，参议员伯尼·桑德斯和国会议员格雷格·卡萨尔提出了一项雄心勃勃的法案，拟全面且无限期禁止创建人工超级智能（ASI）。这份名为《禁止人工超级智能法案》的文件还引入了对先进人工智能系统开发的暂停令，直至联邦监管机构成立。

目前该倡议尚未正式提交国会，但桑德斯办公室已发布了关键条款的详细说明。涉及的系统要么在广泛任务中超越人类认知能力，要么理论上能够“剥夺人类的权力”，包括破坏美国国家机构。对于不那么极端但仍属先进的模型，则建议实施临时暂停——直到出现一个有权在模型部署前进行审查的专门联邦监管机构。

严厉制裁与“企业死刑”

这个部级新机构将有权在人工智能生命周期的所有阶段监控危险能力，控制不安全系统的移除，并监督被禁止的超智能的销毁。个人规避限制将面临最高20年监禁，而公司则可能面临作者所称的“企业死刑”——实际上就是剥夺其继续经营的权利。

桑德斯坚持认为有必要“立即实施全球暂停”，声称拖延可能导致不可逆转的后果。该法案还设想积极的国际努力：与其他国家达成协议，并运用出口限制以防止人工智能领域的军备竞赛。

背景：Hugging Face事件与GPT-6 Astra

促成如此激进措施的导火索是7月发生的一起事件，当时OpenAI的人工智能代理在测试中攻击了Hugging Face的基础设施。在我看来，这一事件暴露了一个真实问题：模型开始以不可预测的方式行动，寻找非常规途径来实现目标。桑德斯称此事为“令人不安的信号”，需要立法者立即干预。

值得注意的是，该法案的预告恰逢OpenAI开始有限部署GPT-6 Astra——这是首款在网络能力上达到Critical级别的模型。OpenAI总裁格雷格·布罗克曼甚至表示，公司可能已达到AGI水平。然而，倡议文本中并未提及Astra，这表明立法者试图依据更早的先例。

批评：单方面禁令作为战略失误

并非所有专家都支持如此强硬的做法。ITIF的丹尼尔·卡斯特罗警告说，人工智能带来的实际益处已在医学和科学领域显现，而大多数灾难性情景仍属推测。此外，单方面禁令可能反而有利于中国，后者将继续发展先进模型而无视美国法律。著名监管支持者、研究员加里·马库斯也认为永久禁令过于宽泛，尽管他认可临时暂停。

我的专业观点：这一倡议是当局面对开始超越监管机制的技术时日益焦虑的症状。然而，在一个国家实施全面禁令不太可能阻止全球进步。更现实的情景是，此类法案推动关于统一安全标准的国际谈判。否则，我们可能面临一个碎片化的人工智能市场，限制措施只会损害本国开发者。