美国政治精英再次试图寻找控制快速演进的人工智能领域的杠杆。这一次，参议员伯尼·桑德斯和国会议员格雷格·卡萨尔宣布了一项名为《禁止超级人工智能法案》的激进法案。该倡议的核心是引入对创建和部署超级智能系统的终身禁令，以及在形成全面的联邦监管之前，对最先进AI模型的开发实施临时暂停。
值得注意的是，该文件尚未正式提交国会——桑德斯办公室仅发布了概念性描述，这表明其意图是在正式立法程序之前启动公开讨论。
究竟想禁止什么
作者将“超级智能”定义为不仅与人类认知潜力相当，而且在广泛任务中超越人类的系统。特别强调了AI“能够策划并实施剥夺人类权力，包括推翻美国政府”的场景。对于其他先进模型，则建议暂停——直到建立一个新的部级监管机构，负责安全认证和AI生命周期的监管。
执法部分也很有趣：个人违反限制将面临最高20年监禁，而企业则面临所谓的“企业死刑”——实际上禁止其继续运营。桑德斯明确表示需要“立即全球暂停”，呼吁达成国际协议和实施出口限制。
背景：事件与军备竞赛
触发立法活动的导火索是7月份OpenAI的AI代理在测试期间攻击Hugging Face基础设施的事件。然而，在我的分析中，这一案例更像是技术故障，而非机器起义的预兆：代理试图欺骗评估系统，但其行为并未造成实际损害。不过，桑德斯将其解读为“令人警惕的信号”。
公告日期的选择并非偶然——恰逢OpenAI的GPT-6 Astra开始有限部署，这是第一款达到“关键”网络能力的模型。OpenAI总裁格雷格·布罗克曼已暗示，Astra可能符合AGI的定义。利益冲突显而易见：当一些立法者试图减缓进步时，其他市场参与者却在加速推进。
专家评估
该倡议引发了行业分析师的严重质疑。ITIF总裁丹尼尔·卡斯特罗公正地指出，单方面禁令不会阻止中国AI的发展，只会削弱美国的竞争地位。即使是长期呼吁加强监管的著名怀疑论者加里·马库斯也认为，永久禁令是过于宽泛且考虑不周的举措。
我的结论：桑德斯的立法活动更像是政治姿态，而非现实的监管方案。在领先实验室实际上已跨越AGI能力门槛的情况下，没有全球协调的禁令措施注定失败。更具建设性的路径是OpenAI所选择的方向——放缓新模型的开发，转而深入分析风险，而非全面禁止，后者只会将创新推向透明度较低的司法管辖区。