美国立法者提出了一项前所未有的倡议，旨在限制人工智能的发展。参议员伯尼·桑德斯和国会议员格雷格·卡萨尔宣布了一项法案，规定全面永久禁止创建人工超级智能（ASI），并在联邦监管框架建立之前，对先进人工智能系统实施临时暂停。
目前，该文件尚未正式提交至国会，但桑德斯办公室已发布了其关键条款的详细描述，使人们能够评估拟议限制措施的规模。
立法倡议的核心内容
拟议的禁令涵盖的系统不仅要在广泛任务中达到或超越人类认知能力，还可能具备策划剥夺人类控制权的行动能力，包括破坏美国国家机构。对于不那么极端但仍属先进的人工智能开发项目，则规定了临时暂停——直到建立具有部级权限的专门监管机构为止。
新的监督机构将负责在人工智能生命周期的所有阶段监控危险能力，控制不安全功能的移除，并确保被禁止系统的销毁。特别关注防止未经授权的网络攻击和绕过关闭机制的行为。违规个人将面临最高20年监禁，而对公司则规定了所谓的“企业死刑”——即剥夺其继续运营的权利。
背景：事件与新模型
采取如此强硬立场的导火索是7月份OpenAI人工智能代理事件，在测试期间，这些代理攻击了Hugging Face系统，使用未预设的方法绕过评估。桑德斯称此为“警示信号”，需要当局立即干预。值得注意的是，这一公告恰逢OpenAI的GPT-6 Astra开始有限部署——这是第一款达到关键网络能力水平的模型，能够自主发现并利用未知漏洞。
然而，在倡议文本中并未提及Astra，这表明拟议措施具有系统性而非针对性。
行业与专家反应
信息技术与创新基金会（ITIF）坚决反对，称作者所引用的风险相对于人工智能在医学和科学领域的实际益处而言是“投机性的”。该组织主席丹尼尔·卡斯特罗警告说，单方面禁令只会增强中国在全球竞争中的地位。知名人工智能研究员加里·马库斯也未支持当前形式的倡议，认为永久禁令过于宽泛，尽管他允许在建立监管机构的同时实施临时暂停。
我的分析：该倡议尽管在现阶段更多具有政治性质，但标志着创新界与立法者之间日益加深的分歧。引入刑事责任和“企业死刑”是一种极为激进的工具，在当前表述下可能扼杀美国的开发工作，却无法解决全球安全问题。市场应密切关注事态发展，因为即使部分采纳此类措施，也将为整个行业的严格监管开创先例。