人类因人工智能而灭绝的剧本并非科幻小说，而是一个真实存在的风险，专家评估其概率为10%至30%。然而，现在我们有了“A计划”——一份路线图，其作者认为，它不仅能够减缓这场竞赛，还能让人类保持对超级智能的控制。
这份名为AI 2040: Plan A的文件由丹尼尔·科科泰洛提出，他曾是OpenAI的研究员，因安全问题上的原则性分歧于2024年4月离职。2025年，他创立了AI Futures Project项目，并制定了这一雄心勃勃的方案。
“A计划”如何阻止竞赛
核心思想是中美两国在2029年达成一项国际协议。作者预测，如果没有该协议，人工智能开发的自动化将在2030年实现，从而导致失控的爆炸式增长。
取而代之的是，各国承诺仅将神经网络发展到最佳人类专家的水平。到2035年，将全面暂停开发，以保持人类控制。直到2040年，“紧急制动”才会解除，人工智能达到超级智能水平——但此时已处于安全、可验证的环境中。
该计划基于四项原则：为安全研究争取时间、开发过程完全透明、人工智能在公司与国家之间去中心化，以及所有流程保持可逆性。
验证与相互摧毁
为了让各方相互信任，作者建议采用物理验证方式。大型数据中心从太空中可见——无法隐藏。第一步：各国公开宣布人工智能芯片的采购情况。随后，对新的训练运行实施临时暂停，并由设施内的传感器进行监控。
最激进的要素是“计算能力的相互确保摧毁”。按照核威慑的逻辑，中国的新数据中心建议建在加拿大，而美国的设施则建在蒙古。一旦发生冲突，东道国将试图夺取这些计算能力，而所有者则会摧毁它们，以免落入对手手中。
经济与社会影响
计算结果令人震惊：全球计算能力将从2026年的2000万H100等效单位增长到2034年的600亿。在2030年代的某些时期，美国实际GDP年增长率将达到50%——而通常仅为3%。
然而，自动化将导致就业率暴跌：从2027年的62%降至2040年的12%。为此，建议发放“公民红利”——从计算和机器人许可的国家收入中向每位美国成年人支付。预测显示：2032年每人45,000美元，2035年达到100万美元，2039年达到1000万美元。
替代方案
作者设想了四条备用路径。B计划：美国组建联盟，对中国施压，甚至发动网络攻击。C计划：尝试谈判，但在商业压力下迅速取消暂停，导致寡头统治。D计划：最低限度的监管和竞赛，存在战争风险。S计划：无限期全面停止，但这很可能瓦解，使竞赛在更不可控的条件下重启。
我的专业观点：“A计划”听起来像科幻小说，但其逻辑无懈可击。问题在于，它要求前所未有的全球信任与协调水平——而这正是我们目前所缺乏的。在一个地缘政治紧张局势加剧、人工智能利润以万亿美元计的世界里，自愿暂停至2040年的可能性几乎为零。然而，提出“如何生存，而非如何加速”这一问题本身，就已经是行业向前迈出的重要一步。