前OpenAI研究员丹尼尔·科科泰洛因在安全问题上存在分歧，于2024年4月离开公司。如今他提出了一项雄心勃勃的新方案，旨在拯救世界免受超级智能的威胁。这份名为《AI 2040：A计划》的文件提议达成一项国际协议，将人工智能竞赛推迟至2040年，从而降低灾难性后果的风险。
计划核心：暂停至2040年
关键思路是美中两国在2029年达成协议，放弃加速开发超级智能。取而代之的是，各国将逐步发展神经网络，使其达到人类顶尖专家的水平。到2035年，发展将完全暂停，以确保人类对系统的控制权。直到2040年，暂停才会解除，人工智能达到超级智能水平。这为安全研究赢得了时间，并防止了自动化开发——据估算，自动化开发原本会在2030年发生。
四项原则与验证机制
该计划基于四大支柱：为安全争取时间、开发完全透明、在不同国家和公司之间分配人工智能、以及保持过程的可逆性。为确保信任，计划提出使用卫星验证——大型数据中心从太空中可见。第一步：各国公开声明芯片采购情况，随后通过传感器确认，对模型训练实施临时暂停。在信任得到确认后，限制将被解除，但研究仍保持完全透明。
防止协议破裂的保障是“计算能力的相互确保摧毁”——类似于核威慑。计划建议中国的新数据中心建在加拿大，美国的数据中心建在蒙古，以便在冲突发生时更容易摧毁，而非落入对手之手。
经济影响：GDP增长与公民红利
计算显示，全球计算能力将从2026年的2000万H100等效单位增长至2034年的600亿。美国GDP在2030年代的某些时期实际年增长率可能达到50%，但就业率将从2027年的62%下降到2040年的12%。为弥补这一损失，计划提出引入“公民红利”——从计算和机器人许可的国家收入中支付。预测令人震惊：到2032年，每人红利为4.5万美元；到2035年，为100万美元；到2039年，则为1000万美元。
替代方案：从战争到寡头统治
作者将A计划与其他四种发展路径进行了对比。B计划——美国组建联盟，对华施压甚至发动网络攻击，导致战争。C计划——尝试谈判，但在公司压力下解除暂停，可能引发永久性寡头统治。D计划——最低限度监管与竞赛，导致失控和第三次世界大战。S计划——完全无限期停止，但可能瓦解并在混乱中重启竞赛。
作为分析师的评论：提出的方案看起来有些乌托邦，尤其是在“相互确保摧毁”和在盟国领土上建设数据中心方面。然而，它提出了一个至关重要的问题：当赌注如此之高时，人类能否自愿放弃对超级智能的竞赛？该计划的现实性令人怀疑，但问题本身就是一个不容忽视的信号。