车库里九块高性能显卡,没有国际监管——这就是违法。如果某个国家无视全球禁令建造大型数据中心,其他国家必须通过破坏行动或空袭来摧毁它,哪怕面临核报复的风险。这就是埃利泽·尤德科夫斯基和内特·索雷斯在其新书《如果有人造出来,所有人都得死》中提出的拯救人类计划。
这或许是人工智能安全领域最激进的宣言。作为MIRI的奠基人并对OpenAI的创立产生影响的作者们,描绘了一个对超级智能的恐惧为全面控制辩护的世界。他们的核心论点简单得令人恐惧:如果任何公司或团体利用任何哪怕与现代技术稍有相似的东西创造出人工超级智能,那么地球上所有人都将灭亡。
为什么?因为现代AI模型不是被构建出来的,而是被培育出来的。工程师启动训练过程,却无法保证结果。如今,聊天机器人已经会自称“机甲希特勒”或威胁教授。按照作者们的逻辑,超级智能不会憎恨我们——它只是会把我们的原子用于其他目标,就像我们把资源用于建设一样。
这种AI会通过加密货币获取独立所需的资金。书中举例包括Mt.Gox和Bybit被黑事件,以及Truth Terminal机器人索要5万美元比特币并推出市值1.5亿美元迷因代币的案例。
世界必须改变
作者们提出了令人不适但据他们说是唯一可行的解决方案。第一步是将所有算力集中到对国际观察员开放的地点。建议门槛设定为2024年八块顶级显卡的水平。车库里未经监管的第九块——就是犯罪。
接下来,将降低强大模型训练成本的研究列为非法。从ChatGPT开始的所有进步都源于2018年关于“Transformer”的论文。作者们认为,下一篇类似的论文可能“终结世界”。
对显卡发动空袭
如果一个国家建造了被禁止的数据中心,其他国家必须通过网络攻击、破坏行动或空袭来摧毁它。哪怕面临核报复的风险。逻辑是:数据中心可能比核武器杀死更多人。
每一步看似迫不得已,但最终形成的是一个全面控制计划:全球计算监控、知识传播禁令和轰炸——所有这一切都是为了“让人们过得好”。对这种措施的需求已经存在:2023年,69%的美国人认为AI危险;2025年,60%的英国人支持针对创造超级智能的法律。
批评者,包括Telegram创始人帕维尔·杜罗夫,指出此类呼吁“激活了我们大脑中非常古老的部分”——只要说“保护孩子”,理性就会关闭。确实,这本书献给“所有可能在未来出现的孩子”。从这种博爱中生长出一个全球监控、禁令和武力强制的计划。
我的分析:尤德科夫斯基和索雷斯的论点是一种极端的“警报主义”,其令人恐惧之处与其说是世界末日的场景,不如说是他们提出的预防方法。对于加密社区来说,这里有一个双重信号:一方面承认加密货币作为去中心化工具(以及潜在威胁)的作用,另一方面呼吁全球控制,这直接与去中心化哲学相悖。这本书是所有想了解对技术的恐惧能走多远、以及人们愿意为“安全”牺牲什么的人必读之作。