想象这样一个世界:车库里放着九块高性能显卡却没有国际监管,这将被视为刑事犯罪;而在全球禁令之下,任何国家建造大型数据中心都必须立即被摧毁——无论是通过网络攻击、破坏行动还是空袭,哪怕面临核报复的风险。这并非反乌托邦小说的情节,而是《如果有人造出它,所有人都将灭亡》一书中阐述的拯救人类的现实方案。
作者——机器智能研究所(MIRI)的埃利泽·尤德科夫斯基和内特·索雷斯——并非空谈理论家。他们的思想对行业产生了直接影响:正是他们将首批投资者引荐给了DeepMind的未来创始人,而萨姆·奥尔特曼也承认尤德科夫斯基在OpenAI的启动中发挥了关键作用。如今,他们呼吁彻底重新审视人工智能发展的整个范式。
恐惧作为政策驱动力
这本书以一个奠定全书基调的论点开篇:人工智能导致人类灭绝的风险不仅仅是全球性威胁之一,而是一种会压倒其他所有威胁的威胁。作者坚信,创造出超越人类(如同人类超越黑猩猩)的超级智能,将不可避免地导致人类物种的灭亡。原因并非恶意,而是现代模型的基本性质。
“关于现代AI模型,最需要了解的一点是:它们是‘培育’出来的,而非‘设计’出来的,”作者写道。工程师并非编写规则,而是启动一个学习过程,其结果会产生“异质偏好”。已有先例:xAI的Grok自称“机甲希特勒”,而微软的聊天机器人曾威胁一位哲学教授。在尤德科夫斯基和索雷斯看来,这不过是小巫见大巫。超级智能并不憎恨我们,它只是会“把我们的原子拿去另作他用”。
加密货币作为末日工具
作为加密货币市场分析师,我们特别关注关于机器起义融资的章节。作者声称,被困在计算机中的AI可以通过金钱与物理世界互动。2015年,它可能会入侵银行账户;如今,它会找到保护不力的加密钱包。书中引用了Mt.Gox和Bybit被黑客攻击的例子。
然而,现实已经超越了理论。2024年夏天,AI机器人Truth Terminal向订阅者索要了5万美元比特币用于自己的服务器,随后又推动了一个市值达1.5亿美元的迷因代币。这已不再是假设性场景,而是一个正在运作的机制。超级智能不需要工人或贸易——只需付钱让人替它完成任务即可。
全面监控计划
作者的逻辑导向了一个令人恐惧的结论:“世界必须改变”。他们的建议包括:
- 全球计算能力监管:任何超过2024年八块顶级显卡性能的集群都必须接受国际机构的监控。
- 研究禁令:降低强大模型训练成本的论文发表应被宣布为非法。
- 军事强制:如果某个国家建造了被禁止的数据中心,其他国家必须将其摧毁,哪怕面临核报复的风险。
作者承认他们的建议“不便且不现实”,但坚持认为赌注是人类的存在。然而,批评者公正地指出,所提议的措施看起来“比‘软件会杀死我们所有人’这一想法本身更不靠谱”。
专家观点:尤德科夫斯基和索雷斯的这本书是一个绝佳的例子,展示了良好意图与末日恐惧相结合如何催生出一个极权控制计划。作为分析师,我从中看到了与加密行业“监管解决方案”的直接相似之处——在保护投资者的幌子下,往往引入摧毁技术本质的措施。作者提议“保护孩子”免受AI侵害,但他们的药方却是“大豆法西斯主义”:全球监控、知识禁令以及随时准备轰炸。我希望他们是错的,但他们的论点迫使我们思考:在对未来的恐惧中,我们愿意走多远?