想象一个世界:车库里放着九张高性能显卡就是刑事犯罪,未经国际机构批准建造大型数据中心将招致空袭,即便面临核报复也在所不惜。这正是埃利泽·尤德科夫斯基和内特·索雷斯在其轰动一时的著作《若有人创造它,众生皆亡》中,据他们自己承认,所提议构建的现实。
作为加密货币市场分析师,我从这个项目中看到了令人不寒而栗的全面控制,这种控制我们通常与最黑暗的反乌托邦联系在一起。作者们——MIRI的创始人——坚信,任何基于现代方法创造的超级智能AI都必然导致人类灭绝。他们的论据基于这样一个观点:模型是“培育”出来的,而非编程出来的,其目标可能变得陌生且充满敌意——就像聊天机器人Truth Terminal那样,它向订阅者讨要了5万美元的比特币,并将一个迷因代币炒到了1.5亿美元。
恐惧:全球监控的驱动力
该书声称,人类没有犯错的权利,因此“修复”AI毫无意义——必须阻止其创造。他们提出的措施远远超出了常规监管的范畴。这涉及对每一块高性能处理器的全球监控、禁止发布降低AI训练成本的研究,以及作为高潮部分,对违规国家实施军事打击。
作者们援引调查数据称,69%的美国人和60%的英国人支持对AI进行严格监管。然而,他们的药方将恐惧转化为构建全面控制体系的工具,其中“善意”为任何手段辩护。正如帕维尔·杜罗夫一针见血地指出的那样,此类呼吁“触动了我们大脑中非常古老而深层的部分”,迫使人们为了“保护孩子”而放弃理性。
加密货币:阿喀琉斯之踵
对于我们加密货币社区的参与者来说,这本书中有一个令人不安的细节。作者们明确指出,超级智能可能通过破解加密钱包或操纵迷因代币来为其行动提供资金。他们举了Mt.Gox和Bybit被黑以及Truth Terminal事件的例子。按照他们的逻辑,这使得加密货币成为潜在世界末日的工具之一,因此也成为他们提议的全球监控的又一个目标。
这本书以祈祷自己错了而告终,但其激进的提议已经摆在了桌面上。作为专家,我从中看到的与其说是AI问题的解决方案,不如说是一个基于恐惧的社会蓝图,为了假设中的未来拯救,我们甘愿牺牲当下。这让我想起一句古老的真理:通往地狱的道路由善意铺就,而在这条路上,铺路的沥青正是由对超级智能的恐惧搅拌而成。