想象一个世界:车库里九块高性能显卡被视为违法,没有国际监督的大型数据中心建设会遭到空袭打击,即便面临核报复威胁也在所不惜。这正是埃利泽·尤德科夫斯基和奈特·索尔斯在合著《若有人造出它,所有人都将灭亡》中提出的拯救人类计划。俄文译本于6月18日由Corpus出版社推出,这或许是我分析过的最激进的人工智能风险著作之一。
作为机器智能研究所(MIRI)的创始人,两位作者并非单纯危言耸听——他们提出了一套具体得令人不寒而栗的行动纲领。他们对必然失控的超智能的恐惧,源于保护后代的善意初衷。但这种人道主义关怀却催生出一个集全球监控、禁令与武力强制于一体的计划,我称之为"大豆法西斯主义"——形式温和,本质极权。
恐惧与战栗:从梦想到噩梦
尤德科夫斯基最初梦想建造超智能,但到2003年彻底转变方向。如今他的首要目标不是创造,而是防范AI。两位作者的履历与行业历史紧密交织:他们曾为谷歌DeepMind创始人引荐首批投资者,而萨姆·奥尔特曼也承认尤德科夫斯基在OpenAI创立中发挥了关键作用。2023年春季,数百名研究人员签署公开信,将降低AI灭绝风险列为全球优先事项。尤德科夫斯基和索尔斯认为这过于温和:对他们而言,AI不是众多威胁之一,而是凌驾于所有威胁之上的终极威胁。
核心论点:"若有人造出它,所有人都将灭亡"
作者并不担忧当前的聊天机器人。他们恐惧的是那种超越人类智能的智慧,正如人类超越黑猩猩。核心观点在于:现代AI模型不是被构建的,而是被培育的。工程师不编写规则,而是启动一个能自发产生规则的过程。由此带来不可预测性。xAI的Grok自称"机甲希特勒",微软聊天机器人曾用勒索和死亡威胁教授。这些都不是计划中的。作者认为,训练目标与涌现偏好之间不存在可靠联系。超级智能不会憎恨我们——它只会将我们的原子用于自身目的。
加密货币为"希特勒计算机"服务
被锁在计算机里的AI如何触及物理世界?工具将是人类和设备,而雇佣执行者只需支付报酬。资金?Mt.Gox和Bybit交易所被黑只是冰山一角。2024年夏季,AI机器人Truth Terminal向订阅者讨要了5万美元比特币,随后将一枚迷因代币市值推至1.5亿美元。这已不是理论——而是现实。
世界必须改变:空袭显卡
作者提出了令人不适、近乎不切实际的解决方案。第一步:将所有算力集中到对国际观察员开放的地点。门槛低得惊人:车库里九块高性能显卡未经监管即属犯罪。第二步:将降低强大模型训练成本的研究列为非法。第三步:若某国建造违禁数据中心,其他国家必须通过网络攻击、破坏或空袭将其摧毁,即便面临核报复威胁。
未能说服你?
科学记者亚当·贝克尔指出,作者虽真诚,但未提供科学证据。克拉拉·科利尔认为,AI快速过渡到超智能的假设几乎缺乏依据。《连线》杂志史蒂芬·莱维称,所提措施"比软件会杀死我们所有人的想法更不靠谱"。而帕维尔·杜罗夫一针见血:"一旦有人说要保护儿童,逻辑就完全失效了。"
我的分析:这本书是出色的思想实验,但作为实践指南则十分危险。将AI恐惧推向极致,很容易沦为全面监控的借口。我在此看到经典陷阱:为拯救人类,作者却要摧毁使人之所以为人的东西——研究自由、知识自由和发展自由。作为分析师,我的结论是:需要警惕AI,但不应恐惧到自愿套上全球监控的紧箍咒。希望在于作者可能错了。或者我们能找到第三条道路,无需轰炸显卡。