Buterin警告：AI巨头梦想“统治世界”，人类陷入两种天真之间
以太坊联合创始人维塔利克·布特林再次介入关于人工智能未来的讨论，他的言论并非简单的批评，而是对当前困境的深度分析。他表示，自己看不到任何切实可行的方案来管理向人工超级智能（ASI）的过渡。在他看来，人类正面临两种选择："天真"和"天真的平方"。
此番言论的起因是围绕"AI 2040"预测场景及其批评者的争论。布特林指出，双方在AI发展速度问题上"陷入了彼此无法兼容的世界观"。按照"AI 2040"场景，除非付出巨大努力完全阻止其发展，否则超级智能几乎必然在2040年前出现。而批评者则认为这种预测过于天真，高估了人类的协调能力。但在布特林看来，批评者自身也表现出天真，他们默认向超级智能的过渡会自然而然地顺利且无冲突地实现。
布特林强调，批评者的立场仅在AI仍是"普通技术"的世界里才有意义。然而，在超级智能可能在2030年前就出现的世界里，这种观点经不起推敲。维塔利克本人承认自己处于深度不确定之中：如果他对任何一种场景有把握，他就会加入相应的阵营。但目前他并不清楚人类生活在哪个世界里。
对权力集中的担忧
布特林还特别表达了对某些大型AI公司言论的不适。令他警惕的是这样一种论调："开源不好，好的结果是让我们的团队获得全球主导控制权。"他认为，在"正常"的世界里，这类言论应该同时触发所有政治警报。
布特林将超级智能本身视为权力集中的巨大风险。正因如此，他推动d/acc平台，该平台涵盖形式化验证、密码学、安全开源硬件、抗流行病能力和公共认识论等领域的发展。这些方向的价值在于，无论未来出现哪种场景，它们都同样有用。
如何寻找折中方案
这位以太坊开发者认为，关键在于找到双方都能接受的协议。"成功的协议是双方基于各自当前信念——即使出于不同原因——都能接受的安排，"他指出。
布特林建议提前商定一组触发条件，用于警示"严重事件正在发生"。他举例包括超级流行病、失业率超过25%或自主武器的出现。如果在约定时间内有足够多的触发条件被激活，双方应事先同意认真考虑放缓或暂停。按照他的设想，批评者会接受这一方案，因为他们预期触发条件不会生效；而担忧者则会接受，因为他们预期情况恰恰相反。
在向科技巨头掌门人喊话时，布特林承认，如果他身处埃隆·马斯克或马克·扎克伯格的位置，他会改造社交平台，以寻找此类互利共赢的协议。但他随即补充道，这个想法本身也很天真。
Cryptalist分析评论：布特林的立场是AI竞赛混乱中罕见的系统性思维案例。他提出的触发条件方案，本质上是在尝试将智能合约原则应用于全球风险管理。而目前，市场和开发者都执着于速度，忘记了在无规则竞赛中，胜利者可能最终发现自己身处一个空旷且充满辐射的世界。