以太坊联合创始人维塔利克·布特林就人工智能的未来展开激烈辩论，声称他看不到任何通往超级智能（ASI）的清晰过渡路径。在他看来，人类陷入了"天真"与"双重天真"两种发展选项之间的困境。
此番言论的起因是围绕"AI 2040"预测场景及其批评者的争论。布特林强调，冲突双方在人工智能发展速度问题上"被困在相互矛盾的认知框架中"。
争论核心：速度 vs. 控制
"AI 2040"场景预测，除非付出巨大努力完全阻止，否则超级智能几乎在任何情况下都将在2040年前出现。而据这位开发者观察，批评者称这种预测在评估人类协调能力方面过于天真。但布特林指出，批评者自身也未能察觉，他们默认向ASI过渡会顺利进行的假设同样天真。
批评者的立场只有在人工智能仍属于"普通技术"的世界里才有意义。但在超级智能可能在2030年前就出现的世界里，这种立场经不起推敲。布特林坦言自己处于不确定状态：如果他确信其中任何一种场景，就会加入相应阵营。但目前他无法判断人类究竟生活在哪种世界中。
对权力集中的担忧
大型人工智能公司的言论尤其让布特林感到不安。他对"开源不好，好结果是让我们的团队获得全球主导控制权"这类论调保持警惕。在他看来，在"正常"世界里，此类声明应该同时触发所有政治警报。
布特林将超级智能本身视为巨大的权力集中风险。正因如此，他推动d/acc平台，包括发展形式验证、密码学、安全开源硬件、流行病抵御能力和公共认识论。这些方向的价值在于，它们在未来两种场景下都同样有用。
寻求妥协方案
这位以太坊开发者认为，关键在于找到双方都能接受的协议。"成功的协议是双方基于当前信念（尽管出于不同原因）都会接受的安排，"布特林指出。
他提议预先商定一组触发条件，用于警示"严重事件正在发生"——例如超级流行病、失业率超过25%或自主武器出现。如果在约定时间内触发足够多的条件，双方预先同意认真考虑放缓或暂停。
按照布特林的设想，批评者会接受这一点，因为他们预期触发条件不会生效；而担忧者则会接受，因为他们预期相反的结果。他还特别向科技巨头负责人喊话，表示如果自己是埃隆·马斯克或马克·扎克伯格，会重新设计社交平台以寻找此类互利协议。不过他也承认，这个想法同样天真。
专家观点：布特林的立场是人工智能竞赛行业中罕见的理性视角，该行业要么被技术乐观主义主导，要么被恐慌情绪笼罩。他提出的触发条件方案，是尝试将智能合约逻辑引入ASI风险管理。然而，与DeFi的情况类似，关键问题在于——当赌注真正变得极高时，谁来控制预言机并确保协议执行？