以太坊联合创始人维塔利克·布特林再次提出尖锐问题，声称他看不到任何通往人工超级智能（ASI）的合理过渡方案。在他看来，人类陷入了两种极端之间：对AI未来的"天真"和"天真到平方"的思维方式。
引发讨论的是围绕"AI 2040"场景的辩论，该场景预测到2040年几乎在任何情况下都会出现超级智能，除非付出巨大努力完全阻止其发展。布特林观察到，批评这一场景的人认为它在评估人类协调能力方面过于天真。然而，这位以太坊开发者本人指出了镜像问题：反对者同样天真地认为向ASI的过渡会顺利且无痛。
权力、开源与警示信号
布特林特别担忧一些大型AI公司的言论。他对一种论调感到不安，这种论调归结为："开源是坏事，而好的结果是让我们的团队获得全球统治权。"在以太坊创始人看来，在"正常"世界中，此类言论应该同时触发所有政治警示信号。他认为超级智能本身就是巨大的权力集中风险。
正因如此，布特林正在推广d/acc平台，该平台专注于发展形式化验证、密码学、安全开源硬件、流行病抵御能力和公共认识论。这一方向的价值在于，无论事态如何发展——无论是快速还是缓慢地迎来ASI——它都同样有用。值得注意的是，他积极评价了"AI 2040"场景，认为它对开源友好。
寻求折中方案：触发机制与暂停
作为走出僵局的出路，布特林建议提前商定一套触发机制，用于警示"正在发生严重事件"。例如超级流行病、失业率超过25%或出现自主武器。如果在约定时间内有足够多的触发机制被激活，各方将承诺认真考虑放缓或暂停发展。其思路是：批评者会接受这一点，因为他们预期触发机制不会启动；而担忧者则会相反。
布特林还向科技巨头掌门人喊话，假设如果他是埃隆·马斯克或马克·扎克伯格，他会改造社交平台以寻找此类互利协议。不过，他本人也承认这一想法有些天真。
我的分析：布特林的立场是罕见的案例——一位加密行业领袖不仅提出批评，还提供了具体的风险管理机制。触发机制与暂停的想法，本质上是尝试将智能合约和去中心化治理原则应用于全球性AI问题。这可能成为双方基于各自当前信念都能接受的"协议"，尽管原因各不相同。而目前我们看到的仍是经典僵局：双方都不愿让步，赌注却与日俱增。