以太坊联合创始人维塔利克·布特林再次成为关于人工智能未来讨论的焦点。这一次，他的批评指向了人工智能行业的巨头们，他认为这些公司的野心近乎于"统治世界"的梦想。布特林表示，他看不到任何清晰且现实的计划来管理向人工超级智能（ASI）的过渡。据他所说，人类陷入了两种情景之间："天真"和"天真的平方"。
此番言论的起因是围绕"AI 2040"预测情景的讨论，该情景假设到2040年，几乎在任何发展情况下都会出现超级智能。布特林认为，这一情景的批评者天真地认为人类能够协调一致并阻止这一进程。然而，他强调，这些批评者自身并未意识到自己的天真，他们假设向ASI的过渡会顺利且无痛。
布特林指出，批评者的立场只有在人工智能仍是"普通技术"的世界中才有意义。但在超级智能可能早在2030年就出现的世界里，这种立场经不起任何推敲。他本人承认自己处于不确定状态：如果他对其中任何一种情景有信心，他就会加入相应的阵营。但目前，他并不清楚人类生活在哪个世界中。
对权力集中的担忧
布特林还特别表达了对一些大型人工智能公司言论的不适。他对诸如"开源不好，好的结果是我们的团队获得全球统治权"这样的说法感到警惕。在他看来，在"正常"的世界里，这样的声明应该同时触发所有政治警报。
布特林认为超级智能本身是权力集中的巨大风险。正因如此，他推广了一个名为d/acc的平台，该平台包括形式化验证、密码学、安全开源硬件、流行病抵御能力和公共认识论的发展。这些方向的价值在于，它们在未来的两种情景中都有用。
如何找到妥协
以太坊开发者认为关键在于找到双方都能接受的协议。"成功的协议是双方基于当前信念（尽管原因不同）都能接受的安排，"布特林表示。
他建议提前商定一组触发条件，用于指示"正在发生严重事件"。他列举的例子包括超级流行病、失业率超过25%或自主武器的出现。如果在约定时间内有足够多的触发条件被激活，双方将提前同意更认真地考虑放缓或暂停。
布特林还向科技巨头领导人喊话，假设如果他是埃隆·马斯克或马克·扎克伯格，他会重新调整社交平台，以寻找此类互利协议。不过，他承认这个想法也很天真。
分析师观点：布特林的立场是人工智能讨论中理性方法的罕见例子。他没有站在任何一方，而是提出了一种在任何情景下都可能有效的机制。对于加密货币社区来说，这尤其宝贵：布特林所倡导的去中心化和开源原则，可以成为构建安全未来的基础，无论奇点是明天到来还是20年后。