以太坊联合创始人维塔利克·布特林再次明确了他对人工智能发展的原则性立场。这一次，他的批评矛头直指那些大型AI公司，他认为这些公司的野心近乎公开梦想"统治世界"。讨论的核心是"AI 2040"情景，布特林认为，这一情景代表了在向人工超级智能（ASI）过渡的管理方式上，在"天真"与"天真的平方"之间的选择。
根据我的分析，争论的实质在于对AI发展速度和风险认知的根本性分歧。"AI 2040"情景假设，除非人类付出巨大努力完全阻止它，否则到2040年ASI几乎在任何情况下都将成为现实。布特林观察到，这一情景的批评者指责其天真地相信人类的协调能力。但这位开发者本人反驳道：他们才是天真的，因为他们认为向ASI的过渡会默认顺利且无冲突地进行。
布特林强调，批评者的立场只有在AI仍然是"普通技术"的世界里才有意义。然而，在ASI可能在2030年之前就实现的世界里，这种批评根本经不起推敲。维塔利克本人承认存在不确定性：他无法确定我们生活在哪个世界中。如果他确信其中任何一个情景，他就会加入相应的阵营。这一承认对市场来说是一个关键信号：即使是行业内的顶尖头脑，对未来也没有统一的愿景。
对权力集中的担忧
布特林特别担心的是OpenAI等巨头公司的言论。令他警惕的是这样一种论调："开源是坏事，好的结果是让我们的团队获得全球统治权"。在他看来，在"正常"的世界里，这样的声明应该同时触发所有政治警报。他本人将超级智能视为一种巨大的权力集中风险。
正因如此，布特林一直在推动d/acc（防御性加速）平台。这一概念包括发展形式化验证、密码学、安全的开源硬件、流行病抵御能力和公共认识论。这些方向的价值在于，无论未来AI发展是快是慢，它们在这两种情景下都很有用。值得注意的是，维塔利克对"AI 2040"计划变得更加支持开源，甚至规定使用开源的做法给予了积极评价。
寻求妥协
布特林认为其策略的关键要素是寻求双方都能接受的协议。他建议提前商定一组触发条件，用于表明"正在发生严重的事情"。他举例包括超级流行病、失业率超过25%或出现自主武器。
如果在约定时间内有足够多的此类触发条件被激活，各方将提前同意认真考虑放缓或暂停发展。其想法是，批评者会接受这一点，因为他们预计触发条件不会生效，而担忧者则预期相反。布特林甚至向科技巨头的负责人喊话，称如果他处在埃隆·马斯克或马克·扎克伯格的位置，他会重新调整社交平台，以寻找此类互利协议。不过，他本人也承认，这个想法同样天真。
我的分析：布特林的立场本质上是在呼吁对ASI风险管理进行去中心化。在加密货币和区块链提供替代治理模式的世界里，他对AI巨头的批评不仅仅是一场哲学辩论，更是对分布式权力基本原则的捍卫。市场应密切关注d/acc的发展，因为这些技术可能成为连接加密世界与AI安全发展的桥梁。