以太坊联合创始人维塔利克·布特林再次闯入公众讨论，但这一次他的批评并非针对区块链行业，而是指向人工智能巨头的野心。在他看来，人类陷入了两种天真发展场景之间的死胡同，而这两种场景都没有提供向人工超级智能（ASI）过渡的实际管理方案。
引发此番言论的，是关于“AI 2040”预测的讨论。该预测认为，除非付出巨大努力彻底阻止，否则到2040年超级智能几乎在任何情况下都会出现。布特林指出，这一场景的批评者称其天真地高估了人类的协调能力。然而，这位开发者本人却指出了批评者自身的天真：他们默认向ASI的过渡会一帆风顺。
布特林强调，怀疑论者的立场只有在AI仍是“普通技术”的世界里才有意义。但在超级智能可能在2030年就出现的世界里，这种立场经不起推敲。他坦言自己并不确定：如果他对任何一种场景有把握，就会加入相应的阵营。但目前他还不清楚我们生活在哪个世界中。
“开源不好”的言论令人担忧
布特林对大型AI公司言论的批评尤其值得关注。他对那种“开源不好，好结果就是让我们的团队获得全球主导控制权”的论调感到不安。在他看来，这类言论在“正常”世界里应该同时触发所有政治警报。
布特林将超级智能本身视为巨大的权力集中风险。正因如此，他推动d/acc平台，该平台包括形式化验证、密码学、安全开源硬件、流行病抵御能力和公共认识论的发展。这些方向的价值在于，它们在未来两种场景下都同样有用。
妥协方案：暂停触发器
布特林认为其立场的关键在于寻找双方都能接受的协议。他建议预先商定一组触发器，用于警示“严重事件发生”：如超级流行病、失业率超过25%或自主武器出现。如果在约定时间内有足够多的触发器被触发，各方应承诺认真考虑放缓或暂停。
按照他的设想，批评者会接受这一点，因为他们预计触发器不会触发；而担忧者也会接受，因为他们预计情况相反。布特林向科技巨头领导人喊话，承认如果自己是埃隆·马斯克或马克·扎克伯格，他会重新调整社交平台，以寻找此类互利协议。但他随即补充说，这个想法本身也很天真。
我的分析：布特林的立场是技术巨头梦想全面控制的世界中罕见的务实人文主义范例。他的触发器理念试图在全球层面引入“紧急停止”机制，这可能是加速发展与灾难之间唯一合理的妥协。然而，正如维塔利克本人承认的那样，这种做法的天真恰恰凸显了问题的深度。