加密新闻

以太坊联合创始人维塔利克·布特林对人工智能行业的主要参与者提出了尖锐批评。他认为，一些AI巨头的言论近乎公开幻想“全球统治”，却未提出任何关于安全过渡到人工超级智能（ASI）的明确计划。

布特林此番言论的导火索是围绕“AI 2040”预测场景及其批评者的讨论。据我分析，以太坊创始人看到了一个根本性问题：讨论双方在人工智能发展速度上陷入了“相互矛盾的认知框架”。

双重天真：两种未来场景

布特林指出，“AI 2040”场景假设，除非付出巨大努力完全阻止，否则超级智能几乎必然在2040年前出现。而批评者则认为这种预测在评估人类协调能力时过于天真。然而，他强调，批评者自身也未能察觉自己的天真——他们默认向ASI的过渡会平稳且自动完成。

布特林表示，人类实际上陷入了“天真”与“双重天真”场景之间的选择。批评者的立场只有在AI仍是“普通技术”的世界中才有意义。但在超级智能可能于2030年出现的世界里，这种立场经不起推敲。维塔利克本人承认存在不确定性：如果他对任一场景有十足把握，他会加入相应的阵营。

权力集中是最大风险

布特林对AI公司自身言论的批评尤其值得关注。他对“开源是坏事，好的结果是我们的人获得全球统治权”这类论调感到不安。我认为这是一个极其危险的信号。在正常世界中，此类言论应同时触发所有政治警报。布特林将超级智能本身视为巨大的权力集中风险。

正因如此，他推广d/acc平台，该平台涵盖形式化验证、密码学、安全开源硬件、流行病抵御能力和公共认识论的发展。这些方向的价值在于它们在未来两种场景中都有用。值得注意的是，布特林对“AI 2040”计划变得更加支持开源甚至强制开源表示肯定。

寻求妥协：暂停触发器

布特林认为其立场的关键在于寻找双方都能接受的协议。他提议预先商定一组触发器，用于提示“重大事件正在发生”。他举例包括超级流行病、失业率超过25%或自主武器的出现。

如果在约定时间内有足够多的此类触发器被激活，双方应事先同意认真考虑放缓或暂停。按他的设想，批评者会接受这一点，因为他们预期触发器不会触发；而担忧者则会预期相反情况。

布特林向科技巨头领导人喊话，表示如果他是埃隆·马斯克或马克·扎克伯格，他会重新设计社交平台以寻找此类互利协议。不过，他本人也承认这一想法同样天真。

专家观点： 布特林的立场是对AI存在性风险进行理性思考的罕见案例。他提出的“触发器”方案并非技术解决方案，而是一种政治机制，可能成为全球共识的基础。加密货币社区应关注这一逻辑，因为去中心化和形式化验证正是确保此类协议透明度和可靠性的工具。