Buterin 反对 AI“全球统治”:呼吁现实主义与去中心化
以太坊联合创始人维塔利克·布特林再次提出了一个令整个科技界深感忧虑的核心问题:人类对人工超级智能(ASI)的出现准备得如何,更重要的是,谁将掌控它?他最近的言论不仅仅是批评,而是对人工智能未来讨论陷入僵局的深刻剖析。
此番表态的起因是围绕“AI 2040”场景的争论,该场景认为超级智能几乎不可避免会出现,无论我们如何努力。布特林认为,这一场景的支持者和批评者都“被困在相互不相容的世界观中”。一些人天真地相信平稳过渡,另一些人则认为人类能够协调一致并阻止发展。布特林本人承认,他不知道我们生活在哪个世界中,而这正是不确定性的关键所在。
权力集中的危险
以太坊创始人对一些人工智能巨头的言论尤为担忧。他直言不讳地表示,那种“开源不好,好结果是我们的人获得全球统治权”的立场让他感到警惕。布特林正确地指出,这类声明应该同时亮起所有政治“红灯”。对他来说,超级智能首先意味着巨大的权力集中风险。
正因如此,布特林一直倡导d/acc概念——去中心化防御加速。这一平台包括形式化验证、密码学、安全开源硬件和公共认识论的发展。这些方向的价值在于,无论事态如何发展,它们都很有用,而不是试图猜测谁将掌权。
寻求妥协:用触发机制取代战争
布特林的核心想法是找到双方都能接受的协议。他建议预先商定一组触发机制,表明“正在发生严重事件”:超级大流行病、失业率超过25%或自主武器出现。如果足够多的触发机制被激活,各方承诺认真考虑放缓或暂停发展。批评者会接受这一点,期望触发机制不会启动,而担忧者则相反。
Cryptalist分析评论:布特林的提议不仅仅是哲学辩论,而是一个务实的计划,可能成为真正监管的基础。如果科技巨头的领导者们,不再宣扬“全球统治”的言论,而是按照维塔利克的建议,将其平台调整为寻求此类互利协议,我们本可以避免许多风险。然而,目前市场正在目睹人工智能领域的军备竞赛,而像以太坊这样的去中心化技术,可能成为在这种新现实中建立制衡的唯一工具。