特斯拉和SpaceX的掌门人埃隆·马斯克出人意料地加入了关于人工智能未来的讨论，支持Anthropic首席执行官达里奥·阿莫代伊。在阿莫代伊发表长篇声明、为自己免受过度悲观指责进行辩护后，马斯克几乎立即做出了回应。这位亿万富翁的反应——“有趣的对话”——标志着硅谷最具影响力的人物也开始重新审视自己对超级智能发展风险的看法。
阿莫代伊为何坚持强调风险？
这场争论源于投资者加文·贝克的批评，他对阿莫代伊言论的一致性提出质疑，认为其过于危言耸听。然而，阿莫代伊反驳称自己的立场绝非片面。他强调，他的文章《仁爱机器》聚焦于人工智能的优势，而短篇采访中的悲观预测只是冰山一角，目的是吸引受众关注。
在阿莫代伊看来，关键问题在于社会对科技企业和政府机构根深蒂固的不信任。这种数十年来积累的不信任自然而然地延伸到了人工智能领域。正因如此，他坚持要求对主流模型进行强制测试，而非依赖自愿承诺，同时他还向七国集团发出警告，指出监管碎片化在国家层面带来的危险。
“对包括Anthropic在内的人工智能公司最公正的批评是——我们至今仍未兑现最重要的承诺：为世界带来益处，”阿莫代伊表示。
马斯克与“善良”人工智能的哲学
马斯克不仅赞同阿莫代伊，还深化了这场争论的哲学层面。他几乎逐字复述了纳瓦尔·拉维坎特的观点：“你不能创造一位神，然后把它拴在皮带上。”在他含蓄的承认——“我希望人工智能对我们友善”——背后隐藏着一个令人不安的警告：如果人类失去对超级智能的控制，我们只能寄望于它的善意。
有趣的是，马斯克长期以来一直对Anthropic抱有好感，批评OpenAI的封闭性。他在阿莫代伊的方法中看到了另一条发展路径。然而，这场讨论也暴露了分歧：阿莫代伊支持加利福尼亚州的SB 53法案，而马斯克认为该法案可能具有潜在危险，因为它可能导致权力集中在大型企业手中，同时免除营收低于5亿美元公司的合规要求。
阿莫代伊则提出了两条路径：要么像特朗普政府所建议的那样对模型进行预测试，要么建立一个类似FINRA的独立监管机构。但最重要的是，他回归到自己雄心勃勃的目标：人工智能能在5至10年内攻克大多数疾病。这个目标对他而言具有个人意义：他的父亲死于丙型肝炎。然而，他避免高调口号，深知真正有价值的不是承诺，而是具体的治疗成果。
我的分析：市场尚未完全意识到，马斯克与阿莫代伊之间的讨论不仅仅是两位技术官僚的争论。这是范式转变的标志：从无节制的乐观转向务实的风险管理。对于经常与人工智能项目交叉的加密行业而言，这是一个监管即将收紧的信号。那些无法证明自身安全性和透明度的项目将面临困境。投资者应更仔细地审视的不仅是技术炒作，还有其是否符合未来的监管要求。