人工智能可能在五年内超越人类集体智慧,而人类完全失去对这一技术的控制只是十年内的问题。这一预测由xAI创始人埃隆·马斯克在近期一次采访中提出。
马斯克强调,未来人工智能几乎能在所有智力任务上超越人类。他表示:"除了作为人类本身,将没有任何事情是人工智能不能比人类做得更好的。"这位亿万富翁认为最可能的发展情景是"富足时代",预计到2036年,借助人工智能和机器人,人类将获得几乎无限的商品和服务。
与此同时,马斯克承认灾难性后果的风险并非为零。此前他估计人工智能导致人类灭绝的概率为10%至20%。但他并未主张放缓技术研发,而是建议领先的人工智能公司在公开发布模型前引入相互审查机制。按照他的设想,竞争实验室应识别模型危险能力,只有在严重风险被忽视时,监管机构才应介入。
对OpenAI转型的批评
在同一采访中,马斯克严厉批评了OpenAI从非营利组织向商业结构的转变。他表示,该项目最初是作为"面向全世界"的开放人工智能公司创建的,但最终变成了封闭的商业实体。对于Anthropic负责人达里奥·阿莫代伊,马斯克措辞较为温和,称其为"有原则的人",但强调即使是竞争对手之间也应在安全问题上进行合作。
我的分析:马斯克的预测尽管令人担忧,却反映了行业面临的真实困境。"富足时代"的理念听起来颇具吸引力,但它与马斯克本人评估为"非零"的风险密不可分。他提出的相互审查机制本质上是用市场控制机制替代政府监管的尝试。然而,这种模式的有效性仍存疑问,尤其是在人工智能领域竞争日益激烈的背景下。同样建立在去中心化基础上的加密货币市场,可以从这场讨论中汲取教训:创新与安全之间的平衡始终是一种妥协,而代价可能高得难以承受。