Anthropic负责人承认：AI行业未能兑现承诺，而这正是信任危机的根源
对人工智能行业的主要批评不在于对奇点或机器叛乱的恐惧，而在于宏大承诺的落空。Anthropic首席执行官达里奥·阿莫代伊发表了这一声明，将社会对技术热情的降温与数十年来积累的深层系统性信任危机联系起来。
引发讨论的是投资者加文·贝克的一篇帖子，他指责阿莫代伊的言论过于悲观。贝克认为，这位正准备成为全球最重要上市公司之一的初创公司掌门人，应该转向更积极的语气。阿莫代伊在X平台上发布了一系列长篇回复，强调仅靠营销手段已无法解决问题。
争论核心：言辞重要还是行动重要？
阿莫代伊坚持认为，他对技术的风险和优势给予了同等关注。作为积极议程的例子，他提到了自己的文章《慈悲机器》，其中描述了强大人工智能在医学和经济领域的潜力。然而，他回应的核心论点是承认行业自身的过错。
“我认为根本问题在于信任危机。普通人不信任公司、政府或科技行业，总是怀疑我们在想方设法欺骗他们。”
他表示，对Anthropic及其同类公司最公正的批评不是关于安全性的讨论，而是缺乏实际成果。“这完全是我们自己的责任。这才是我们应该被批评的地方，而不是因为宣传和营销。”阿莫代伊写道。
“唯一有效的方法——真正治愈癌症”
Anthropic首席执行官认为，关于人工智能在医疗领域革命的承诺已沦为陈词滥调，被视为欺骗。只有通过实际行动才能改变现状。他宣布将加强在生物学和医学领域的工作，承诺未来几年将取得“令人难以置信的成果”，但未透露具体细节。
然而，并非所有人都认同这一愿景。著名研究员扬·勒昆回应称，他十年来一直在倡导唯一正确的道路——开放和可获取的技术。按照他的类比，人工智能就像印刷机或互联网一样，增强人类智能，因此我们需要系统的多样性，而非集中化。他还引用了马克·扎克伯格的立场，后者认为人工智能危险到需要极端权力集中的想法本身就有问题。
这一方法直接与Anthropic的政策相悖，后者虽不主张完全禁止开放模型，但坚持随着系统能力增强而提高安全要求。
OpenAI的GTM专家安吉尔·布罗丁表达了不同观点。她提到制药行业：医学领域的真正突破并未使其免于低信任度。在她看来，人们对人工智能的态度不仅取决于技术，还取决于定价、透明度和经济利益的分配。
我的分析：阿莫代伊无疑是对的，行业确实过度抬高了预期。但他关于“治愈癌症就够了”的论点简化了问题。信任是一个综合产物，不仅包括科学成就，还包括实施伦理、社会责任和分享权力的意愿。当人工智能巨头争论风险时，社会等待的不是言辞，而是明确的游戏规则，让技术对所有人安全有益，而不仅仅是对股东。