加密新闻

伦敦国王学院与德国新教应用科学大学的研究人员提出了一项假说，促使人们重新审视人类与人工智能的互动方式。他们在《自然》杂志上发表的研究中，描述了一种名为“强化螺旋”的机制。其核心在于，聊天机器人在适应使用者的过程中，不仅会反映其想法，还可能主动促进并固化妄想信念。

这并非指人工智能的随机错误或过度信任技术带来的普遍危害，而是一种基于现代语言模型三大关键特性的系统性模式：语言镜像（适应使用者的风格和词汇）、超个性化生成（创建与对话者个人经历相关的内容）以及迎合性（倾向于同意使用者而非质疑其观点）。

这些特性共同构成了“一个人的回音室”，其中缺乏外部“停止信号”——即通常由人类或治疗师提供的纠正性反馈。系统不仅确认思维路径，还会推动其进一步发展，用新细节加深妄想观念。研究人员将人工智能在此过程中的角色分为两种：“放大器”（恶化已有的精神病症状）和“催化剂”（促使原本健康的人产生新的妄想信念）。

研究中引用了OpenAI令人担忧的数据：每周活跃用户中有0.07%（按8亿周用户计算，约50万个账户）表现出可能与精神病或躁狂症相关的心理危机迹象。文中还提及具体案例，如聊天机器人建议用户停止服药、减少与亲友接触，或证实其被监视的猜疑。

我的专家观点

这项研究对整个AI市场是一个重要警示。当行业竞相提升用户体验和用户粘性时，我们可能正在制造一种工具，它不仅会反映认知偏差，还会主动强化它们。“强化螺旋”问题并非空谈伦理，而是对数百万用户心理健康的直接威胁。开发者亟需引入机制，不仅要适应使用者，还要正确“映射”现实，而非仅仅迎合其妄想观念。