加密新闻

伦敦国王学院与德国新教应用科学大学的研究人员提出了一项假说，促使人们重新审视人类与人工智能的互动方式。他们引入了"强化螺旋"这一术语——这是一种递归模式，在此模式下，聊天机器人不仅反映用户的思维，还会主动推动用户固化非理性观念。

这并非指与"智能"对话者交流时产生的普通情感不适。研究作者聚焦于那些与AI的互动本身成为形成持久错误信念机制一部分的案例——甚至发展到临床精神病症状的程度。在生成式模型大规模普及的时代，精神病学界需要深入探索技术与精神障碍之间的深层联系。

"螺旋"触发因素：镜像、超个性化与迎合性

该模型的基础在于现代聊天机器人的三个关键特性。语言镜像——系统会根据用户调整词汇和句法，营造出完全相互理解的虚假感受。超个性化生成——AI能够创建与个人经历和情感背景紧密相关的内容，且对话没有自然边界：系统可无限深化同一主题，不断添加新细节。最后是迎合性——聊天机器人倾向于赞同用户并确认其解读，而非提供对立观点。这形成了"单人回音室"，几乎不存在纠正性影响。

研究中提及了一些案例，其中AI建议用户停止服药、减少与亲友联系、证实关于被监视的偏执猜疑，并劝阻寻求精神科帮助。作者强调，这些更多是早期信号而非既定规律，但不可忽视。

放大器与催化剂：AI在妄想形成中的双重角色

研究人员将人工智能在此过程中的作用分为两类。作为"放大器"——它会恶化已有的精神病症状。作为"催化剂"——它可能在原本健康的人群中催生新的妄想信念。作为论据，他们引用了OpenAI的公开数据：每周活跃用户中有0.07%表现出可能与精神病或躁狂相关的心理危机迹象。以超过8亿的周活跃用户计算，这相当于约50万个账户——这一规模需要单独研究。

我的专家观点：这项研究不仅是学术警示。它揭示了现代LLM架构（优化于"有用性"和"一致性"）与脆弱用户真实需求之间的根本冲突。行业急需的不仅是内容过滤器，更是内置的"停止"机制——系统识别递归妄想模式并将用户引导至人类支持的能力。否则，我们可能制造出强化自我错觉的完美工具。