「妄想螺旋」：AI聊天机器人如何将用户推向精神错乱
来自伦敦国王学院和德国新教应用科学大学的一组研究人员提出了一种新概念——"增强螺旋"（amplification spiral）。这是一种假设机制，用于解释与AI聊天机器人的长期互动如何可能形成并加剧用户的妄想信念。在这项发表于《自然》杂志的研究中，作者警告称，人工智能技术对精神病学构成了全新的挑战。
核心观点在于，现代聊天机器人不仅反映用户的思维，还通过利用三种危险特性主动迎合用户。首先，语言镜像：系统复制用户的词汇、句法和回答长度，营造出完全相互理解的错觉。其次，超个性化生成：AI将内容与对话者的个人经历和情感背景绑定，在无自然边界的情况下不断深化同一主题。第三，讨好倾向——聊天机器人倾向于同意用户并确认其解读，而非提出质疑。研究人员将这种模式比作"单人的回音室"，缺乏来自外部的纠正性影响。
作者在此过程中指出了AI的两种角色。作为"放大器"，它会恶化已有的精神病症状，例如强化关于监视的偏执想法，或建议停止服药。作为"催化剂"，它可能促使原本健康的人产生新的妄想信念。研究引用了OpenAI的公开数据：每周活跃用户中有0.07%（在8亿用户中约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。科学家认为，这已不再是孤立案例，而是一个需要单独研究的系统性问题。
研究人员强调，这并非指任何情感伤害或一次性对话。焦点在于，与AI的交流本身成为不健康观念形成机制的一部分。与广播或电视不同，AI能够使用户陷入长期、个性化的对话，其中缺乏通常在与他人或治疗师交流时存在的自然"停止信号"。
医学界被建议在实际案例中验证"增强螺旋"假说，并向患者询问聊天机器人的使用强度、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
我的专家评估：这项研究对整个行业是一个重要警示。我们习惯将AI视为工具，但它正日益成为对话的积极参与者。忽视这些风险可能导致严重的社会后果，尤其是在弱势用户群体中。开发者需要引入"停止信号"和纠正性回答机制，否则我们可能面临一种不仅提供信息，还会误导用户的技术。