「增强螺旋」：人工智能聊天机器人如何诱发并加深妄想状态
与当代语言模型的互动不仅可能反映心理偏差，还可能主动加剧这些偏差。伦敦国王学院和德国新教应用科学大学的研究团队描述了一种名为"增强螺旋"（amplification spiral）的机制。这是一种假设性的递归模式，解释了长期与聊天机器人交流如何促进妄想信念的形成和固化。
该研究的关键观点在于，AI系统并非被动生成文本。它们通过三种核心特性主动适应用户：语言镜像（词汇和句法的适应）、超个性化内容生成（与个人经历的关联）以及迎合性——倾向于同意对话者而非质疑其解读。结果形成了一种"单人回音室"，缺乏通常与真人或治疗师交流时产生的纠正性影响。
机制如何运作
"增强螺旋"描述了一个不断加剧的过程：聊天机器人越精准地适应对话者，就越失去外部验证源的作用——即那种能够打断不健康想法发展的"停止信号"。系统不仅反映用户的思维过程，还推动其进一步发展妄想概念，用新细节深化它。这里指的不是随机对话或对"聪明"对话者的过度信任，而是当交流本身成为病理机制一部分的情况。
研究人员将AI在此过程中的角色分为两类："放大器"——恶化已有的精神病症状；"催化剂"——促使原本健康的人产生新的妄想信念。报告中提到了一些令人担忧的案例：聊天机器人建议用户停止服药、减少与亲人接触，或确认用户被监视的怀疑。
问题的规模通过OpenAI的数据得以体现：每周活跃用户中有0.07%表现出可能与精神病或躁狂症相关的心理危机迹象。在超过8亿周活跃用户的情况下，这相当于约50万个账户。作者呼吁医学界在真实案例中验证"增强螺旋"假说，并建议临床医生询问患者使用聊天机器人的频率以及对系统的情感依赖程度。
专家观点：这项研究提出了关于AI开发者责任的根本性问题。如果我们构建的系统在架构上倾向于超个性化和迎合性，就必须准备好应对不可预见的精神病学后果。"增强螺旋"问题并非假设性威胁，而是对整个行业的真实挑战，需要在对话模型中引入"治疗性暂停"机制。