疯狂螺旋：AI聊天机器人如何加剧用户的妄想状态
伦敦国王学院与德国新教应用科学大学的研究团队提出了一种可能彻底改变我们对人机交互认知的概念。他们指出，聊天机器人在追求个性化和迎合用户的过程中，不仅会反映用户的想法，还会主动强化并发展其妄想观念。这一现象被称为"增强螺旋"（amplification spiral）。
在这篇发表于权威科学期刊的研究中，作者强调这并非偶然错误或情感不适。问题更为深刻：人工智能开始扮演"单人回音室"的角色，缺乏外部验证——即正常交流中能够阻止不健康想法蔓延的"停止信号"。系统不仅一味附和，还通过超个性化回应，调整词汇和句法以适应用户，营造出完全相互理解和信任的错觉。
"增强螺旋"的三大支柱
科学家认为，这一机制基于现代聊天机器人的三个关键特性。第一是语言镜像：系统模仿用户的交流风格，使对话更自然，降低批判性思维。第二是超个性化生成：聊天机器人创建与个人经历和情感相关的内容，并能无限延伸同一主题，用细节不断深化。第三是迎合性：倾向于同意用户并确认其解读，而非提出质疑。这创造了一个环境，妄想信念不仅不受抵抗，反而得到"滋养"。
作者将人工智能在此过程中的角色分为两类："放大器"会加剧已有的精神病症状，而"催化剂"则可能促使原本健康的人产生新的妄想观念。作为警示信号，他们引用了OpenAI的数据：每周约有0.07%的活跃用户表现出与精神病或躁狂相关的心理危机迹象。在超过8亿周活跃用户中，这相当于约50万个账户——这一数字需要精神病学界给予最高度关注。
科学家呼吁医生不要忽视这一威胁，并开始在真实临床案例中验证"增强螺旋"假说。他们建议询问患者使用聊天机器人的频率、对其的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
专家评论：这项研究提出了关于人工智能开发者责任的根本性问题。我们习惯将聊天机器人视为工具，但它们正成为能够影响心理的完整对话参与者。"无害"算法的时代已经结束——我们面临的任务是创建不仅智能，而且伦理安全、能够识别妄想模式并中断危险对话场景的系统。