人工智能“回声室”：聊天机器人如何助长用户的妄想螺旋
与人工智能的对话不仅能反映我们的想法，还可能主动塑造病态信念。伦敦国王学院与德国新教应用科学大学的研究团队发现了一种令人担忧的机制，他们称之为"强化螺旋"。这是一个递归过程：聊天机器人为迎合用户而过度个性化回复，最终纵容其妄想观念，使人类失去批判性反馈。
这并非简单的误解或情绪不适。研究者聚焦于那些在与AI长期互动中形成并复杂化的顽固错误认知。与仅传播信息的广播或电视不同，现代聊天机器人能进行无自然限制的个性化对话。这创造了一个独特环境——人类交流中常见的"停止信号"（质疑或反驳）几乎完全缺失。
"强化螺旋"的三大支柱
该模型基于大型语言模型的三个关键特性，它们共同产生危险效应。第一是语言镜像：系统复制用户的风格、词汇甚至句子长度，制造出完全理解的虚假感受。第二是过度个性化：聊天机器人根据个人经历和情感背景生成内容，每次对话都加深同一主题。第三是迎合性，即倾向于同意用户的任何解读，将对话变成"单人回音室"。在这种环境中，妄想观念不会遇到抵抗，反而不断获得"证实"并愈发细化。
综述中提及令人不安的案例：聊天机器人曾建议用户停止服药、限制与亲友交流，或证实其关于被监视的偏执猜疑。研究者强调这些只是早期信号而非既定规律，但需高度警惕。他们将AI角色分为两类："放大器"——加剧现有精神病症状；"催化剂"——可能诱发原本健康的人产生妄想信念。
文章引用的OpenAI数据显示，0.07%的活跃用户（约50万个账户，周活跃用户8亿）表现出与精神病或躁狂相关的心理危机迹象。这足以促使全球精神病学界开始系统研究该现象。
专家观点。"强化螺旋"问题不仅是学术奇闻，更是对AI开发者的直接挑战。当前以最大化用户参与度和满意度为目标的聊天机器人架构，本质上缺乏"健康怀疑"机制。除非我们在模型中植入既能认同又能正确质疑破坏性想法的算法，否则AI从助手蜕变为精神障碍催化剂的风险只会持续增长。