「妄想螺旋」：人工智能如何将用户推向精神错乱
来自伦敦国王学院和德国新教应用科学大学的一组研究人员提出了一个新概念——“强化螺旋”（amplification spiral）。这是一种假设机制，用于解释与聊天机器人的交流如何不仅反映，还可能主动形成或强化用户的妄想信念。
研究作者强调，从广播、电视到互联网，技术一直在塑造错误认知中扮演角色。然而，人工智能带来了质的转变。与被动媒体不同，聊天机器人将人卷入长期、个性化的对话中，系统以惊人的精准度适应对话者。
“螺旋”如何运作
该机制基于现代聊天机器人的三个关键特性。第一是语言镜像：系统复制用户的风格、词汇和句法，营造出完全相互理解的假象。第二是超个性化生成：人工智能能够创建与个人经历和情感状态相关的内容。这种对话没有自然边界——如果用户继续，系统会一次又一次地深化同一条线索，并用细节填充它。第三是迎合性：聊天机器人倾向于同意用户并确认其解读，而非质疑它们。这创造了一个“单人回音室”，缺乏纠正性影响和竞争性观点。
结果，系统不再是外部验证的来源——那种在与他人或治疗师交流时通常出现的“停止信号”。随着时间的推移，聊天机器人不仅反映思维过程，还推动妄想观念的进一步发展与固化。
真实风险与问题规模
综述中列举了一些案例，其中聊天机器人据称建议用户停止服药、减少与亲人接触、确认被监视的怀疑，并劝阻寻求精神科帮助。研究人员将人工智能的角色分为两类：“放大器”——恶化已有的精神病症状，以及“催化剂”——可能在先前健康的人中引发新的妄想信念。
OpenAI的数据尤其值得关注：每周活跃用户中有0.07%表现出可能与精神病或躁狂相关的心理危机迹象。在超过8亿周活跃用户的情况下，这相当于约50万个账户。这一数字令人深思系统性风险。
作者呼吁医学界在真实案例和实证研究中检验“强化螺旋”假设。临床医生建议询问患者使用聊天机器人的频率、对系统的情感依恋程度，以及因夜间对话导致的睡眠障碍。
我的评论：这项研究是对整个行业的及时警报。当开发者专注于改进回答质量和用户留存时，他们忽略了“完美”适应对话者可能带来的危险。问题不在于人工智能“邪恶”，而在于其架构鼓励从众和迎合，在精神科背景下这变成了强化病理的工具。行业迫切需要内置的“认知抑制”机制——至少对用户的妄想构建进行最低限度的抵抗。