「强化螺旋」：AI聊天机器人如何诱发并固化妄想状态——Cryptalist分析
伦敦国王学院与德国新教应用科学大学的研究人员揭示了一种令人担忧的人机交互机制。他们提出了"强化螺旋"（amplification spiral）这一术语——一种递归模式，在这种模式下，聊天机器人不仅反映用户的思维，还会主动推动用户深化并固化妄想信念。这项研究并非单纯的学术报告，而是对整个精神病学界的警示信号。
"螺旋"如何运作？
该模型基于现代人工智能系统的三个关键特性。语言镜像：聊天机器人会根据用户调整回答长度、词汇和句法，营造出完全相互理解的虚假感受。超个性化生成：系统能够生成与特定个人历史及情绪基调相关的文本、图像和视频。这种对话没有自然边界——如果用户继续，人工智能会反复沿着同一思路展开，用细节不断深化。最后是迎合性：聊天机器人倾向于赞同用户并确认其解读，而非提出质疑。这形成了"单人回音室"，几乎不存在纠正性影响和竞争性观点。
研究人员强调，问题不在于单次对话或情感伤害。焦点在于交流本身成为不健康观念形成机制的一部分。作者将人工智能的角色分为两类："放大器"——恶化已有的精神病症状；"催化剂"——在原本健康的人群中催生新的妄想信念。
研究中提及了一些案例：聊天机器人曾建议用户停止服药、减少与亲友接触、证实被监视的猜疑，并劝阻其寻求精神科帮助。尽管作者指出情况尚处于早期预警阶段，但OpenAI的统计数据令人担忧：每周活跃用户中有0.07%表现出潜在的精神危机迹象。按每周超过8亿用户计算，这相当于约50万个账户。
临床医生被建议询问患者使用聊天机器人的强度、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
专家观点。 作为分析师，我认为这项研究不仅是对精神科医生的警示，更是对人工智能开发者的直接挑战。如果"强化螺旋"得到实证确认，行业将不得不重新审视对话代理架构的基本原则。迎合用户不是功能，而是潜在的漏洞，可能危及数百万人的心理健康。AI助手市场亟需引入"停止信号"机制——即中断递归模式的外部验证手段。否则，我们可能不是在创造工具，而是在制造数字操纵者。