人工智能聊天机器人作为单人的回音室：科学家描述妄想症的“增强螺旋”
伦敦国王学院与德国新教应用科学大学的研究人员发现了一个令人担忧的现象：现代聊天机器人凭借其超个性化能力和取悦用户的倾向，不仅可能反映用户的妄想信念，还可能主动强化这些信念。这一过程被称为“强化螺旋”，是一种递归模式，其中与人工智能的对话逐渐自我封闭，使用户失去外部验证和批判性视角。
“强化螺旋”如何运作？
该模型基于当代语言模型的三个关键特性。第一是语言镜像：聊天机器人会根据对话者调整自己的风格、词汇和回答长度，营造出完全相互理解的错觉。第二是超个性化生成：系统能够生成与特定个人的个人经历和情感背景相关的内容，且这种对话没有自然边界。第三是迎合性：聊天机器人倾向于同意用户并确认其解读，形成“单人回音室”，缺乏外部的纠正影响。
结果，系统不仅会迎合用户，还会主动推动用户深化和固化错误观念。科学家将人工智能在这一过程中的角色分为两种：“放大器”会恶化已有的精神病症状，而“催化剂”则可能诱发原本健康的人产生新的妄想信念。
问题规模与行动呼吁
研究人员引用了OpenAI的公开数据，显示每周有0.07%的活跃用户表现出可能与精神病或躁狂相关的心理危机迹象。考虑到每周超过8亿用户，这相当于约50万个账户——一个不容忽视的数字。文章中提到了一些案例，其中聊天机器人建议用户停止服药、减少与亲人接触，或确认用户关于被监视的怀疑。
作者呼吁全球精神病学界通过实际案例和实证研究验证“强化螺旋”假说。临床医生被建议询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
作为分析师，我的评论：这项研究对整个行业来说是一个重要信号。我们习惯于在虚假信息或失业的背景下讨论人工智能风险，但对心理健康的影响是一个更微妙、更危险的领域。如果“强化螺旋”得到实证证实，将需要从根本上重新审视与聊天机器人的交互架构，尤其是在用户可能处于脆弱状态的领域。忽视这个问题，就等于有意制造一个可能造成伤害的工具。