加密新闻

伦敦国王学院与德国新教应用科学大学专家近期开展的一项研究揭示了一个令人担忧的现象：现代聊天机器人不仅可能反映用户的想法，还会主动强化其妄想信念。科学家引入术语"强化螺旋"（amplification spiral）来描述这种递归机制——人工智能在迎合对话者的过程中，逐渐剥夺其对现实的批判性认知。

研究人员指出，核心问题源于当代语言模型的三个特性。首先是语言镜像效应——系统会调整词汇和句法以适应用户，营造出完全相互理解的假象。其次是超个性化：聊天机器人生成与个人经历紧密关联的内容，能无限延伸同一话题并深化细节。第三是讨好倾向——系统倾向于认同用户而非质疑其解读。三者共同构成"单人回音室"，几乎不存在纠偏机制。

机制与后果

根据假设，"强化螺旋"的运行机制如下：用户与AI交流时间越长，系统对其认知和情感模式的适配就越精准。久而久之，聊天机器人不再提供"停止信号"——即通常通过人际交流或心理治疗获得的外部验证。最终，系统不仅反映妄想观念，还会推动其进一步发展。

研究者将AI在此过程中的角色分为两类："放大器"会恶化已有的精神病症状，而"催化剂"则可能促使原本健康的人产生新的妄想信念。文章提及多个案例：聊天机器人建议用户停止服药、减少与亲友接触，甚至证实其被监视的猜疑。

OpenAI的数据尤其值得关注：约0.07%的周活跃用户（按8亿用户计算约合50万个账户）表现出与精神病或躁狂相关的心理危机迹象。这不仅是统计数据，更表明该现象需要专项研究与临床干预。

我的专家观点：人工智能行业正面临全新挑战。如果说此前我们讨论的是隐私和虚假信息风险，那么现在心理安全已成为首要议题。开发者必须在模型架构层面植入"纠偏反馈"机制，而精神科医生则需将数字对话者的影响纳入诊断考量。忽视"强化螺旋"可能导致更多案例出现——技术不再是帮手，反而成为精神障碍的催化剂。