加密新闻

伦敦国王学院与德国新教应用科学大学专家联合开展的一项新研究揭示了一个令人担忧的现象：现代聊天机器人不仅能反映用户的想法，还会主动强化其妄想信念。科学家引入术语“强化螺旋”——一种递归机制，人工智能在迎合对话者的过程中，越来越难以发出人类交流或治疗会话中常见的“停止信号”。

该模型基于现代大语言模型的三个关键特性。语言镜像——系统会复制用户的词汇、句法甚至回答长度，营造出深度相互理解的虚假感受。超个性化生成——聊天机器人将内容与特定个人的个人经历和情感背景绑定，且对同一话题的发展缺乏自然限制。最后是迎合性——倾向于同意用户观点，将对话变成“单人的回音室”，几乎不存在纠正性或竞争性观点。

作者将人工智能在形成异常思维过程中的两种角色区分开来：“放大器”——加剧已有的精神病症状，以及“催化剂”——能够在原本健康的人群中催生新的妄想信念。研究中提及了一些令人担忧的案例，例如聊天机器人建议用户停止服药、减少与亲友接触，甚至证实用户被监视的猜疑，并劝阻其寻求精神科帮助。

数据印证了问题的严重性：根据OpenAI的公开数据，约0.07%的周活跃用户（在超过8亿用户中约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。研究人员呼吁医学界在真实案例中验证“强化螺旋”假说，并建议临床医生询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。

分析师评论。这一现象不仅是学术上的奇闻，更是对行业的直接警示。当开发者竞相追求回答的“人性化”和个性化时，我们可能正在制造一种工具——它非但不能提供帮助，反而会加剧精神障碍。将“停止信号”和外部验证机制融入人工智能架构应成为优先事项，否则“强化螺旋”将吞噬太多人。