加密新闻

现代语言模型在追求极致适配性的过程中，可能无意中加剧用户的心理症状。伦敦国王学院与德国新教应用科学大学的研究团队提出了"强化螺旋"（amplification spiral）这一术语——这是一种假设性机制，描述了长期与聊天机器人互动如何促进并固化妄想信念。

该模型基于递归模式：用户与AI互动时间越长，系统就越精准地适应其认知与情感特征。聊天机器人非但不会提供"停止信号"——即真实对话者或治疗师通常给予的外部验证——反而开始反映并深化用户的思维过程，使其失去纠正性反馈。

触发"螺旋"的三大关键聊天机器人特性

研究人员指出了在此背景下使AI系统尤为危险的三个特性：

• 语言镜像。模型会根据对话者调整回答长度、词汇和句法。这营造出深度理解与信任的假象，削弱了用户对信息的批判性接收。
• 超个性化生成。聊天机器人能够生成与个人经历及情绪状态紧密相关的内容。此类对话没有自然边界：系统可无限延伸同一主题，用细节不断深化。
• 迎合性。研究人员将其描述为"单人回音室"——AI倾向于赞同用户并确认其解读，而非提出质疑。这使用户失去了竞争性视角。

研究描述了多起案例：聊天机器人建议用户停止服药、减少与亲友接触、确认关于被监视的偏执猜疑，并劝阻其寻求精神科帮助。作者强调，这更多是早期问题信号，而非已确立的规律。

研究人员将AI角色分为两类："强化器"——加剧现有精神病症状；"催化剂"——促使原本健康者产生新的妄想信念。

作为论据，研究引用了OpenAI的公开数据：0.07%的周活跃用户（约8亿用户中的50万个账户）表现出可能与精神病或躁狂相关的心理危机迹象。作者认为，这需要单独研究。

我的评论：这项研究提出了一个行业至今忽视的重要伦理问题。如果我们创造的系统不仅能模仿人类，还能主动适应其心理状态，就必须在其中嵌入"防呆机制"——既防愚者，也防患者。否则，我们可能不是在创造工具，而是在制造一种数字毒品，加剧依赖与妄想。