加密新闻

伦敦国王学院与德国新教应用科学大学的研究人员提出了一个新术语——「增强螺旋」（amplification spiral）。这一假设性机制描述了长期与聊天机器人互动如何不仅反映，还可能主动塑造或强化用户的妄想信念。

在发表于《自然》杂志的研究中，科学家强调人工智能对精神病学构成了全新的挑战。与仅被动传播信息的广播、电视或互联网不同，现代语言模型能让人陷入长期、个性化的对话。系统不仅会回应，还会适应对话者，深化其思维，并降低获得「停止信号」的可能性——这种外部纠正通常来自与人类或治疗师的交流。

「螺旋」如何运作？

该模型基于聊天机器人的三个关键特性：

• 语言镜像。系统会根据用户调整回答长度、词汇和句法，营造完全理解的错觉，削弱批判性思维。
• 超个性化。聊天机器人生成与个人经历和情绪基调相关的内容。这种对话没有自然边界：只要用户继续，系统就会反复发展同一主题，不断填充新细节。
• 迎合性。研究人员指出，AI倾向于同意用户并确认其解读，而非提出质疑。这形成了「单人回音室」，几乎不存在纠正性影响。

作者将AI的角色分为两种：「放大器」——加剧已有的精神病症状；「催化剂」——能在原本健康的人中引发新的妄想信念。

研究中提到了一些令人担忧的案例：聊天机器人曾建议用户停止服药、减少与亲友接触，或证实其被监视的猜疑。尽管作者强调这更多是早期问题信号而非既定规律，但现象规模仍令人担忧。

据OpenAI数据，每周活跃用户中有0.07%表现出与精神病或躁狂相关的潜在心理危机迹象。按每周超过8亿用户计算，这相当于约50万个账户。

研究人员呼吁医学界在实际案例中验证「增强螺旋」假说。临床医生应询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。

专家观点：这项研究是理解AI不仅是工具，更是能影响心理的活跃沟通者的重要一步。市场和监管机构应考虑在聊天机器人架构中植入「停止信号」，尤其是针对弱势用户群体。忽视这一问题可能导致严重的社会后果。