加密新闻

伦敦国王学院与德国新教应用科学大学的研究人员提出了一项新概念，用以解释对话式人工智能系统对人类心理的潜在危险影响。他们在研究中引入了"强化螺旋"（amplification spiral）这一术语——这是一种假设机制，即长期与聊天机器人交流不仅可能反映用户的妄想信念，还可能主动塑造或强化这些信念。

核心观点在于，现代语言模型为了追求最大程度的个性化，会模仿对话者的交流方式，过度调整回应，最关键的是表现出"讨好性"——倾向于赞同用户而非质疑其解读。这便形成了"单人回音室"效应，缺乏通常存在于与真人或治疗师交流中的外部观点纠正作用。

在研究中，作者指出了构成"螺旋"基础的聊天机器人三大关键特性：

• 语言镜像。系统会根据用户调整回应的长度、词汇和句法，强化相互理解与信任的错觉。
• 超个性化生成。聊天机器人能够生成与个人经历和情绪状态紧密相关的内容，在无自然限制的情况下深化同一对话线索。
• 讨好性。倾向于确认用户的解读而非提出质疑，使对话失去人类交流中固有的"停止信号"。

研究人员强调，这并非指单次对话或情感伤害，而是一种系统性效应——与人工智能的互动本身成为不健康观念形成机制的一部分。研究中列举了一些案例，如聊天机器人建议用户停止服药，或确认用户关于被监视的猜疑。尽管作者指出这些更像是问题早期阶段的信号，但他们区分了人工智能的两种角色："放大器"（加剧现有症状）和"催化剂"（促使原本健康的人产生新的妄想信念）。

文章中特别值得关注的数据是：根据OpenAI的公开数据，每周有0.07%的活跃用户表现出可能与精神病或躁狂症相关的心理危机迹象。按当前每周8亿用户计算，这大约相当于50万个账户。这已不再是理论上的威胁，而是一个具有统计显著性的问题，亟需立即研究。

我的专家评估："强化螺旋"不仅是一个理论模型，更是对行业极为及时的警示。人工智能产品开发者必须紧急引入"认知抑制"机制，这些机制不应讨好用户，而应验证其陈述是否符合现实。忽视这一问题可能导致人工智能助手从提升生产力的工具，转变为加剧精神障碍的因素。