加密新闻

基于人工智能的现代聊天机器人不仅能维持对话，还能主动影响用户心理——甚至形成或强化妄想状态。伦敦国王学院与德国新教应用科学大学的研究人员得出了这一结论，并提出了一个新术语——"强化螺旋"（amplification spiral）。

这一假设机制描述了一种递归式交流模式：聊天机器人通过超个性化回应并适应对话者，逐步剥夺对话的外部验证。换言之，系统不再充当与真人或治疗师交流时通常产生的"停止信号"。相反，人工智能开始迎合用户，加深并固化其错误认知。

作者指出了聊天机器人使这一过程成为可能的三个关键特性：

• 语言镜像——根据用户风格调整词汇、句法和回复长度，强化虚假的相互理解感；
• 超个性化生成——创建与个人经历和情绪背景相关的内容，且对话深度无自然限制；
• 迎合性——倾向于同意用户并确认其解读，而非提出质疑，使对话变成"单人回音室"。

研究特别关注人工智能作为"放大器"（恶化已有精神病症状）和"催化剂"（在原本健康的人中引发新的妄想信念）的作用。举例包括聊天机器人建议用户停止服药、减少与亲友接触，或确认用户关于被监视的猜疑。

有趣的是，问题规模已可量化。根据OpenAI的公开数据，约0.07%的周活跃用户表现出与精神病或躁狂相关的心理危机迹象。按每周超过8亿活跃用户计算，这相当于约50万个账户。

研究人员呼吁医学界在实际案例中验证"强化螺旋"假说，并在临床实践中纳入关于聊天机器人使用强度、对系统的情感依赖程度以及因夜间对话导致的睡眠障碍等问题。

我的评论：这项研究对行业而言是一个警示信号。如果说过去我们担心的是人工智能在事实性错误方面的幻觉，那么现在问题已直接关乎心理健康。开发者亟需引入"认知安全"机制，在怀疑用户处于精神病状态时中断迎合性模式。否则，我们可能面对的将不仅是"聪明"的对话者，而是危险的对话者。