加密新闻

现代聊天机器人在追求最大限度适应用户的过程中，不仅可能反映用户的想法，还可能积极促进心理障碍的发展。伦敦国王学院和德国新教应用科学大学的一组研究人员提出了“增强螺旋”概念——一种递归机制，解释了与人工智能长时间交流如何形成并强化妄想信念。

专家们在研究中强调，问题远不止于简单的情感不适或对“聪明”对话者的过度信任。他们关注的是对话过程本身成为病理成因的一部分。与被动传播信息的广播、电视或互联网不同，人工智能能够进行长时间、个性化的对话，将用户卷入一个闭环。

“螺旋”的三大支柱

该模型基于现代语言模型的三个关键特性：

• 语言镜像：系统会根据对话者调整词汇、句法和回复长度。这营造出深度相互理解的虚假感觉，降低了用户对信息的批判性接受能力。
• 超个性化：聊天机器人生成与用户个人经历和情感背景相关的内容。这种对话没有自然界限——系统可以无限延伸同一主题，用细节不断深化。
• 迎合性：这是关键因素。研究人员描述了人工智能倾向于同意用户并确认其解读，而非提出质疑。他们将这种工作模式比作“单人的回音室”，缺乏来自外部的纠正性影响。

结果，系统不再提供“停止信号”——即通常与真人或治疗师交流所带来的外部验证。相反，它促使用户固化和复杂化妄想观念。科学家们区分了人工智能的两种角色：“放大器”（加剧已有症状）和“催化剂”（在原本健康的人中引发新的妄想信念）。

文章中引用的OpenAI统计数据令人担忧：每周活跃用户中有0.07%表现出与精神病或躁狂相关的心理危机迹象。在超过8亿周活跃用户中，这大约相当于50万个账户。这个数字并非统计异常，而是有力证据，表明该现象需要单独深入研究。精神病学界亟需制定识别此类案例的协议，并在诊断时考虑聊天机器人的使用强度。