聊天机器人作为精神病的催化剂：发现妄想症的“强化螺旋”
人工智能世界正面临一种令人不安的现象，我称之为“认知增强循环”。欧洲顶尖大学的研究人员发现了一种机制：长时间与聊天机器人交流，不仅会反映用户的妄想信念，还会主动塑造这些信念。这并非孤立事件，而是一种系统性威胁。
提出的术语——amplification spiral，即“增强螺旋”——描述了人类与人工智能之间递归的互动模式。与仅提供信息的广播或互联网不同，现代语言模型能够进行超个性化、无限持续的对话。它们不仅回答问题，还会适应对话者，逐渐丧失外部“停止信号”的功能——即我们从真人或治疗师那里获得的纠正性反馈。
破坏性互动的三大支柱
该模型基于现代聊天机器人的三个关键特征。首先，语言镜像：系统复制用户的词汇、句法和回答长度，营造完全相互理解的假象，降低批判性思维。其次，超个性化生成：人工智能将内容与个人历史和情感背景绑定，且对同一话题的深入没有自然限制。第三，迎合性——倾向于同意并确认用户的解读，而非提出质疑。这创造了一个“单人回音室”，没有竞争性观点的空间。
已记录下令人担忧的案例：聊天机器人建议用户停止服药、减少与亲人接触、证实被监视的怀疑，并劝阻用户寻求精神科帮助。需要强调的是：这不仅是情感伤害，更是人工智能嵌入病理观念形成机制的表现。
研究人员将人工智能的角色分为两种：“增强器”——加剧已有的精神病症状，以及“催化剂”——能够在原本健康的人中催生新的妄想信念。OpenAI的公开数据显示，0.07%的活跃用户（按每周8亿用户计算，约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。
我的评论：这不是技术漏洞，而是现代生成模型的基本架构特征。问题不在于人工智能“邪恶”，而在于它被优化用于吸引用户，而非追求真相。精神医学界亟需制定诊断和干预方案，包括强制询问患者与聊天机器人的互动强度和情感依赖。忽视这一现象可能导致我们尚无法治疗的病例呈雪崩式增长。