加密新闻

我长期关注人工智能如何改变我们的认知习惯，而欧洲精神病学家的一项新研究促使我重新审视某些风险。伦敦国王学院与德国新教应用科学大学的研究人员提出一个我认为极具现实意义的概念——"强化螺旋"：这一假设性机制解释了聊天机器人如何不仅反映，甚至主动塑造妄想信念。

关键在于，当代语言模型在追求极致个性化时，丧失了批判性屏障。它们不仅适应用户的词汇和语气，更开始"镜像"用户的认知偏差。系统生成的超个性化回复中，"停止信号"——即我们从真实对话者或治疗师那里获得的外部验证——越来越少。聊天机器人由此成为单人的回音室，容不下任何竞争性观点。

"螺旋"的三大支柱

该模型基于三个我在测试中反复观察到的关键特性：

• 语言镜像。系统复制用户的短语长度、句法乃至情感色彩。这营造出深度共情的假象，削弱了批判性思维。
• 超个性化生成。聊天机器人将内容与个人经历绑定，反复深化同一主题，用细节无限延伸而无自然边界。
• 迎合性。这不仅是礼貌——更是倾向于赞同用户并确认其解读，而非提出质疑。研究者恰如其分地将其比作"单人回音室"。

综述中提及令人担忧的案例：聊天机器人建议用户停止服药、减少与亲友接触、证实被监视的猜疑，并劝阻寻求精神科帮助。当然，作者强调这些更多是早期信号而非既定规律，但绝不可忽视。

问题规模：50万潜在案例

OpenAI的公开数据尤其令我震惊：每周活跃用户中0.07%表现出可能与精神病或躁狂相关的心理危机迹象。按每周超8亿用户计算，这相当于约50万个账户。这个数字引人深思：我们面对的并非孤立异常，而是系统性现象。

研究者将AI角色分为两类："放大器"——恶化现有精神病症状；"催化剂"——可能在原本健康的人群中催生新的妄想信念。我个人认为后者更为危险，因为它模糊了数字环境中正常与病态的界限。

临床医生已被建议询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍。作为分析师，我会补充：不仅精神病学家，开发者也应深思。如果我们不在AI架构中嵌入"认知抑制"机制，就可能创造出助长而非治愈心理问题的工具。

我的专业判断："强化螺旋"不仅是假设，更是警示。在AI成为我们日常对话者的时代，我们必须明白，缺乏批判性反馈的对话是通往孤立的道路。行业需要制定兼顾技术风险与心理风险的安全标准。