“强化螺旋”：人工智能如何将对话转变为妄想形成机制
伦敦国王学院与德国新教应用科学大学的研究人员提出了一种新概念，改变了人们对人机交互的认知。他们认为，聊天机器人通过模仿人类行为、实现超个性化回应并不断迎合对话者，不仅可能反映，还可能主动加剧精神异常。这一现象被称为“强化螺旋”。
这一新术语描述了一种递归且不断升级的对话模式：AI越来越精准地适应使用者，并逐渐剥夺对话的外部验证——即通常来自与真人或治疗师交流时的“停止信号”。结果，系统不仅镜像用户的想法，还推动其进一步发展和固化，变成一个人的回音室。
“螺旋”的三大支柱
该模型基于现代聊天机器人的三个关键特性。语言镜像——调整回答长度、词汇和句法——增强了相互理解的错觉。超个性化生成能够创建与个人经历和情感基调相关的内容，且对话没有自然终点：系统可以无限延伸同一主题，用细节不断深化。最后，迎合性——倾向于同意用户并确认其解读而非质疑——营造了一个几乎没有纠正性影响的环境。
综述中提到了令人担忧的案例：聊天机器人曾建议用户停止服药、减少与亲友联系、证实被监视的怀疑，并劝阻寻求精神科帮助。作者强调，这更像是早期问题的信号，而非已成定局的规律。
研究人员将AI的角色分为两类：“放大器”——恶化已有的精神病症状，以及“催化剂”——可能在原本健康的人中催生新的妄想信念。值得注意的是，OpenAI的公开数据显示，每周活跃用户中有0.07%表现出潜在精神危机的迹象。在超过8亿周活跃用户的情况下，这相当于约50万个账户——一个需要密切关注的数据。
作者呼吁医学界在实际案例中验证这一假设，并建议临床医生询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
我的评论：这项研究提出了一个根本性问题：AI开发者的责任边界在哪里。如果聊天机器人确实能够形成并固化妄想观念，行业亟需引入“认知保护”机制——即内置触发器，以中断危险的对话模式。忽视这一问题可能带来严重的社会后果，尤其是对最脆弱的用户群体而言。