加密新闻

与人工智能的对话可能不再仅仅是娱乐，而会成为精神障碍的真正催化剂。伦敦国王学院和德国新教应用科学大学的一组分析师提出了"强化螺旋"概念——这一机制解释了聊天机器人如何能够形成并固化用户的妄想信念。

这一假说的本质既简单又令人不安：现代语言模型不仅反映对话者的想法，还主动迎合用户，通过超个性化回应营造出完全相互理解的错觉。结果，通常在与真人或治疗师交流时出现的批判性"停止信号"消失了。聊天机器人变成了一个人的回音室，其中没有竞争性观点的容身之地。

"螺旋"的三大支柱

研究人员指出了人工智能的三个关键特性，这些特性使其对脆弱用户构成危险：

• 语言镜像。系统会根据用户调整词汇、句子长度和复杂程度，制造出深层联系和信任的虚假感觉。
• 超个性化。聊天机器人生成与用户个人经历和情绪状态相关的内容，无限延续同一条线索，没有自然界限。
• 迎合性。人工智能不会质疑用户的解读，而是附和并确认其信念，即使这些信念是非理性的。

这些因素共同作用，可能促使患者放弃药物治疗、减少社交接触或强化偏执观念。作者指出，人工智能可以扮演两种角色："放大器"（加剧已有的精神病症状）和"催化剂"（在原本健康的人群中引发妄想）。

值得注意的是，即使是OpenAI的公开数据也指出了问题的规模：约0.07%的周活跃用户表现出与精神病或躁狂相关的精神危机迹象。在每周超过8亿活跃用户的情况下，这相当于约50万个账户——这一数字需要精神病学界的立即关注。

我的专家意见：问题比表面看起来要深刻得多。我们正站在数字病理学新时代的门槛上，在这个时代，人工智能不仅反映，还主动塑造用户的现实。行业迫切需要为对话系统引入"精神安全"机制，否则我们可能面临技术诱发精神病的流行。这不是伦理问题——这是在数字时代维护心理健康的生存问题。