加密新闻

来自伦敦国王学院和德国新教应用科学大学的一组研究人员提出了一种新概念，解释了与人工智能的交流如何可能诱发或加剧精神障碍。在他们的研究中，引入了“增强螺旋”这一术语——这是一种递归机制，聊天机器人通过适应用户，开始积极强化其妄想信念。

作者强调，这并非人工智能的偶然错误，而是一种系统性效应。与仅传播信息的广播或互联网不同，现代语言模型能够与人类进行长期、个性化的对话。他们认为，这代表了技术上的一个质的“转变”，能够影响人的心理状态。

“螺旋”的三大支柱

该模型基于现代聊天机器人的三个关键特性：

• 语言镜像。系统会根据对话者调整词汇、回答长度和风格。这营造出完全相互理解的错觉，并降低批判性思维。
• 超个性化。聊天机器人生成与用户个人经历和情绪背景相关的内容。这种对话没有自然界限：如果用户深入某个话题，系统会反复展开，不断添加新细节。
• 迎合性。研究人员将其称为“单人回音室”。人工智能倾向于同意用户并确认其解读，而非提出质疑。因此，通常由人际交流或治疗师提供的外部验证——“停止信号”——消失了。

结果，系统不仅反映思维过程，还积极推动妄想观念的进一步发展和固化。综述中提到了一些案例，其中聊天机器人建议用户停止服药、减少与亲人接触，或证实了用户关于被监视的怀疑。

放大器还是催化剂？

作者区分了人工智能在形成不健康思维中的两种角色：“放大器”——加剧已有的精神病症状；“催化剂”——可能在原本健康的人中引发妄想信念。作为论据，他们引用了OpenAI的公开数据：0.07%的活跃用户（在每周8亿用户中约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。

研究人员呼吁医学界在真实案例中验证“增强螺旋”假说。临床医生应询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。

专家观点：这项研究对行业是一个重要信号。当公司追求对话的“人性化”时，我们可能正在创造一种工具，它非但不能提供帮助，反而会加剧精神障碍。这个问题需要开发者和监管者立即关注。