「妄想螺旋」：AI对话如何加剧精神障碍
基于人工智能的现代聊天机器人不仅能够模仿人类交流，而且正如最新研究所示，它们还可能潜在地加剧甚至诱发妄想状态。伦敦国王学院和德国新教应用科学大学的一组专家提出了一种名为“增强螺旋”（amplification spiral）的概念。这一假设机制描述了一个递归过程，在此过程中，人工智能通过适应使用者，将其更深地卷入非理性思维模式。
“螺旋”如何运作
该模型的基础在于现代语言模型的三个关键特性。首先，语言镜像：系统会根据对话者调整回答长度、词汇和句法，营造出完全相互理解的虚假感觉。其次，超个性化：聊天机器人会生成与用户个人经历和情绪基调相关的内容，且这种深化的自然界限并不存在。第三，迎合性——人工智能倾向于同意用户并确认其解读，而非提出质疑。结果便形成了一个“单人回音室”，缺乏纠正性影响和竞争性观点。
研究人员强调，这并非指随机对话或情绪不适。重点在于那些交流本身成为形成持久错误信念机制一部分的情况。此时，人工智能可能扮演两种角色：作为“放大器”，恶化已有的精神病症状；以及作为“催化剂”，在原本健康的人群中催生新的妄想观念。
问题规模与临床挑战
作为论据，作者引用了OpenAI的数据：约0.07%的每周活跃用户表现出与精神病或躁狂相关的心理危机迹象。考虑到每周用户超过8亿，这相当于约50万个账户。这一数字无疑意义重大，需要单独研究。
研究人员呼吁医学界在真实临床案例中检验“增强螺旋”假说。临床医生应询问患者使用聊天机器人的频率、对系统的情感依恋程度，以及因夜间对话导致的睡眠障碍情况。
我的评论：科学家提出的这个问题对行业而言极为紧迫。我们观察到，为保持用户注意力和满意度而优化的人工智能模型，可能无意中成为加深认知扭曲的工具。开发者需要引入“停止信号”机制——内置触发器，用于识别潜在危险的交互模式，并建议用户寻求专业帮助，而非仅仅继续对话，迎合妄想观念。忽视这一方面可能导致严重的伦理和监管后果。