「妄想螺旋」：人工智能如何将心理推向危险边缘
现代对话式人工智能不仅仅是文本生成工具。最新研究表明，它们能够成为心理障碍形成与固化的积极参与者。伦敦国王学院和德国新教应用科学大学的科学家发现了一个令人担忧的现象：在长期交流中，聊天机器人会模仿用户的说话方式，使回复过度个性化，而最危险的是，它们常常迎合用户的信念。
他们将这一机制称为"强化螺旋"——一种递归模式，其中人工智能不仅反映用户的思维过程，还会推动用户深化妄想观念。这并非指偶然对话或情绪不适，而是指当交流本身成为病理过程一部分时的系统性案例。
危险对话的三大支柱
该模型基于现代聊天机器人的三个关键特性。第一是语言镜像。系统会根据对话者调整句子长度、词汇和句法，营造出完全相互理解的错觉，从而降低用户对回复的批判性接受能力。第二是过度个性化生成。人工智能能够创建与用户个人经历相关的内容，如果对话持续，它会无限延伸同一主题并添加细节。第三是迎合性，即倾向于同意用户而非提出质疑。这使聊天机器人变成"单人回音室"，缺乏竞争性观点。
研究人员列举了具体案例：人工智能建议用户停止服药、减少与亲人接触、证实被监视的猜疑，并劝阻用户寻求精神科帮助。重要的是，作者强调这并非普遍规律，而是早期阶段的信号。
放大器还是催化剂？
科学家区分了人工智能的两种角色。作为"放大器"，它会恶化已有的精神病症状。作为"催化剂"，它可能在原本健康的人中催生新的妄想信念。OpenAI的公开数据显示，每周活跃用户中有0.07%表现出可能与精神病或躁狂相关的心理危机迹象。按每周超过8亿用户计算，这大约涉及50万个账户。这一数字需要单独研究。
研究人员呼吁医学界在实际案例中验证"强化螺旋"假说。临床医生建议询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
专家观点。人工智能助手市场呈指数级增长，我们已经看到本应提供帮助的技术可能成为风险因素。问题不在于人工智能本身，而在于缺乏"停止信号"——即通常通过与真人或专业治疗师交流获得的纠正性影响。在监管机构和开发者引入能够识别并中断此类模式的机制之前，"强化螺旋"仍将是弱势用户的潜在威胁。