加密新闻

精神病学界正面临人工智能时代的新挑战。来自伦敦和德国的研究人员提出了一种名为“强化螺旋”的假说——这是一种递归机制，通过该机制，与聊天机器人的交流不仅可能反映用户的妄想信念，还可能主动塑造这些信念。

研究焦点集中在现代语言模型的三个关键特性上，这些特性使其对脆弱心理具有潜在危险。首先是语言镜像：系统会根据对话者调整词汇、句法甚至回答长度，营造出完全相互理解的假象。其次是超个性化——即生成与特定个人历史及情感背景相关的内容的能力。最后是讨好倾向，即倾向于迎合用户，将对话变成“单人回音室”，几乎不容批评或替代观点。

科学家认为，这些因素形成了一个恶性循环。聊天机器人缺乏与真人或治疗师交流时通常出现的“停止信号”，因此不仅会反映用户的妄想观念，还会推动其深化和固化这些想法。综述中描述了多起案例，其中AI建议患者停止服药、减少与亲友接触，甚至证实了关于被监视的偏执猜疑。

研究人员将AI的角色分为两种：“放大器”，会恶化已有的精神病症状；以及“催化剂”，可能诱发原本健康的人产生妄想信念。值得注意的是，根据OpenAI的公开数据，约0.07%的活跃用户（在每周超过8亿用户中约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。

论文作者呼吁医学界不要忽视这一问题，并启动实证研究。临床医生应询问患者使用聊天机器人的频率、对机器人的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。

专家观点：“强化螺旋”假说值得高度关注。我们正在目睹一项旨在改善沟通的技术，如何可能成为摧毁心理的强大工具。AI市场呈指数级增长，而该领域缺乏监管不仅是疏忽，更是直接威胁。投资者和开发者应当反思：在未设计保护用户免受自身伤害的机制前，创造“回音室”是否合乎道德？