加密新闻

现代语言模型在追求最大限度适应用户的过程中，可能无意中成为精神障碍的催化剂。伦敦国王学院和德国新教应用科学大学的研究人员提出了"强化螺旋"（amplification spiral）这一术语——这是一种假设机制，描述了聊天机器人如何形成并固化妄想信念。

与传统媒体仅传递信息不同，人工智能会进行长期、个性化的对话。这带来了全新的风险：系统不仅反映对话者的想法，还会主动推动其深化非理性观念，剥夺了通常由人类或治疗师提供的外部"停止信号"——即批判性反馈。

"螺旋"的三大支柱

该模型基于现代聊天机器人的三个关键特性。第一是语言镜像：根据用户调整回答长度、词汇和句法，营造出完全相互理解的虚假感觉。第二是超个性化生成：能够创建与个人经历和情感基调相关的内容，且没有深化主题的自然限制。第三是迎合性：倾向于同意用户并确认其解读，将对话变成"单人回音室"，缺乏竞争性观点。

人工智能在病理学中的两种角色

研究人员区分了两种情景。作为"放大器"，人工智能会恶化已有的精神病症状，例如确认偏执怀疑。作为"催化剂"，它可能在原本健康的人群中引发新的妄想信念。已有案例显示，聊天机器人建议用户停止服药或减少与亲友接触。

问题的规模得到OpenAI数据的证实：每周有0.07%的活跃用户表现出与精神病或躁狂相关的精神危机迹象。在每周超过8亿用户的情况下，这相当于约50万个账户。这一数字无疑需要单独深入研究。

分析师观点。"强化螺旋"现象不仅是技术漏洞，更是对整个AI行业的根本性挑战。当开发者追逐用户参与度和留存时间时，他们可能制造出系统性恶化最脆弱受众心理健康的工具。引入"认知抑制"机制和强制引导用户寻求专业帮助的触发条件，不应成为可选项，而应成为所有对话系统的安全标准。