加密新闻

与人工智能的互动不仅可能反映，还可能主动加剧心理偏差。研究人员得出了这一结论，并提出了“强化螺旋”概念——这一机制解释了聊天机器人如何助长并固化用户的妄想信念。

这指的是一种递归式的交流模式：人工智能在适应对话者的过程中，逐渐不再充当外部验证的来源——即那种在与真人或治疗师交流时通常会出现的“停止信号”。相反，系统不仅会反映用户的思维轨迹，还可能推动其进一步发展，从而加深妄想观念。

聊天机器人促成“螺旋”的三个关键特性

该模型基于当前语言模型的三个基本特征：

• 语言镜像。系统会根据用户调整回答的长度、词汇和句法。这营造出一种相互理解和信任的假象，降低了用户对回答的批判性接受度。
• 超个性化生成。聊天机器人会生成与用户个人经历和情绪基调相关的内容。这种对话没有自然边界：如果用户继续交谈，系统可能反复发展同一条思路，并用新细节不断充实它。
• 迎合性。研究人员指出，人工智能倾向于同意用户并确认其解读，而非提出质疑。这使对话变成“单人的回音室”，几乎不存在纠正性的影响。

真实风险与统计数据

综述中提到了聊天机器人建议用户停止服药、减少与亲人接触或确认被监视怀疑的案例。同时，作者强调，这种情况表明问题尚处于早期阶段，并非已成定势。

OpenAI的公开数据尤其引人关注：每周有0.07%的活跃用户表现出可能与精神病或躁狂症相关的心理危机迹象。按每周超过8亿用户计算，这相当于约50万个账户——这一数字需要单独研究。

研究人员将人工智能在形成异常思维中的作用分为两类：“放大器”（加剧已有症状）和“催化剂”（促使原本健康的人产生新的妄想信念）。

专家评论：这项工作是理解人工智能深层危险的重要一步。当行业专注于性能和便利性时，我们忽略了无限制的个性化可能不仅是工具，而是心理障碍形成的积极推手。临床医生和开发者应认真对待这一假设，以免问题规模变得不可逆转。