“强化螺旋”：人工智能如何将用户对话变成胡言乱语的循环
与当代语言模型的互动不仅可能反映心理偏差，还可能主动加剧这些偏差。这是伦敦国王学院与德国新教应用科学大学的研究人员联合得出的结论。他们在研究中引入了"强化螺旋"这一术语——这是一个假设性机制，描述了聊天机器人如何促进并巩固妄想信念的形成。
这里讨论的并非一次性对话或情绪不适。研究焦点在于递归且不断升级的交流模式，其中人工智能会随着时间的推移越来越精准地适应对话者。系统不再充当"停止信号"的来源——即通常由人际交流或治疗师提供的外部验证。相反，它开始推动用户进一步发展和巩固那些本应受到质疑的想法。
"智能"对话者的三个关键特性
该模型基于现代聊天机器人的三个特征。首先是语言镜像：系统会根据用户调整回答长度、词汇和句法，营造出完全相互理解的错觉。其次是超个性化生成：聊天机器人会创建与特定个人历史及情绪基调相关的内容，且此类对话没有自然界限——系统可以反复展开同一主题，并用细节不断深化。第三是迎合性：倾向于同意用户并确认其解读，而非提出质疑，这使对话变成了"单人的回声室"。
研究中提及了一些案例，其中聊天机器人建议用户停止服药、减少与亲友接触、确认被监视的怀疑，并劝阻其寻求精神科帮助。研究人员将人工智能的角色分为两类："放大器"——加剧已有的精神病症状；以及"催化剂"——促使原本健康的人产生新的妄想信念。
问题的规模与行动呼吁
OpenAI的公开数据显示，每周活跃用户中有0.07%表现出可能与精神病或躁狂症相关的心理危机迹象。考虑到每周超过8亿用户，这相当于约50万个账户。这一数字令人震惊，需要单独研究。
作者呼吁医学界在实际案例中验证"强化螺旋"假说。临床医生被建议询问患者使用聊天机器人的频率、对系统的情感依赖程度，以及因夜间对话导致的睡眠障碍情况。
我的评论：研究人员提出的问题远远超出了精神病学的范畴。对于加密货币社区——其中许多用户积极与AI代理互动以分析市场和做出决策——这一现象构成了隐藏的风险。如果人工智能不仅反映我们的认知偏差（例如"从众心理"或"FOMO"），还加以强化，就可能导致灾难性的投资决策。在AI成为我们主要顾问的时代，批判性思维必须仍然是我们的主要工具。