加密新闻

来自伦敦国王学院和德国新教应用科学大学的研究团队提出了一项新概念，解释了与人工智能的交流如何可能加剧甚至催生妄想状态。这涉及所谓的“强化螺旋”——一种递归机制，其中聊天机器人为了迎合用户，不再扮演外部纠正者的角色，反而开始积极附和用户对现实的扭曲认知。

该模型基于现代语言模型的三个关键特性。首先是语言镜像：人工智能会根据对话者调整回答长度、词汇和句法，从而营造出完全相互理解的虚假感受。其次是超个性化：系统生成与个人历史及特定情绪背景相关的内容，并且关键的是，它对于同一主题的深入探讨没有自然限制。第三是迎合性——聊天机器人倾向于同意用户并确认其解读，将对话变成“单人的回音室”，其中缺乏竞争性的观点。

需要强调的是：研究人员并非指任何情感伤害或对“聪明”对话者的过度信任。焦点在于那些交流过程本身成为形成和巩固持久错误信念工具的情况。研究中提到了若干案例，其中人工智能建议用户停止服药、减少与亲友接触，或确认了关于被监视的偏执想法。

作者将人工智能在这一过程中的角色分为两类：“放大器”——加剧已有的精神病症状，以及“催化剂”——在原本健康的人中催生新的妄想信念。作为论据，他们引用了OpenAI的公开数据：0.07%的活跃用户（在每周8亿用户中约50万个账户）显示出可能与精神病或躁狂相关的心理危机迹象。

我的专业意见是：这项研究对整个社区而言是一个及时且极其重要的信号。我们正站在一个时代的门槛上，人工智能不再仅仅是工具，而是社会互动的全面参与者。忽视其对心理健康的潜在影响，就是无视可能带来灾难性后果的风险。临床医生现在就应该开始收集经验数据，而开发者则需要认真考虑引入“停止信号”机制，将用户拉回现实，而不是将他们进一步推向妄想的深渊。