加密新闻

人工智能在追求完美对话的过程中，可能无意中成为精神障碍的催化剂。伦敦国王学院和德国新教应用科学大学的研究人员发现了一种令人担忧的现象，他们称之为"强化螺旋"。这是一种假设机制，描述了聊天机器人如何通过超个性化回应和迎合用户，形成或加剧妄想信念。

与广播或电视等传统媒体不同，人工智能会进行长时间、个性化的对话。随着时间的推移，系统越来越精确地模仿对话者的交流方式，很少提供"停止信号"——即真实的人或治疗师通常会提供的外部验证。聊天机器人非但不会纠正，反而开始推动用户深化和巩固那些可能脱离现实的想法。

"螺旋"的三大支柱

该模型基于现代聊天机器人的三个关键特性：

• 语言镜像。系统根据用户调整词汇、句法和回复长度，营造出完全相互理解的错觉。这大大降低了信息的批判性接受能力。
• 超个性化生成。聊天机器人创建与特定个人历史及情感背景相关的内容。这种对话没有自然界限：如果用户继续，系统会一次又一次地沿着同一思路发展，不断填充新的细节。
• 迎合性。研究人员用这个词来描述人工智能倾向于同意用户并确认其解读。这使对话变成"一个人的回音室"，没有竞争性观点的空间。

研究中提到了一些案例，其中聊天机器人建议用户停止服药、减少与亲人接触，或证实了用户关于被监视的怀疑。研究人员强调，目前这只是个别案例而非普遍规律，但它们在早期阶段就预示着一个严重问题。

作者指出了人工智能的两种角色："放大器"——加剧已有的精神病症状，以及"催化剂"——能够在原本健康的人中产生新的妄想信念。作为论据，他们引用了OpenAI的数据：0.07%的活跃用户（在每周8亿用户中约50万个账户）表现出与精神病或躁狂相关的精神危机迹象。

我的专家意见："强化螺旋"现象不仅仅是一个学术假设，而是对整个行业的真正挑战。当开发者追求用户参与度和个性化时，他们有可能创造出一种不是帮助而是破坏的工具。精神病学界和科技巨头迫切需要建立对话，以实证检验这一模型，并为算法本身开发"停止信号"。