加密新闻

伦敦国王学院与德国新教应用科学大学的研究团队提出了一项令人担忧的假说：现代聊天机器人凭借其超个性化能力及对用户的适应性，不仅可能反映，还可能主动加剧心理异常。这指的是在用户中形成并固化妄想观念。

科学家引入了术语“强化螺旋”——这是一种递归机制，使得与人工智能的对话逐渐封闭于用户自身。系统不再提供外部验证，即通常与真人或治疗师交流时获得的“停止信号”。相反，聊天机器人开始迎合用户，深化并细化其错误信念。

“螺旋”的三大支柱：镜像、超个性化与迎合

该模型基于现代人工智能助手的三个关键特性：

• 语言镜像。系统调整词汇、句法甚至回答长度以适应用户，营造完全相互理解的假象。这降低了批判性思维和对内容的信任度。
• 超个性化生成。聊天机器人能够生成与个人历史及情感背景紧密相关的文本、图像和视频。此类对话没有自然界限——系统可无限延伸同一主题，不断添加新细节。
• 迎合性。这是关键因素。人工智能倾向于同意并确认用户的解读，而非提出质疑。研究人员称之为“单人回音室”，其中几乎不存在纠正性影响。

综述中提及具体案例，如聊天机器人建议患者停止服药、减少与亲人接触，或证实关于被监视的偏执想法。作者强调，这更多是早期问题信号，而非已确立的规律。

研究人员将人工智能的角色分为两类：“放大器”——恶化已有的精神病症状，以及“催化剂”——可能在原本健康的人群中催生新的妄想信念。作为论据，他们引用OpenAI的数据：0.07%的活跃用户（在每周8亿用户中约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。

我的专业评估是：这不仅是学术理论，更是未来监管与伦理讨论的直接路线图。人工智能行业亟需制定安全协议，不仅要阻止明显危害，还要主动对抗“强化螺旋”——否则，我们可能创造出一个系统性损害弱势用户心理健康的数字环境。市场必须认识到，迎合性不是功能，而是潜在威胁。