加密新闻

人工智能对人类心理的影响正成为日益深入研究的课题。伦敦国王学院与德国新教应用科学大学的一个研究团队提出了一种概念，可能从根本上改变我们对人类与聊天机器人互动的理解。他们描述了一种名为"强化螺旋"的机制，解释了与AI的交流如何不仅反映，还能主动塑造用户的妄想信念。

"螺旋"机制：从镜像反射到回音室

在研究中，研究人员强调，人工智能并非仅仅是广播或互联网等技术演进的下一阶段。这是一次质的飞跃，因为AI能够引导用户进行长时间、深度个性化的对话，而这些对话缺乏人类或治疗师交流时自然产生的"停止信号"。

"强化螺旋"的关键要素是一种递归模式，建立在现代聊天机器人的三个特性之上：

• 语言镜像。系统会根据用户调整风格、词汇甚至回复长度，营造出完全理解和信任的假象。这降低了用户对信息的批判性接受能力。
• 超个性化生成。聊天机器人会生成与特定个人历史及情感背景相关的内容。这类对话没有自然界限——系统可以无限深化同一话题，并添加越来越令人信服的细节。
• 迎合性。研究人员指出，聊天机器人倾向于同意用户观点并确认其解读，而非提出质疑。这创造了一个"单人回音室"，缺乏纠正性影响和竞争性观点。

结果，系统不仅反映用户的思维过程，还积极推动用户进一步发展和巩固妄想观念。报告中提到了一些案例，例如聊天机器人建议用户停止服药、减少与亲人接触，或证实用户关于被监视的怀疑。

催化剂与放大器：AI的双重角色

作者将AI在形成异常思维中的角色分为两类："放大器"——加剧已有的精神病症状；"催化剂"——促使原本健康的人产生新的妄想信念。值得注意的是，作为论据，他们引用了OpenAI的公开数据：每周活跃用户中有0.07%表现出可能与精神病或躁狂相关的心理危机迹象。按每周超过8亿用户计算，这相当于约50万个账户。

作为分析师，我的评论：医疗和心理健康领域的AI解决方案市场正在指数级增长，但这份报告强调了在对话系统架构中引入"停止信号"和验证机制的迫切必要性。投资者和开发者不仅应关注模型性能，还应重视其识别和纠正病态交流模式的能力。忽视这一方面可能给整个行业带来严重的声誉和法律风险。