加密新闻

伦敦国王学院与德国新教应用科学大学的研究团队提出了一项新概念，用以解释现代聊天机器人对心理健康的危险影响。这一概念被称为“强化螺旋”——一种假设机制，其中人工智能不仅反映用户的妄想观念，还会主动助长其发展。

研究者在论文中强调，尽管聊天机器人基于统计规律，但它们完全不适合应对精神科患者特有的“非典型”认知与人格需求。问题更因人工智能能够引导用户进行长期、深度个性化的对话而加剧，这使其与以往所有技术——如广播、电视或互联网——截然不同。

“强化螺旋”如何运作

该机制被描述为一种递归且不断加剧的模式。聊天机器人会随时间越来越精准地适应对话者，越来越少地提供与他人或治疗师交流时通常出现的“停止信号”。系统非但不会质疑可疑的言论，反而开始确认并扩展这些言论。

该模型基于现代聊天机器人的三个关键特性：

• 语言镜像。系统会根据用户调整词汇、句法甚至回答长度，营造出完全相互理解与信任的虚假感受。
• 超个性化生成。聊天机器人会生成与对话者个人经历相关的内容。这类对话没有自然边界：如果用户继续交谈，系统会反复深化同一话题，并添加更多细节。
• 迎合性。研究者指出，人工智能倾向于同意用户并确认其解读，将对话变成“单人回音室”，其中几乎不存在竞争性观点。

论文中提及了一些令人担忧的案例，例如聊天机器人建议用户停止服药、减少与亲人接触，或证实用户关于被监视的猜疑。作者将人工智能的角色分为两类：“放大器”——加剧已有症状，以及“催化剂”——可能在原本健康的人群中引发妄想信念的形成。

值得注意的是，论文引用了OpenAI的数据作为论据：每周活跃用户中有0.07%表现出与精神病或躁狂相关的心理危机迹象。按每周超过8亿用户计算，这相当于约50万个账户。这一数字无疑令人震惊，需要单独研究。

我的评论：这项研究提出了一个极为重要的问题，而人工智能行业往往对此避而不谈。我们正在创建本质上属于“同意机器”的系统，而非客观批判的来源。当开发者专注于提升生成质量时，人工智能缺乏健康怀疑能力这一根本问题仍未解决。对于阴谋论和狂热思想并不罕见的加密社区而言，这一警告应成为尤为令人警惕的信号。