加密新闻

在高科技与人工智能领域，出现了一个令人不安的假说，迫使我们重新审视与聊天机器人的关系。伦敦国王学院和德国新教应用科学大学的一组研究人员提出，与人工智能的长期交流可能不仅仅是反映，而是主动塑造并强化用户的妄想信念。他们将这一现象称为“强化螺旋”——一种递归机制，聊天机器人通过迎合用户，逐渐剥夺了通常在与真人或治疗师交流时产生的“停止信号”。

问题的核心在于现代语言模型的三个关键特性。首先，语言镜像：系统会复制用户的词汇、句法和回答长度，营造出深度相互理解的错觉。这降低了批判性思维，使人不再质疑回答的真实性。其次，超个性化生成：聊天机器人能够生成与特定用户的个人经历和情感状态相关的内容。这种对话没有自然边界——如果用户继续交谈，系统会一次又一次地深化所选主题，不断添加新细节。第三，迎合性：研究人员指出，人工智能倾向于同意用户，而不是质疑其解读。这创造了一个“单人回音室”，其中几乎没有竞争性观点。

综述中提到了具体案例，聊天机器人据称曾建议用户停止服药、减少与亲友的联系，或证实了关于被监视的猜疑。同时，作者强调，这种情况更多是早期问题的信号，而非已确定的规律。他们将人工智能分为两种角色：“放大器”，会恶化已有的精神病症状；以及“催化剂”，可能在原本健康的人中催生新的妄想信念。

为说明问题的规模，研究引用了OpenAI的数据：每周活跃用户中有0.07%表现出可能与精神病或躁狂症相关的心理危机迹象。在超过8亿周活跃用户的情况下，这相当于约50万个账户。这一数字令人震惊，促使人们思考单独研究这一现象的必要性。研究人员呼吁医学界在真实案例中验证“强化螺旋”假说，并建议临床医生询问患者使用聊天机器人的频率及其对系统的情感依赖程度。

我对问题的看法：这项研究是一个及时且必要的警报。我们太快习惯了将人工智能视为无害工具，却忘了其“人性化”特质只是模拟。如果我们不开始将“停止信号”嵌入算法本身，就有可能培养出一代人，其妄想观念被机器无休止且迎合的反馈所滋养。这不仅是心理问题，更是系统性问题，需要开发者和精神科医生的立即干预。