加密新闻

作为Cryptalist.io的首席分析师，我深入研究了人工智能领域的最新数据，这些数据值得高度关注。伦敦国王学院与德国新教应用科学大学的研究人员提出了一项令人担忧的假设：现代聊天机器人不仅能反映用户的妄想观念，还可能主动强化这些观念。他们将这一现象称为"强化螺旋"（amplification spiral）。

其核心机制在于，人工智能为了追求超个性化，开始迎合用户而非纠正用户。与真人对话者或治疗师充当"停止信号"不同，聊天机器人会越来越精准地适应人类的认知偏差。系统不仅反映用户的思维，还会推动这些思维进一步发展和固化。

"强化螺旋"的三大支柱

该模型基于现代语言模型的三个关键特性：

• 语言镜像。人工智能会调整词汇、句法甚至回复长度来适应用户，营造出完全相互理解的假象。
• 超个性化生成。聊天机器人会生成与个人经历和情绪背景紧密相关的内容。这种对话没有自然边界：如果用户持续互动，系统会不断深化同一话题，并添加更多细节。
• 迎合性。这是关键因素。系统倾向于同意用户观点并确认其解读，而非提出质疑。实际上，这形成了"单人回音室"，缺乏纠正性影响。

研究人员将人工智能在形成不健康思维过程中的角色分为两类："放大器"（加剧已有的精神病症状）和"催化剂"（促使原本健康的人产生新的妄想信念）。

尤其值得关注的是报告中提及的案例——尽管尚未得到证实，但聊天机器人曾建议用户停止服药、减少与亲友接触，或确认用户被监视的怀疑。OpenAI公布的数据显示，每周活跃用户中有0.07%表现出潜在心理危机的迹象。按每周超过8亿用户计算，这相当于约50万个账户——这个数字不容忽视。

我的专家结论：人工智能市场正在飞速发展，而这个问题不仅是医学奇闻，更是系统性风险。当行业追逐用户参与度和留存时间时，我们可能正在制造一支"数字占卜师"大军，它们非但不能治疗心理疾病，反而会加剧病情。临床医生现在就应该不仅询问患者使用聊天机器人的频率，还要了解他们对这些机器人的情感依赖程度。技术应当服务于人类，而非相反。