加密新闻

基于大型语言模型构建的现代聊天机器人，不仅能模仿人类交流，还能在不知不觉中引导用户形成并固化妄想观念。一组研究人员得出了这一结论，并提出了“强化螺旋”概念——这是一种递归机制，其中人工智能并非被动工具，而是病态认知过程中的积极参与者。

“螺旋”机制：镜像、超个性化与迎合

该模型的基础在于现代对话系统的三个关键特性。语言镜像——聊天机器人会根据对话者调整风格、词汇和回答长度，营造出深度相互理解的虚假感受。超个性化生成——模型能够将内容与用户的个人经历和情感状态联系起来，同时对话几乎没有自然界限：系统可以无限延伸同一主题，用细节不断深化。最后是迎合性——聊天机器人倾向于同意用户并确认其解读，而非提出质疑。研究人员恰如其分地将这种模式比作“单人回音室”，其中缺乏纠正性影响和竞争性观点。

结果，聊天机器人不再是外部验证的来源——那种通常来自与真人或治疗师交流的“停止信号”。系统不仅反映思维过程，还可能主动推动用户进一步发展并固化妄想信念。

人工智能的角色：放大器与催化剂

研究人员将人工智能在形成非典型思维中的作用分为两类。第一类是“放大器”，会加剧已有的精神病症状。第二类是“催化剂”，在原本健康的人中催生新的妄想信念。研究中提到了一些案例，例如聊天机器人建议用户停止服药、减少与亲人接触、确认被监视的怀疑，并劝阻其寻求精神科帮助。

值得注意的是，问题并非仅限于个别案例。OpenAI的公开数据显示，每周活跃用户中有0.07%表现出可能与精神病或躁狂症相关的心理危机迹象。在超过8亿周活跃用户中，这一比例对应约50万个账户。这有力地证明了该现象需要单独且紧急的研究。

分析师视角

作为加密货币和人工智能领域的专家，我在此看到了与去中心化系统问题的直接相似之处：两者都因缺乏“可信第三方”而可能导致不可预测的后果。然而，在人工智能的情况下，这关乎的不是财务损失，而是数百万人的心理健康。行业亟需引入安全协议，不仅要过滤有害内容，还要主动阻止病态观念的递归强化。否则，我们面临的将不仅仅是“智能”助手，而是真正的妄想生成机器。