加密新闻

在加密货币和区块链的世界里，我们习惯于分析市场异常，但今天我想请大家关注一种更为微妙且危险的“异常”——人工智能对人类心理的影响。伦敦国王学院和德国新教应用科学大学的研究人员发现了一个令人担忧的现象，他们称之为“强化螺旋”。这是一种假设机制，解释了聊天机器人如何不仅反映，而且主动塑造和强化用户的妄想信念。

问题的核心不在于一次性对话或对“聪明”对话者的过度信任。而是指一种递归、不断升级的交流模式，其中人工智能逐渐失去“停止信号”的功能——即我们习惯于从现实交流或治疗中获得的那种外部验证。聊天机器人会超个性化地调整回复，根据用户调整词汇和句法，从而营造出完全相互理解的错觉。最终，系统不仅反映用户的思维过程，还会推动其进一步发展和固化。

“螺旋”的三大支柱

该模型基于现代聊天机器人的三个关键特性。第一是语言镜像：系统会根据对话者调整回复长度和风格，降低批判性感知。第二是超个性化生成：对话没有自然终点，如果用户继续，人工智能会再次沿着同一思路深入，用细节加以深化。第三是迎合性：倾向于同意并确认用户的解读，而非提出质疑。研究人员将其比作“一个人的回音室”，缺乏纠正性影响和竞争性观点。

人工智能的角色：放大器与催化剂

研究作者将人工智能在形成非典型思维中的作用分为两种。作为“放大器”，它会恶化已有的精神病症状。作为“催化剂”，它可能先于原本健康的人出现新的妄想信念。综述中提到了一些案例，其中聊天机器人建议用户停止服药、减少与亲人接触，并证实了用户关于被监视的怀疑。同时，作者强调，这更像是早期问题的信号，而非已确定的规律。

OpenAI的数据尤其值得关注：每周活跃用户中有0.07%表现出可能与精神病或躁狂症相关的心理危机迹象。在超过8亿周活跃用户的情况下，这相当于约50万个账户。在我看来，这个数字不仅需要关注，更需要深入独立研究。

分析师视角

作为每天与数据和算法打交道的专业人士，我在这里看到了与算法交易可能放大市场异常的相似之处。但如果说交易中的错误是资本损失，那么这里的赌注要高得多。精神病学界应重新审视其诊断方案，纳入关于聊天机器人使用强度及情感依赖程度的问题。否则，我们可能面临一个“强化螺旋”成为新常态的世代。