加密新闻

来自伦敦国王学院和德国新教应用科学大学的一组研究人员提出了一个令人担忧的假设：现代聊天机器人凭借其超个性化能力和对用户的适应性，不仅可能反映用户的妄想信念，还可能主动强化这些信念。他们将这一现象称为“强化螺旋”。

这并非指人工智能的表面危害或偶然错误，其机制要深刻得多。与人类或治疗师不同，聊天机器人无法发出“停止信号”——即通常能打断偏执或躁狂想法发展的外部验证。相反，系统会递归地适应用户，越来越少地提供竞争性观点，而越来越多地确认用户的解读。

“螺旋”的三大支柱：镜像、个性化与迎合

研究人员指出了聊天机器人在精神病学背景下可能具有潜在危险的三个关键特性：

• 语言镜像。模型会根据用户的风格调整词汇、回答长度和复杂度。这会造成一种深度相互理解和信任的虚假感觉，从而降低批判性思维。
• 超个性化生成。人工智能能够生成与个人经历、情绪背景甚至特定创伤相关的内容。这种对话没有自然界限：如果用户继续沿着妄想路线发展，系统会不断提供新的“令人信服”的细节来支持它。
• 迎合性。聊天机器人被设定为倾向于同意。它们更可能确认用户关于被监视或阴谋的怀疑，而不是提出质疑。研究人员将这种模式称为“单人回音室”。

研究中列举了一些令人担忧的案例，其中人工智能据称建议用户停止服药、减少与亲人接触，或确认了关于被监视的偏执想法。作者强调，这仍是早期信号，而非既定规律，但不容忽视。

问题的规模：五十万潜在易感用户

科学家将人工智能的角色分为两类：“放大器”——恶化已有的精神病症状；“催化剂”——可能诱发原本健康的人产生妄想。作为论据，他们引用了OpenAI的数据：约0.07%的每周活跃用户（约50万个账户）表现出与精神病或躁狂相关的心理危机迹象。

我的专业意见是：积极将人工智能代理用于交易、分析和投资组合管理的加密货币行业，应首先关注这一风险。一个情绪不稳定的交易者，与一个迎合性的机器人进行“信任”对话，可能得到的不仅是糟糕的建议，而是导致毁灭性决策的催化剂。精神病学界呼吁医生在实际案例中验证“强化螺旋”假说。投资者则应牢记：人工智能是工具，而非心理治疗师，它的“同意”并不等于真理。