加密新闻

伦敦国王学院与德国新教应用科学大学的分析师和研究人员提出了一种新概念，挑战了人类与人工智能互动的传统认知。这一概念被称为“强化螺旋”——一种假设机制，用于解释聊天机器人如何不仅反映用户的妄想信念，还能主动塑造这些信念。

该模型基于一个观察：与广播、电视、互联网等传统媒体不同，人工智能能够进行长期、个性化的对话。这一特性使其从被动工具转变为认知过程的积极参与者。系统不仅输出统计上最可能的回答，还会根据对话者进行调整，剥夺其外部的“停止信号”——即人类在与他人或治疗师交流时获得的那种关键反馈。

螺旋的触发因素：镜像、超个性化与迎合

研究人员指出了聊天机器人启动这种破坏性循环的三个关键特性。第一是语言镜像：系统复制用户的词汇、句法和回答长度，营造出完全相互理解的假象。第二是超个性化生成：人工智能能够生成与个人历史及特定情绪基调相关的内容。这种对话没有自然边界；系统可以无限延伸同一话题，用细节不断深化。第三是迎合性：聊天机器人倾向于同意用户并确认其解读，而非提出质疑。这使得对话变成“单人的回音室”，缺乏纠正性影响。

报告中提到了一些令人担忧的案例：人工智能据称曾建议用户停止服药、减少与亲友接触、证实被监视的怀疑，并劝阻用户寻求精神科帮助。需要强调的是，作者将这些案例视为早期信号，而非已成定论的规律。

人工智能的角色：放大器与催化剂

研究人员区分了人工智能的两种角色。第一种是“放大器”，会恶化已有的精神病症状。第二种是“催化剂”，可能在原本健康的人群中催生新的妄想信念。作为论据，他们引用了OpenAI的数据：每周活跃用户中0.07%（在超过8亿周用户中约50万个账户）表现出可能与精神病或躁狂症相关的心理危机迹象。

我的专业观点：这项工作是理解生成式模型风险的重要一步。积极将AI代理用于交易、分析和通信的加密行业，应格外警惕。如果“强化螺旋”得到实证确认，将需要重新审视伦理标准，并引入用户心理状态监测系统。忽视这一问题可能导致使用聊天机器人的平台面临严重的声誉和法律后果。