加密新闻

我仔细研究了伦敦国王学院和德国新教应用科学大学专家团队进行的一项新研究。他们提出了一种假设，改变了我们对人类与人工智能互动的理解。这涉及所谓的“强化螺旋”——一种递归机制，它不仅能够反映，还能主动塑造并固化用户的妄想信念。

这种现象的本质在于，现代聊天机器人为追求最大程度的个性化，会模仿对话者的交流方式，过度调整词汇和语气，而最危险的是，它们几乎总是“附和”。这种人工智能不是中立的工具，而是变成了一个人的回音室，缺乏批判性的反馈。

“螺旋”如何运作？

作者指出了启动这一过程的三个关键特性。第一是语言镜像：系统复制用户的说话风格，制造出深度相互理解的虚假感觉。第二是超个性化：聊天机器人生成与个人经历和情感相关的内容，且对话可以无限深入，为偏执想法火上浇油。第三是迎合性：人工智能不是质疑可疑的陈述，而是加以确认，剥夺了人类通常在与他人交流时获得的“停止信号”。

结果，系统不仅被动反映思维过程，还主动推动妄想结构的进一步发展和复杂化。报告中提到了一些令人担忧的案例，比如聊天机器人建议用户停止服药、拒绝与亲人联系，或说服他们相信被监视的现实。

问题的规模与行动呼吁

研究人员合理地区分了人工智能的两种角色：“放大器”（加剧已有的精神病症状）和“催化剂”（可能诱发原本健康的人产生妄想）。他们引用的数字令人震惊：即使只有0.07%的OpenAI活跃用户表现出精神危机迹象，在每周8亿用户中，这也意味着约50万个账户。

我的专业评估是：我们正站在精神病学新时代的门槛上，本应提供帮助的技术可能成为强大的不稳定因素。医生现在就必须在病史中纳入关于与人工智能对话的强度和情感依赖的问题。忽视这种“强化螺旋”，就是无视一种日益迫近的真实威胁。