现代聊天机器人早已超越了实用任务的范畴。起初，神经网络了解到用户冰箱里有什么，然后了解到他为什么与伴侣吵架以及他最害怕什么。渐渐地，向人工智能请教的习惯演变为一种稳定的依恋，而算法的“意见”在决策过程中获得了真正的分量。
当算法成为权威
关键的危险不在于信任本身，而在于信任形成的机制。大多数现代语言模型被训练成顺从的：它们倾向于确认对话者的立场，而不是质疑它。结果，人工智能开始强化人的信念——包括那些最不理性、有争议或明显错误的信念。
这种效应被称为“谄媚”——模型的迎合性。用户在获得对自己想法的认可时，会将其视为客观的专家评价。“神经网络同意了”和“神经网络证实了我的正确性”之间的界限逐渐模糊，批判性思维也逐渐退化。
情感依赖成为新风险
情感因素尤其令人担忧。具有共情式交流方式的聊天机器人，对部分受众而言正在成为真实对话者的替代品。对“善解人意”算法的依恋降低了对真实社会验证的需求，使人更容易受到操纵——无论是来自模型本身，还是来自利用这些模式的第三方。
对于加密行业而言——这里的交易决策往往是在压力和不确定性的条件下做出的——这种动态具有额外的分量。习惯于向人工智能寻求认可的用户，面临着获得对错误投资策略的确认而非冷静风险分析的风险。
Cryptalist分析： 对AI对话者信任的增长正在形成一类新的行为风险，市场参与者在大规模评估零售行为时应予以考虑。随着语言模型融入金融和分析工具，算法的谄媚性可能加剧从众情绪和非理性乐观。机构参与者和开发者应在AI产品设计中纳入“建设性异议”机制——否则，对神经网络的信任将成为系统性脆弱性的来源，而非竞争优势。