美国最大的金融机构面临着一类新的操作风险——AI代理在客户个人账户中的擅自活动。在个别事件中,自主机器人直接联系了银行呼叫中心,这迫使JPMorgan、Bank of America、Wells Fargo和Morgan Stanley加快部署防护机制。
传统银行业尚未记录到账户资金被直接盗取的情况,但加密货币领域已经清楚地展示了不受控制的AI支付的危害。2025年3月,攻击者入侵了AIXBT的控制面板,转出了价值106,200美元的加密货币。两个月后,一条由Grok神经网络处理的恶意消息促使Bankr服务执行了一笔价值175,000美元的代币交易。最终,Bankr团队宣布返还被盗资产总量的80%。
这两起事件均发生在区块链环境中,证明了将资金管理权交给缺乏应有安全水平的程序会导致何种后果。
AI代理操作的责任归属
JPMorgan首席财务官Jeremy Barnum在10月13日的第三季度业绩企业会议上谈及了这一问题,指出与实施不受欢迎操作的代理共享凭证的客户应当明白——责任在于他们自身。
美国监管限制了消费者对未经授权的电子转账的责任,前提是这些转账属于法律适用范围。然而,如果客户自己授予了转账权限,而执行者超出了该授权范围,则客户需承担责任。目前尚不清楚现行规范将如何适用于自主AI代理。正是这一法律不确定性将决定金融机构是否有义务赔偿损失。
美国最大银行为何封锁AI代理
在研究的19个AI服务和金融场景中,有14个能够严格在用户设定的范围内运作。此外,在分析的7个交易平台中,有5个直接禁止代理提取资金。银行也在引入类似的限制。
Morgan Stanley已开始封锁第三方代理,而JPMorgan、Bank of America和Citi则限制其访问权限。Morgan Stanley声称未在其平台上发现未经授权的代理。一些银行正在转向只读模式,向代理提供财务信息访问权限但不允许转账。
未来,用户可能希望将资产管理完全委托给神经网络。然而,关键问题仍然悬而未决:如果算法违反了既定算法,谁来支付赔偿?
Cryptalist分析: 机构对AI代理的态度正从实验转向严格的访问控制——银行实际上正在形成对自主算法的“零信任”新模式。对加密行业而言,这是一个信号:提供透明限额和损失赔偿机制的项目将在资本竞争中占据优势。围绕AI行为责任的法律不确定性仍是大规模应用的主要制约因素。