企业界正面临一个悖论:人工智能代理的全面普及并未带来预期的生产力增长,反而催生了一类新的管理和财务问题。初创公司Hebbia的创始人乔治·西武尔卡在其为a16z通讯撰写的文章中诊断出系统性错误——企业急于部署代理,却缺乏适当的控制基础设施,如今正在承受这一仓促行为的后果。
在他看来,关键问题在于“tokenmaxxing”实践——将消耗的代币数量作为活跃度的主要指标来追逐。组织错误地将人工智能支出的爆炸式增长视为有效部署的标志。西武尔卡尖锐地指出:“你刚刚雇佣了一百万个糟糕的员工。”这并非比喻。代理并未降低劳动力成本,反而改变了其结构,且是向更糟的方向。正如专家所言,历史上首次,人变得比软件更便宜。
管理危机,而非技术危机
西武尔卡的分析表明,人工智能代理的故障往往并非源于模型的不完善,而是企业无法明确表述任务。只有“大约百分之一的员工”能够为代理提供足够的上下文以进行高质量工作。结果是“循环”:代理无休止地调整其行动,过度消耗代币却未产生相应成果。这本质上就是“为消耗代币而消耗代币”。我们目睹的不是技术危机,而是深刻的管理危机。
财务后果令人震惊。根据瑞银全球研究的数据,几乎所有人工智能公司的高管在闭门会议上都承认存在支出控制问题。一个例子是,某未具名公司在Anthropic上的支出从12月的2万美元飙升至7月的近100万美元。另一个行业消息来源提及的案例是,一家公司推出无限制的人工智能工具后,一个月内收到了来自Claude的5亿美元账单。瑞银估计,约60%的组织已对不受控制的代币支出深感担忧。
新的管理基础设施成为必要
西武尔卡认为,解决方案不在于放弃人工智能,而在于建立管理基础设施:明确流程描述、评估结果质量、控制成本,以及尤为重要的是,在不同成本的模型之间分配任务。这涉及模型路由——简单操作交由廉价模型处理,而昂贵的高级模型仅用于关键场景。
然而,还存在一种隐性威胁。员工意识到自己的知识是训练人工智能的关键资源,可能会开始破坏这一过程。人们不愿将使自己不可或缺的东西交给系统。缺乏信任和透明规则,员工不会帮助那些可能取代他们的人。这使人工智能的部署从技术任务转变为极其复杂的社会和管理问题,而这一问题至今无人解决。