反向半人马:人工智能如何将人变成机器的生物附属物

想象一下一名卡车司机,被人工智能无时无刻地监视着:它规定路线,记录每一个动作,并对任何偏离规程的行为开出罚单。在这个系统中,人不再驾驶汽车——而是汽车在驾驶人,将人变成算法的生物附属品。
半人马神话的倒置
我在分析中详细探讨的这一概念,源自科里·多克托罗的著作《反向半人马:AI之后的生活指南》。作者提出了人与技术互动的严格二分法,将其分为两种模式。
经典半人马——这是一种共生关系,人仍然是做出决策的“头部”,而机器则是执行命令的“身体”。例子包括自行车、助听器或编辑器中的自动补全功能。在这里,技术是增强人类能力的工具。
反向半人马——完全颠倒:“机械的头长在人的身体上”。在这种模式中,人被降级为助手,以非人的、机器的节奏为机器服务。这个术语借自加里·卡斯帕罗夫,他在1997年输给深蓝之后,提出了“进阶国际象棋”的赛制,即人与AI组成团队。然而事实证明,这种结合也伴随着风险,并且随着技术的发展,这些风险变得越来越明显。
我们在哪里遇到反向半人马
最典型的例子出现在算法控制体力劳动的领域。比如配送司机,他们的货车里装满了带AI的摄像头,用来监控司机是否分心看手机,或者是否唱歌(这被公司规章所禁止)。算法不仅规划路线,还设定时间标准,用多克托罗的话说,这些标准“需要超人的耐力”。司机被迫牺牲吃饭和上厕所的休息时间来赶上进度,成为机器意志的执行者。
软件开发领域也出现了类似的情况。GitHub Copilot等工具创造了一种新的服从形式:程序员被迫“产出不可能完成的代码量”,从创造者变成监督者,只能检查和修正生成的代码。任务的速度和数量由AI的性能决定,而非人的能力。
特别值得注意的是“人在回路中”(human-in-the-loop)这一类别。在律师事务所和医疗机构中,AI生成决策草案,专家必须以“超人的速度”进行审查和批准。同时,他们还要对算法的错误承担全部责任。这样的员工“吸收摩擦,并在出错时承担责任”。这是一种缺乏创造性成分的工作,却伴随着持续的压力和不可预测性。
服从的经济学
反向半人马的普及是经济激励的系统性结果。雇主看到“简单的算术”:十个员工可以用三个配备AI工具的人替代。节省不是通过提高效率实现的,而是通过将工作量重新分配给剩余员工,并将风险转嫁给他们。那些决定引入技术的人自己永远不会成为反向半人马。对他们来说,AI是管理工具,而非服从工具。这正是为什么AI的引入在基层遭遇阻力,而在高层却受到欢迎。
我在这个系统中看到的关键悖论是验证问题。如果每个AI结果都需要人工检查,那么这种劳动的成本可能相当于独立完成任务。只有当检查成本转嫁给员工,迫使他们更快、更长时间地工作而不额外付费时,节省才会出现。正是在这一刻,反向半人马成为利润的来源。
社会后果与预测
变成反向半人马会导致“对我们人性的背弃”。人们失去自主性和创造力,成为算法命令的执行者。对AI错误的责任、慢性压力和快速倦怠是这种模式的必然伴侣。对AI有用性的感知直接取决于使用的自愿性:支持者自己决定何时使用它,而反对者则被迫服从命令。
多克托罗预测,估值1.4万亿美元的AI泡沫终将破裂,只留下“有用的残余”——用于本地任务的廉价开源模型。然而他强调,未来并非注定。个人的抵抗、批判性思维以及考虑权力分配的监管举措,可能会让我们回到“半人马”模式,让技术服务于人,而非相反。
我的观点:反向半人马的概念不仅仅是一个哲学隐喻,而是对当前劳动力市场趋势的准确描述。关键问题不在于AI能否取代人,而在于谁来控制这种共生的条件。如果我们不重新思考经济激励,我们就有可能建立一个人们为服务机器而工作的社会,而不是相反。