五角大楼秘密扩大人工智能在军事目标选择中的应用：新学说允许完全自主系统
美国国防部批准了一项更新后的战略方针，大幅扩展了人工智能在军事行动中的作用，包括在战场上选择打击目标。这份于今年4月签署的文件并非机密，但此前一直未进入公众视野。
关键创新在于正式确立了“人工智能在人类监控下发起行动的作战系统”这一概念。与简单的推荐算法相比，这代表了根本不同的自主性水平。
该战略明确指出，现代冲突的速度以及对手在人工智能领域的快速进步，可能迫使美国打造“完全自主的系统”。主要目标是大幅缩短“从传感器到目标打击”的周期，并加快行动节奏。
新战略要求神经网络承担加速处理情报的任务：系统需实时比对来自不同平台的目标信息，形成统一且尽可能完整的作战态势图。指挥官被建议更积极地利用算法进行风险分析和决策。
值得注意的是，文件中包含关于“减少对平民伤害”的章节。然而，五角大楼也警告了硬币的另一面——过度依赖算法所带来的“严重的道德和法律困境”。附录中特别强调，自动化不能取代人类思维和主动沟通。
在官方声明中，部门代表保证，其技术“不允许自主选择目标或发动打击”，责任仍由指挥官承担。然而，在文章发布的同时，五角大楼宣布“启动人工智能代理网络以改造战斗管理系统”。该部门首席数字官卡梅伦·斯坦利指出，该网络将为指挥官“提供更快速获取更优质信息的途径，同时将人类判断置于每个决策的核心”。
值得回顾的是，早在2023年，联合国秘书长就呼吁禁止致命自主系统，称其“在道德上令人厌恶”。在此背景下，加之过去一年五角大楼人工智能部署量增长了1775%，这份新战略看起来像是朝着模糊人类控制边界迈出的重要一步。
我的分析： 从形式上看，该文件保留了“人在回路中”，但“完全自主系统”作为不可避免之事的表述本身就是一个令人担忧的信号。加密货币和去中心化技术市场早已在讨论人工智能集中化控制的风险。这个案例生动地说明了算法如何被整合到决定生死的系统中，这不仅对伦理提出了质疑，也对去中心化未来的概念本身构成了挑战。