加密新闻

联合国秘书长安东尼奥·古特雷斯在全球人工智能治理对话上发表了一系列严厉警告和具体建议。他认为，世界已经面临“一场未经规划、未经同意的社会实验”，而当前技术推广的速度要求立即重新审视监管方式。

演讲的核心论点是：人工智能的传播速度前所未有。如果互联网用了15年才吸引第一个十亿用户，那么ChatGPT仅用两个月就达到了1亿用户。与此同时，现代系统已不再仅仅是响应指令——它们能编写代码、自主行动，并在人类极少参与的情况下做出决策。古特雷斯强调：“我们的机构是为管理执行指令的机器而设立的，它们尚未准备好应对那些能够自行决策的机器。”

“氛围编程”与儿童保护

秘书长特别关注未成年人保护问题。他呼吁所有人工智能公司采纳《人工智能儿童安全承诺》，确保面向儿童的系统安全。该倡议基于三项原则：上线前必须进行强制测试和独立监督；对生成性化内容零容忍；一旦发现儿童处于危机状态，立即接入真实的人类支持。“任何儿童都不应成为不受监管的人工智能的试验品，”古特雷斯表示。

他用“氛围编程”这一术语比喻被动管理——即允许系统运行而不深入理解其机制和后果。“我们不能用氛围编程来对待真相，也不能用氛围编程来对待人类的未来，”他总结道。

禁止致命自主武器系统

演讲中专门涉及人工智能的军事应用。古特雷斯呼吁国际法禁止致命自主武器系统——即能够在无人参与下选择和攻击目标的机器。他直接称其为“杀人机器人”，强调这类系统“在道德上令人厌恶”且“在政治上不可接受”。他表示，各国不应等到悲剧发生才采取行动。

全球基金与透明度

为弥合数字鸿沟，秘书长宣布建立全球人工智能能力交流网络，并建议设立专项基金。他还指出，数据中心目前的用电量已超过大多数国家，到2030年可能超过除五国外所有国家的能耗。“如果人工智能要强大，就必须加以管理；如果人工智能要赢得信任，其创造者就必须承担责任，”古特雷斯总结道。

我的分析：联合国的倡议是一个重要信号，但若缺乏具体强制机制，它们可能仍停留在宣言层面。真正的人工智能监管博弈将在国家层面展开，而大型科技公司和国家的利益往往与全球议程相冲突。