联合国秘书长安东尼奥·古特雷斯在人工智能全球治理对话中发表了措辞强硬的声明。他的信息极其明确：当前人工智能的发展速度已演变成一场不受控制的“社会实验”，这场实验既无计划，也未征得人类同意。古特雷斯呼吁立即为先进人工智能系统制定通用规则，保护儿童免受聊天机器人风险的侵害，并禁止致命自主武器。
秘书长的核心论点是：为执行指令的机器而设立的机构，完全无法应对能够自主决策的机器。他强调，互联网用了15年才达到十亿用户，而人工智能仅用两年就完成了这一目标。作为佐证，联合国科学小组的初步报告指出，ChatGPT在两个月内就吸引了1亿用户。他称，现代系统已不再等待指令——它们编写代码、在线行动，并在人类控制日益减少的情况下做出决策。
“氛围编程”与人类的未来
古特雷斯在讨论中引入了“氛围编程”这一术语，作为被动管理的隐喻：允许系统完成工作，而不深究其机制和后果。“我们不能用氛围编程来对待真相。我们不能用氛围编程来对待人类的未来，”他警告称，各国面临的选择并非在相信人工智能与恐惧人工智能之间，而是在有意识的管理与被动漂流之间。
保护儿童：三项原则
古特雷斯将保护儿童列为首要任务之一。他呼吁企业承诺确保未成年人可用的人工智能系统的安全性（人工智能儿童安全承诺）。他表示，这项技术已渗透到儿童的学习、友谊和个人问题中，但其引入的后果尚未经过社会检验。“没有一个孩子应该成为不受监管人工智能的试验品，”他强调。该提议包括三项原则：未经专门测试不得启动系统；对生成未成年人性化图像零容忍；若系统发现儿童出现危机迹象，必须强制接入真实的人类支持。
“杀人机器人”：道德上令人憎恶，政治上不可接受
演讲中专门有一部分涉及人工智能的军事应用。古特雷斯呼吁通过国际法禁止致命自主武器系统——即能够在没有人类控制的情况下选择和攻击目标的机器。“让我们称它们为它们本来的样子：杀人机器人，”他表示，并补充说这类系统“道德上令人憎恶”且“政治上不可接受”。他警告各国不应等到悲剧发生才采取行动，尤其是考虑到相同的模型和芯片已在战场上使用。
发展中国家与透明度
古特雷斯还表示，数字鸿沟不应演变为人工智能鸿沟，进而演变为发展、安全和主权鸿沟。他宣布了关于建立全球人工智能基金的建议，以帮助发展中国家获得计算资源、开放数据和模型。另一个重要方向是透明度：数据中心已消耗超过大多数国家的电力，到2030年其能源消耗可能超过除五个国家外的所有国家。“如果人工智能要强大，就必须加以管理。如果人工智能要赢得信任，其创造者就必须承担责任，”秘书长总结道。
我的分析：古特雷斯的声明不仅仅是外交辞令，而是向市场发出的明确信号。我预计在未来12至18个月内，我们将看到国家层面监管的收紧，尤其是在儿童保护和自主武器领域。投资者和开发者应准备好迎接新的合规要求，这可能会对人工智能公司的商业模式产生重大影响。