联合国秘书长发出严厉警告：人工智能已失控，现有治理机构对此毫无准备。他呼吁立即为先进人工智能系统制定全球规则，特别强调需要保护儿童并禁止自主致命武器。
"人工智能正以不可控的速度发展，"联合国秘书长表示，并将当前状况称为"在没有计划、未经同意的情况下对社会进行的实验"。据他评估，如果说互联网用了15年才吸引十亿用户，那么人工智能仅用两年就做到了这一点。而ChatGPT更是在短短两个月内就获得了1亿用户——这是前所未有的速度。
专家认为，关键问题在于当前系统已不再仅仅执行指令——它们正在编写代码、做出决策，并在人类极少监督的情况下在网络中行动。"我们的机构是为管理执行指令的机器而建立的。它们没有准备好应对那些自主决策的机器，"他强调道。
"氛围编程"作为未来威胁
特别强调了"氛围编程"这一隐喻——这是一种被动方法，系统在不了解机制和后果的情况下运行。"我们不能用氛围编程来编写真相。我们不能用氛围编程来编写人类的未来，"古特雷斯表示，他让各国在自觉管理与被动漂流之间做出选择。
保护儿童：三项原则
保护儿童免受不受监管的人工智能侵害被列为首要任务之一。提出了三项关键原则：
- 禁止在未经专门测试和独立监督的情况下，向儿童开放人工智能系统。
- 对生成未成年人性化图像采取零容忍态度——必须强制识别、删除并报告此类材料。
- 不允许让处于危机中的儿童独自面对聊天机器人：一旦发现严重状况的迹象，系统必须停止运行并接入真正的人类支持。
禁止"杀人机器人"
人工智能的军事应用也成为关注焦点。古特雷斯呼吁国际法禁止致命自主武器系统——即能够在没有人类控制的情况下选择和打击目标的机器。"让我们用它们的真实名称来称呼它们：杀人机器人，"他表示，称这类系统"在道德上令人厌恶"且"在政治上不可接受"。
数字鸿沟与能源消耗
数字不平等问题也被单独提出。联合国秘书长宣布了建立全球人工智能基金的建议，该基金应帮助发展中国家获得高性能计算、开放数据和模型。他还指出，数据中心已经消耗了比大多数国家更多的电力，到2030年，其能源消耗可能超过除五个国家外的所有国家。
我的评论：联合国的呼吁是一个不容忽视的信号，但现实是，全球人工智能监管面临着巨大的政治和经济障碍。在主要大国就标准争论不休之际，技术仍在加速发展，每一天的拖延都会增加风险，尤其是对最弱势群体而言。加密货币和区块链市场则可能成为测试去中心化人工智能治理模型的试验场，但这需要完全不同层面的协调。