联合国秘书长安东尼奥·古特雷斯发出严厉且及时的警告:国际社会必须立即着手制定统一规则,以监管先进的人工智能系统。他的论述涵盖了从儿童保护到禁止自主致命武器系统的全方位威胁。
古特雷斯将当前局势形容为"一场没有计划、未经同意的社会实验",强调人工智能的普及速度史无前例。如果说互联网用了15年才吸引首批十亿用户,那么ChatGPT仅用两个月就达到了一亿用户。这带来了三大关键风险:技术的快速扩散、计算能力和数据集中在少数企业和国家手中,以及信息环境的退化。
古特雷斯特别关注所谓的"氛围编程"——一种被动管理人工智能的隐喻,即系统在运行时不了解其内部机制和后果。"我们不能用氛围编程来编码真相。我们不能用氛围编程来编码人类的未来。"他说道,强调选择不在于相信人工智能还是恐惧它,而在于有意识的管理还是被动的随波逐流。
保护儿童与禁止"杀人机器人"
古特雷斯的首要任务之一是保护儿童。他呼吁企业签署《人工智能儿童安全承诺》,包含三项原则:对儿童可用的人工智能系统进行强制测试和独立监督;对生成未成年人性化图像采取零容忍态度;以及当聊天机器人发现儿童出现危机迹象时,立即接入真实的人类支持。"任何儿童都不应成为不受监管的人工智能的试验品。"秘书长强调道。
同样引起强烈反响的是,他要求国际法禁止致命自主武器系统——即能够在没有人类控制的情况下选择和攻击目标的机器。古特雷斯直接称其为"杀人机器人",并将此类系统描述为"道德上令人厌恶"和"政治上不可接受"。他警告各国不应等待悲剧发生后才开始行动。
数字鸿沟与能源消耗
古特雷斯还提出了数字不平等问题。他建议设立一个全球人工智能基金,帮助发展中国家获得高性能计算、开放数据和模型。他表示,数字鸿沟不应演变为人工智能鸿沟,进而发展为发展、安全和主权鸿沟。
秘书长特别指出,数据中心的能源消耗正在急剧增长,目前已超过大多数国家的用电量。据他预测,到2030年,这些数据中心的能源消耗可能超过除五个国家外的所有国家。
分析评论:古特雷斯的声明不仅仅是政治辞令,而是向市场发出的明确信号。已经面临严格监管的加密行业应密切关注这些进程。人工智能和区块链的交集日益增多,如果人工智能监管变得严格,这可能会波及去中心化项目。问题不在于是否会有监管,而在于监管将采取何种形式——以及我们是否已做好准备。