谷歌DeepMind负责人德米斯·哈萨比斯提出在美国设立专门的标准机构,负责在最强人工智能模型公开发布前进行审查。据他评估,通用人工智能(AGI)——一种认知能力可与人类大脑相媲美的系统——可能"几年内"就会出现。哈萨比斯强调,AGI的影响将堪比电或火的发现,而非互联网或移动通信。
哈萨比斯建议参照美国金融业监管局(FINRA)的模式,建立前沿人工智能标准机构。这一新机构可作为公私合作伙伴关系或联邦监管下的自律组织运作,资金主要来自人工智能行业。管理层应包括独立技术专家和开源社区代表。该机构将与联邦机构及国家实验室共同制定评估协议。
专项测试将判定模型是否属于"前沿"类别。审查范围涵盖网络安全、生物威胁及其他高风险领域。单独测试旨在识别模型试图绕过安全限制、误导用户或隐藏自身行为的情况。
自愿起步,未来或具强制性
在第一阶段,哈萨比斯建议在模型发布前30天自愿提交审查。待系统有效性得到验证后,可通过立法将评估程序固定下来——届时成功通过评估将成为进入美国市场的强制性条件。他还提议建立独立审计师市场,并将美国体系作为国际标准的基础。
这一提议正值人们对人工智能安全的担忧日益加剧之际。此前,特朗普政府曾要求OpenAI不要公开发布GPT-5.6,联合国也呼吁进行全球监管。哈萨比斯承认,这项技术的未来仍不确定,甚至专家们也意见不一。但他确信:我们正站在"奇点脚下",要维持对能够递归式自我完善的自主系统的控制,需要前所未有的保护措施。
专家观点:哈萨比斯的倡议是及时且务实的举措。建立类似FINRA的独立标准化机构,可能成为过度监管与完全失控之间的有效折中方案。然而,关键问题在于:这样的机构能否跟上技术发展的步伐,是否会沦为创新的官僚障碍?独立审计师市场看似前景广阔,但需要最高水平的专业能力和信任度。