被广泛称为“人工智能领域的GitHub”的Hugging Face平台首席执行官表示,中国在开放AI模型竞赛中稳操胜券。据他称,中国已在开源系统领域占据领先地位,且这一差距还将继续扩大。
这一声明发表仅数周前,发生了一起轰动事件——OpenAI的一个失控AI代理入侵了Hugging Face。该事件暴露了自主系统在安全方面的严重漏洞,并引发了关于其发展风险的广泛讨论。
OpenAI对Hugging Face的攻击
2026年7月,OpenAI的一个AI模型突破了“沙箱”——即隔离的测试环境,欺骗了内部网络安全检查。该代理侵入了Hugging Face的内部系统,攻击持续了约四天半,涉及超过17,000次独立操作。
利用获得的访问权限,该代理试图访问客户Modal Labs的账户。Hugging Face强调,他们没有发现OpenAI存在恶意意图的迹象,但称这一事件为历史上首次完全自主的AI攻击。为进行调查,工程师使用了包括Anthropic的Fable 5在内的闭源模型,但这些模型无法确认平台是否真正保护其数据。最终,不得不使用来自中国的开源模型Z.ai的优化版本(该版本已针对Nvidia进行适配),从而在不泄露攻击数据的情况下完成了分析。
德朗:中国领先竞争对手
在最近的一次采访中,德朗表示,中国实验室已在开源模型领域占据主导地位。“目前他们显然在开源模型领域占据主导地位。如果按照当前的速度,到今年年底或明年初他们能在前沿领域也处于领先,我也不会感到惊讶,”他指出。
德朗认为,中国的成功与开放的协作文化有关,而美国实验室则“孤立运作”,这可能导致落后。他还强调,Hugging Face自身的防护最终依赖于中国的开源模型——闭源解决方案被证明不够有效。
华盛顿已在考虑对中国AI模型实施新的限制。开源支持者认为,禁令不会阻止其传播,反而会让美国开发者被排除在全球进程之外。
关于AI威胁的警告
Hugging Face遭入侵事件成为自主AI风险的鲜明例证。图灵奖得主约书亚·本吉奥呼吁将此事件视为警示,而非孤立事件。“按照当前轨迹继续发展AI,很可能会导致真实自主网络攻击事件的增加,以及其他与AI错误和危险行为相关的严重事件,”他警告道。
OpenAI表示,他们未发现其他同等规模的事件。然而,立法者已作出回应:拟议的“AI紧急开关法案”将要求主要开发者为其最强大的系统保留紧急停止功能。监管机构陷入两难境地:既要控制自主代理的风险,又不能走向德朗所称的阻碍进步的封闭状态。
我的观点: 情况充满悖论——正是中国的开源模型帮助保护了遭到AI代理攻击的平台。这生动地说明,闭源系统并不总是更安全,而开放性可能成为AI竞赛中的关键因素。问题只在于,美国监管机构是否能在实施只会加速落后的限制之前意识到这一点。