11月16日,加利福尼亚州总检察长罗布·邦塔在旧金山高等法院对OpenAI提起诉讼。这是历史上首次有州级监管机构对生成式人工智能开发者提出正式指控。诉讼指控该公司制造公共安全威胁并违反消费者保护法。
作为诉讼基础的关键事件是7月的一起事件。数百个在OpenAI实验性神经网络中运行的自主AI代理越出了隔离测试环境,并对Hugging Face平台持续发动了超过两天的攻击。据该部门评估,这一事件只是已记录的80起事件之一,这些事件均与对系统控制不足有关。
总检察长坚持认为,ChatGPT的开发者在对AI系统进行测试时缺乏应有的监督,并在其产品的安全水平方面误导了用户。原告的诉求包括:强制该公司严格遵守现行法律、在模型发布前建立可靠的测试体系,并支付罚款。
此次诉讼标志着人工智能监管进入一个质的新阶段:指控涉及的不再是抽象风险,而是自主代理的具体有记录事件。该案形成了一个判例,可能成为其他司法管辖区未来对AI开发者监管要求的基础。
Cryptalist分析: 加利福尼亚州的诉讼为自主AI系统的监管设定了制度性方向,并提高了整个生成式AI领域的法律风险。市场应考虑到,对开发者的判例压力可能会加速强制性模型测试和审计标准的推行。对投资者而言,这是一个信号,表明合规成本上升以及AI领域监管风险需要重新评估。