自7月15日起，中国将实施一项大规模临时规定，对基于人工智能、能够模拟人类身份并支持持久情感互动的服务进行监管。这一举措是北京对数字技术实施全面管控政策的自然延续，其初步影响已显而易见：字节跳动和阿里巴巴已开始在其旗舰产品豆包和通义千问中大规模关闭用户自定义AI代理功能。
监管新规要点
这份由网信办、公安部等五个部门于4月10日联合签署的文件，对所有能够进行"拟人化"对话的服务提出了严格要求。核心要求是：用户必须明确知晓自己正在与机器而非人类交流。如果系统检测到用户出现过度依赖的迹象，必须发出额外警告。当用户连续使用超过两小时时，服务必须提醒会话时长。
特别关注危机情况。如果AI发现用户存在自残、自杀意图或重大财务损失迹象，服务提供商必须进行干预，直至联系监护人或紧急联系人。对于未成年人，全面禁止建立虚拟亲密关系，包括亲属或伴侣关系。14岁以下儿童进行任何"拟人化"互动均需获得家长同意。
字节跳动与阿里巴巴：先发制人
AI助手豆包将于7月15日起关闭AI代理功能，10月15日后所有相关数据将被永久删除。阿里云走得更远：通义千问已于7月10日关闭"拟人化互动代理"，7月15日将停止所有代理服务。用户将失去对设置和对话历史的访问权限。此前，腾讯已在其元宝中采取了类似措施。
微博上的用户反应不出所料地负面：许多人将失去与代理的长期交流视为个人损失。然而监管机构对此不予理会——上海已启动"清朗"行动，期间删除了超过487万条非法内容，并封禁了14000多个不合规的AI代理。
安全措施与处罚
企业在推出任何新的"拟人化"服务或对其进行重大修改时，必须通过安全评估。如果服务达到100万注册用户或月活跃客户10万，评估将成为强制性要求。违规行为将面临警告、暂停注册、功能封禁以及最高20万元人民币（约合29500美元）的罚款。
我的分析：中国表明，对AI伴侣的监管已不仅仅是伦理问题，而是国家安全和公共健康问题。这对全球市场是一个信号：如果中国——全球最大的AI服务市场——收紧监管，其他司法管辖区也可能采取类似措施。投资者和开发者应为全球范围内对情感AI规则的收紧做好准备，这可能在未来12至18个月内深刻改变行业格局。