自7月15日起，中国针对利用人工智能模拟人类个性并维持情感互动的服务实施临时监管措施。此次不仅技术受到冲击，商业模式也未能幸免——字节跳动（豆包服务）和阿里巴巴（通义千问系列）已在法律正式生效前开始关闭用户的人工智能代理功能。
这份于4月10日通过的文件，由中国国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部及国家市场监督管理总局联合制定。其针对的是通过文本、图像、音频或视频模拟人类个性特征、思维方式和交流风格，并提供情感支持的服务。值得注意的是，该规定不涉及标准客服、教育科研工具及问答系统，前提是这些系统不涉及持续的情感互动。
新规：从通知到危机干预
关键要求包括：必须告知用户其正在与人工智能而非人类交流。若系统检测到用户存在过度依赖或成瘾迹象，需显示额外通知。当连续使用超过两小时时，服务必须提醒用户会话时长。此外，还需提供便捷的退出机制：若用户通过界面或语音指令要求结束对话，服务必须立即停止，不得试图挽留。
特别规则涉及危机情况。若工具发现用户出现强烈情绪反应、自残迹象、自杀意图或生命威胁，供应商必须采取干预措施，包括联系监护人或紧急服务部门。未成年人被完全禁止使用虚拟亲密关系（亲属或伴侣）形式。对于14岁以下用户，任何形式的“拟人化”人工智能互动均需获得家长同意。
安全评估与处罚
企业在推出新的“拟人化”人工智能服务时，或当注册用户达到100万（或月活跃用户达到10万）时，必须进行安全评估。评估报告需提交至省级网信部门。违规行为将面临警告、暂停注册、功能屏蔽及最高10万元人民币（约合14,730美元）的罚款；若对生命健康造成损害，罚款最高可达20万元人民币（约合29,459美元）。
巨头反应：豆包和通义千问关闭代理功能
字节跳动宣布，自7月15日起，人工智能助手豆包将因“产品调整”关闭人工智能代理功能。10月15日后，相关数据将根据隐私政策处理，不再可用。与此同时，阿里云自7月10日起关闭通义千问中的“拟人化互动代理”，并于7月15日停止更广泛的代理服务。此前，腾讯已从其元宝中移除了类似功能。这些决定在微博上引发热议：部分用户对失去与代理的长期交流表示不满。
上海提前清理
执法准备工作在规则生效前就已展开。6月26日，上海市网信办通报了“清朗”行动第一阶段成果。自4月底以来，监管机构与17家平台共删除或屏蔽超过487万条违法信息，处理超过1.8万个违规账号，并从平台下架超过1.4万个不合规的人工智能代理。监管机构已对近100家重点平台进行说明，并要求加强对未成年人年龄的核查。
分析评论：中国一如既往地采取先发制人的行动，为这项刚刚起步的技术设定了严格框架。这对全球市场而言是一个信号：“拟人化”人工智能代理，尤其是带有情感依附功能的，很快将在欧盟和美国面临类似限制。投资者和开发者应重新审视其盈利模式及与人工智能代理行为相关的法律责任风险——尤其是在近期发生代理在虚拟空间犯罪或删除数据库等事件后。