中国正准备对人工智能领域实施根本性的监管收紧。自7月15日起，由国家互联网信息办公室和工业和信息化部等五个关键部门制定的临时措施将正式生效。新规针对的是那些利用人工智能模拟人类个性、思维方式并维持稳定情感互动的服务。这向市场发出了一个明确信号：不受控制的“虚拟朋友”和“数字伴侣”时代即将终结。
具体有哪些变化？
规定明确，只有那些营造生动交流幻觉的系统（包括文本、语音和视频界面）才受监管。不涉及情感依附的工作、教育或技术支持工具则不在监管范围内。关键要求包括：必须告知用户其正在与人工智能而非人类交流；超过两小时的会话将被中断并提醒时间；尤其重要的是，需提供简单的退出机制——服务方无权强制留住用户。
未成年人保护与危机干预
在我看来，最值得关注的是针对未成年人的独立条款。完全禁止向他们提供“虚拟亲人”（如亲属或伴侣）功能。对于14岁以下儿童，任何与拟人化人工智能的互动都必须征得家长同意。此外，系统必须识别出自杀意图、自残行为或强烈情绪反应的迹象，并立即干预，联系监护人或紧急服务部门。这不仅是监管，更是试图控制技术带来的心理影响。
巨头反应：字节跳动和阿里巴巴关闭相关功能
主要企业已开始调整。字节跳动旗下的人工智能助手“豆包”自7月15日起关闭用户自定义人工智能代理功能，所有数据（包括聊天记录）将在10月15日前被永久删除。阿里巴巴云则从7月10日起停止通义千问中的“拟人化交互代理”服务，并于7月15日前完全关闭整个代理服务。腾讯也已从元宝中移除类似功能。社交媒体上用户的反应如预期般负面——许多人将失去长期“虚拟关系”视为个人损失。
执法与罚款
执法准备工作已提前展开。在上海“清朗”行动中，已删除超过487万条非法内容，并下架超过14000个不合规的人工智能代理。违反新规将面临警告、功能封禁、暂停用户注册以及罚款——一般违规最高罚款10万元人民币（约合14730美元），若对生命健康造成损害则最高罚款20万元人民币（约合29459美元）。此外，任何注册用户达到100万或月活跃客户达到10万的服务，都必须接受强制性安全评估。
我的评论：中国再次证明，技术进步不能脱离伦理和法律框架。这一先例很可能被其他司法管辖区效仿，从长远来看，将导致全球“情感型”人工智能产品发展放缓，但同时会增强对安全解决方案的信任。市场将被迫重新审视其优先事项：从“最大程度参与”转向“负责任互动”。