社交平台TikTok已开始测试一项名为Likeness Detection的新工具,旨在保护内容创作者免遭生成式神经网络未经授权使用其外貌。目前,该功能仅向美国部分创作者开放。
该解决方案的核心在于自动扫描平台中由人工智能生成的、包含特定用户面部的内容。若算法发现可疑视频或账号,创作者将收到通知,并可对深度伪造内容或虚假个人资料提出投诉。
该机制的关键特点在于双重身份验证。要激活此功能,用户需通过第三方服务Jumio完成验证:提供实时自拍照并扫描身份证明文件。TikTok强调,公司不会存储文件副本,生物识别数据仅用于创建参考模板及后续匹配搜索。
此举是与深度伪造斗争的自然延续,此前许多平台已强制要求标注AI生成内容。但TikTok更进一步:与其被动提醒观众,平台为创作者提供了主动控制工具。面部盗用用于虚假广告植入或诈骗手段的问题日益严峻,该解决方案或将成为行业标准。
分析师观点:从技术角度看,该工具设计周密,但其有效性将取决于审核响应速度及识别算法的精准度。主要风险在于误报——可能因投诉淹没合法创意内容。若TikTok能在不屏蔽恶搞与讽刺作品的前提下过滤90%以上的真实深度伪造内容,这将成为保护用户数字权益的重大突破。