热门短视频平台TikTok已开始测试一款名为相似度检测的新工具。目前该功能仅面向美国部分创作者开放。其核心机制是通过人工智能自动搜索复制特定博主外貌的AI生成内容。

一旦系统发现可疑的深度伪造内容或虚假账号,用户可立即提交侵权投诉。但激活该保护功能前,用户需通过第三方服务Jumio完成严格的身份验证流程,包括实时自拍和证件扫描。

重要提示:TikTok声称不会保存上传的证件副本。生物识别数据仅用于创建唯一模板,用于在视频中搜索匹配项。这是保护隐私的标准做法,但也引发了对集中式生物识别系统信任度的质疑。

专家观点

从技术角度看,这是正确的发展方向。但相似度检测的有效性将直接取决于AI模型区分真实人脸与生成人脸的能力。鉴于生成式神经网络的飞速发展,深度伪造检测器与生成器之间的较量才刚刚开始。目前这项测试更像是一种营销举措而非完善保护,但至少迈出了第一步。