短视频平台TikTok在打击深度伪造方面迈出了重要一步。目前，该公司正在测试一款名为Likeness Detection的新工具——该工具仅对部分美国创作者开放。这项可选服务旨在自动检测使用特定创作者面部的人工智能生成内容。

其工作原理如下：如果算法发现由AI生成且包含创作者面部特征的视频或图片，平台将向该创作者提供举报深度伪造或虚假账号的选项。然而，要激活此功能，用户需通过第三方服务Jumio完成严格的身份验证。该流程包括实时自拍和扫描身份证明文件。

值得注意的是公司声明的隐私政策。TikTok声称不会存储上传文件的副本，生物识别数据仅用于与平台内容进行匹配。在个人数据泄露担忧日益加剧的背景下，这一点至关重要。

专家分析视角

此举是生成式AI时代内容审核政策的合理演进。然而，在我看来，Likeness Detection的有效性将直接取决于识别算法的质量以及创作者是否愿意完成复杂的验证流程。目前这仅是一次针对性测试，将该方案扩展至数百万用户将需要巨大的计算资源。尽管如此，这仍是社交媒体平台首次引入旨在防止面部盗用（而非简单标记AI内容）的重要先例。