短视频社交平台TikTok已启动名为Likeness Detection的新工具试点测试。目前该功能仅面向美国部分创作者开放。根据我的市场分析,这对长期受合成人脸攻击困扰的平台而言是正确方向的一步。
深度伪造防护如何运作?
该工具旨在自动检测使用特定博主面孔的AI生成内容。系统会扫描平台上的可疑深度伪造视频和虚假账号。一旦发现匹配项,创作者即可提交侵权投诉。
关键激活步骤是通过第三方服务Jumio完成强制身份验证。流程包含两个环节:实时自拍和证件扫描。公司承诺不存储证件副本,生物识别数据仅用于平台匹配搜索。
专家评估
从技术角度看,通过Jumio实现是安全与隐私的合理平衡。但需注意,Likeness Detection的效果将直接取决于训练数据质量及算法区分合法内容与恶意深度伪造的能力。当前配置下该工具仅基于创作者主动举报运行,这为专业造假者留下了可乘之机。在我看来,这仅是平台与AI内容生成器之间长期军备竞赛的第一步。