短视频平台TikTok已开始有限测试一款名为Likeness Detection的新工具。目前,该功能仅对美国的一小部分创作者开放。
该工具的核心功能是自动搜索由神经网络生成、使用了特定创作者面部的内容。如果系统检测到深度伪造或虚假账号,博主可以迅速提交投诉。这是应对日益严重的数字伪造和利用知名人物进行欺诈威胁的一步。
要激活该工具,用户需要通过Jumio服务完成两步身份验证。流程包括实时自拍和扫描身份证明文件。公司特别强调,他们不会存储文件副本,生物识别数据仅用于与平台上的视频进行匹配。
这对整个行业来说是一个重要的先例。随着生成模型质量的提升,区分真实视频和合成视频变得越来越困难。尽管这些措施是自愿的,但它们为引入强制验证创作者身份(当其面部可能被未经同意使用)开创了先例。
在我看来,Likeness Detection的成功将取决于算法的运行速度及其区分合法模仿与恶意伪造的能力。如果该系统证明其有效性,我们很可能在接下来的几个季度内看到其他大型平台推出类似解决方案。