短视频平台TikTok正在试点测试一款全新工具,该工具将从根本上改变打击深度伪造(Deepfake)的规则。这项功能名为Likeness Detection(肖像检测),是一套能够自动识别利用人工智能生成、且涉及特定创作者面部内容的系统。

目前,该功能仅面向美国的一小部分创作者开放。其主要目标是让博主能够迅速应对欺诈行为:从举报深度伪造内容,到封禁盗用其形象的虚假账号。

激活该功能需要经过严格的身份验证流程。创作者必须通过Jumio服务提供实时自拍照和身份证件扫描件。值得注意的是,据公司声明,证件副本不会保存在TikTok服务器上,生物识别数据仅用于与神经网络生成的内容进行匹配比对。

这一举措不仅是技术上的创新,更是对网红群体日益严重的声誉和财务损失威胁的回应。在AI欺诈呈爆发式增长、不法分子利用名人面孔制作逼真视频推广诈骗项目的背景下,此类机制变得至关重要。

我的专业评估:TikTok的举措展现了市场的成熟度——平台正从被动审核转向主动防护。然而,关键问题在于Likeness Detection对高质量深度伪造的检测效果如何。Jumio技术适用于初步验证,但从长远来看,需要建立去中心化的人脸注册系统,以避免出现单一安全故障点。