短视频平台TikTok已开始有限测试一项旨在保护原创内容的新功能。该工具名为Likeness Detection(肖像检测),目前仅向美国部分创作者开放。其主要任务是识别未经创作者同意、利用其面部特征生成的AI合成内容。

工作原理如下:一旦系统检测到深度伪造或模仿博主外貌的可疑账号,创作者将收到通知,并可通过平台界面直接提交投诉。要启用该功能,用户需通过第三方服务Jumio完成严格的身份验证,流程包括实时自拍和身份证件扫描。

值得注意的是,据公司声明,TikTok不会存储用户提供的证件副本。生物识别数据仅用于匹配检测,不会传输给第三方。考虑到社交平台上利用AI实施的诈骗案件日益增多,这无疑是正确的方向。

专家观点:开发身份验证和深度伪造检测工具对整个行业而言是至关重要的趋势。然而,Likeness Detection的有效性将直接取决于数据库规模及审核响应速度。目前这仍是一个试点项目,但若证明其可行性,未来几个季度内我们可能会在其他平台看到类似解决方案。