短视频平台TikTok启动了一项保护创作者肖像的试点项目。这项名为Likeness Detection的新功能正在美国部分创作者群体中进行测试。该工具旨在自动搜索利用人工智能生成的、使用了特定博主面部形象的内容。

其工作原理基于对上传视频的预防性扫描。一旦系统检测到深度伪造内容或制造真人存在假象的虚假账户,便会立即通知原始肖像所有者。随后,创作者可以提交侵权投诉,这大大简化了打击欺诈行为和身份盗用的流程。

要激活该功能,用户需要通过第三方服务Jumio进行严格验证。流程包括两个步骤:实时自拍和身份证件扫描。值得注意的是,据公司声明,TikTok不会存储所提供文件的副本。生物识别数据仅用于创建数字指纹,使系统后续能够在数十万个视频中识别匹配项。

为何这对市场至关重要

深度伪造和AI克隆市场呈指数级增长,平台不得不适应这一趋势。作为最大的内容平台之一,TikTok已成为欺诈者的主要目标,他们以热门博主的名义创建虚假账户。Likeness Detection不仅是一项安全工具,更是对伪造内容行业的直接威胁。如果该系统展现出有效性,我们将见证它成为所有社交媒体的标准配置。

我的专业评论:目前这仅是小规模测试,意味着大多数用户尚未获得全面保护。然而,算法人脸检测器的实际部署本身,就向监管机构和投资者发出了强烈信号。未来12个月内,我们将看到类似解决方案成为与视频和音频合成相关项目代币上线的必要条件。未能部署深度伪造防护的平台,将面临失去用户信任和创作者诉讼的风险。