社交平台TikTok正在启动一项名为Likeness Detection的工具试点测试，旨在识别利用创作者外貌的深度伪造内容和虚假账号。目前该功能仅面向美国部分创作者开放，作为可选工具使用。
保护系统的工作原理
该工具可分析包含特定博主面部的人工智能生成内容，并允许用户快速举报深度伪造或欺诈账号。要激活该功能，用户需通过Jumio服务完成身份验证，该验证包括两个步骤：实时自拍和扫描身份证明文件。
公司强调不会保存用户证件副本，生物识别数据仅用于匹配查找。这是平衡版权保护与隐私权的重要一步。
专家对现状的评估
在我看来，TikTok的这一举措是对日益严重的数字伪造威胁的及时回应。市场已遭遇一波利用博主AI克隆体推广诈骗项目及窃取个人数据的欺诈浪潮。然而，Likeness Detection的有效性将直接取决于算法精度和投诉处理速度。如果系统能实现实时运作，这可能为整个社交平台行业树立先例。
此举也凸显了2024年的关键趋势：平台正从被动审核转向主动保护创作者的数字身份。问题在于这类工具的推广规模有多大，以及是否会导致对内容的过度集中管控。