就在其全新图像生成模型Muse Image高调发布仅三天后,Meta公司被迫撤回了一项引发广泛批评的关键功能。该功能允许神经网络利用Instagram上的公开照片,根据文本提示生成新图像。

该功能为何失败?

最初,Muse Image于7月7日作为Meta超级智能实验室的旗舰产品推出,提供了一项独特功能:在提示词中添加公开的Instagram账户名称,让人工智能分析用户的公开照片并基于这些内容生成新作品。然而,7月10日,该公司悄然从官方公告中删除了对该功能的提及,承认其“未能满足用户对隐私的期望”。

问题比单纯的技术缺陷更为严重。该功能默认开启,不仅激怒了普通用户,也引发了专业人士的不满。女演员汉娜·艾因宾德公开呼吁立即禁用该功能,而颇具影响力的工会SAG-AFTRA则发表了措辞严厉的声明。他们认为,任何未获得明确且知情同意就使用图像的机制,都是“彻底的失策”,忽视了与数字身份和深度伪造相关的明显风险。

Muse Image还剩下什么?

尽管争议不断,Muse Image模型本身并未消失。它仍在Meta AI中运行,允许用户根据文本描述和上传的照片生成及编辑图像。此外,该技术已集成到Instagram故事中30多种新的人工智能特效中,并在多个国家用于Meta AI的WhatsApp聊天中。然而,社区给出的教训是明确的:即使是最先进的算法,也不应在未经用户明确同意的情况下损害隐私。

Cryptalist分析: 这一事件是典型的案例,展示了追求创新如何可能导致声誉损失。Meta再次在人工智能伦理问题上遭遇“恐怖谷效应”。通过禁用该功能,他们承认用户对数据的控制不是可选项,而是基本要求。这对整个行业来说是一个信号:任何使用公共数据进行训练或生成的产品,从一开始就必须遵循“隐私设计”原则,而不是在公众压力下事后补救。