Meta 在其新模型 Muse Image 中撤下了一项备受争议的功能,该功能允许用户使用 Instagram 公开个人资料作为提示词生成图像。公司在批评浪潮中迅速做出反应,在功能上线仅三天后便将其删除。

7 月 7 日,Muse Image 作为 Meta Superintelligence Labs 推出的首款图像生成模型亮相,并集成到 Meta AI 中。其关键特性是允许用户在请求中指定一个 Instagram 公开账户——神经网络会自动提取该用户的公开照片来生成新内容。然而,到 7 月 10 日,Meta 发布更新,承认该功能“在隐私方面未能达到用户的期望”。

问题在于该选项默认开启,这造成了严重的隐私风险。女演员汉娜·艾因宾德公开呼吁用户关闭此功能,而工会 SAG-AFTRA 则称这一情况不可接受。他们表示,任何未经明确且显著同意就使用图像的机制,都是“对公众舆论的完全误判”,并带来明显的危险和危害。

功能下线后,工会对 Meta 的决定表示支持,强调未经直接许可使用公开照片是一个严重错误。值得注意的是,Muse Image 模型本身作为产品仍可在 Meta AI 中使用,用于根据文本提示和上传的照片生成和编辑图像。此外,Muse Image 已在 Instagram Stories 的 30 多种新 AI 特效以及部分国家 WhatsApp 与 Meta AI 的聊天功能中得到应用。

回顾一下,6 月 9 日,Meta 还推出了面向代理任务和编程的多模态模型 Muse Spark 1.1。然而,此次 Muse Image 事件表明,即使是行业巨头也可能在评估隐私边界时犯下严重错误,尤其是在涉及处理真实用户数据的生成式 AI 时。

我的专家结论: 这一案例生动展示了创新追求如何与严格的隐私要求发生冲突。Meta 显然低估了社区的反馈,尽管功能回滚迅速,但声誉损害已经造成。在 AI 监管时代,此类失误的风险日益增大——用户和监管机构不会容忍未经明确同意就使用个人数据的行为。