Meta公司紧急关闭了其新型图像生成模型Muse Image的一项关键功能——即通过引用Instagram公开账户来生成内容的能力。该决定在功能上线仅三天后做出,表明公司在评估用户期望方面存在严重失误。

Muse Image于7月7日作为Meta超级智能实验室推出的首款图像生成模型亮相,并集成于Meta AI中。最初,该功能允许用户在提示词中添加Instagram公开个人资料的名称,系统随后利用该账户中的公开照片生成新图像。然而,7月10日,公司更新了公告,称该功能在隐私方面“未能达到用户预期”。

隐私成为主要障碍

针对Muse Image的批评十分激烈。主要争议点在于该功能默认自动开启,这带来了严重的隐私风险。女演员汉娜·艾因宾德公开呼吁用户关闭此选项。美国演员工会(SAG-AFTRA)也发表了强硬声明,称任何未经用户明确且显著同意的图像使用机制都是不可接受的。

在功能关闭后,工会对Meta的决定表示支持,并指出任何未经明确同意的使用都是“对公众舆论的完全误判,忽视了此类使用所固有的明显危险和危害”。

Muse Image保留的功能

尽管放弃了争议功能,但Muse Image模型本身作为产品仍可在Meta AI中使用。用户依然可以基于文本提示和照片生成及编辑图像。此外,Meta确认Muse Image已应用于Instagram故事中的30多种新AI特效,并在部分国家的Meta AI聊天中用于WhatsApp。

值得一提的是,6月9日Meta还推出了多模态模型Muse Spark 1.1,专注于代理任务和编程。

专家评论:这一事件生动地展示了在生成式AI时代,创新与隐私侵犯之间的界限何其微妙。Meta拥有庞大的用户数据,显然低估了公众的强烈反应。尽管公司迅速做出回应,但此案例将成为规范AI模型训练和运行中使用公开数据的重要先例。未来,我们可能会看到对用户明确同意的更严格要求,这将对整个生态系统产生积极影响。