在 Meta 使用美国政治人物的深度造假视频为其做广告后，苹果下架了一款 AI “裸体化” 应用

在 WIRED 发现 Meta 使用美国政治家的深度伪造视频为其投放广告后，苹果下架了 Kromix 这款 AI “脱衣” 应用。Meta 移除了广告，苹果也停止了 MaskAI。

苹果已下架一款名为Kromix的App Store应用，该应用允许付费用户将真实人物的照片放入AI生成的色情视频中，此前《WIRED》报道Meta一直在为其投放Facebook和Instagram广告。其中一则广告显示一位与美国知名女性政治家极为相似的女性站在美国国旗前，随后切入一张同一张脸的色情深度伪造画面。Meta撤下了这些广告，苹果也撤下了应用，这两者都是在WIRED询问后才发布的。

Kromix 将自己列为“AI 图像风格化器”。广告则不那么含蓄：旁白承诺“没有限制”，说“所有角色都是真实人物”，并称其为“男性真正使用的 AI”。

Meta 的广告系统错过了什么

这些广告是由技术透明度项目（Tech Transparency Project）发现的，该项目是一个监督组织。根据Meta自己的广告库，这些广告仅针对男性用户。Meta表示，发布这些广告的账户共发布了32条广告，每条广告上线时间在五到46小时之间，大多数广告的观看次数不超过十次。发布这些广告的Facebook页面创建于8月3日，并且没有关注者，这两个信号在Meta看来本应引起怀疑。

大多数视频广告在开始时会显示一个无害的封面图像，比如海滩或瀑布，然后才切换到露骨内容。Meta 表示它知道这个手法，并屏蔽了许多使用这种手法的广告，但“没有系统是完美的”，它仍在调查这些广告是如何通过审核的。Meta 的规则已经禁止广告中的性内容，并明确禁止推广“裸体化”应用程序。根据 Meta 的统计，从十一月到一月，它已经删除了超过34万条裸体化广告，并至少起诉过一名裸体化应用开发者，但研究人员仍在不断发现新的广告。

苹果表示该应用在审核后发生了变化

苹果告诉 WIRED，Kromix 似乎是在通过初步应用审核之后添加了被禁止的功能。其声明重复了通常的说法：苹果“始终严格禁止旨在生成、分发或消费色情内容的应用”，裸露化应用违反了应用审核指南，并且苹果会追踪这些应用及其背后的开发者账户。

对于苹果来说，这种诱导性转换模式是最棘手的部分。一个应用在提交当天看起来像一个普通的照片工具，但在更新或服务器端更改后可能会变成完全不同的东西，而App Review并不能发现每一个版本。今年早些时候，苹果在处理Grok时也遇到了类似的问题。在用户生成了数百万张带性化的图像，并且参议员敦促苹果和谷歌下架X和Grok之后，苹果警告xAI要修复聊天机器人的深度伪造输出，否则可能面临下架风险，而不是直接将其移除。

Kromix并不是唯一的移除。苹果还下架了MaskAI，一款允许用户将人放入性场景的面部交换应用。一些指向MaskAI的Meta广告，是同一批研究人员本月早些时候曝光的50多则包含AI生成儿童性虐待图像的广告之一。

这发生在旧金山发出警告一个月后

今年七月，旧金山市检察官大卫·邱向苹果和谷歌发送了停止侵权信函，涉及13款“裸体化”和“换脸”应用，其中八款在App Store上，并要求两家公司在28天内做出回应。苹果当时表示，已下架其中三款被点名的应用，并关闭了它们的开发者账户。Kromix和MaskAI显示，新的应用仍然通过正规渠道上线，同时Meta的广告网络也在帮助它们寻找用户。

如果你遇到类似的应用程序或广告，你可以从 App Store 列表或 Facebook 和 Instagram 上广告的菜单中举报它。更大的解决方案是在它们上线之前就发现这些问题，这需要 Apple 和 Meta 来处理。