TTP 报告:苹果谷歌应用商店搜索某些关键词约 40% 结果为“AI 脱衣”App

艾奇百科 百科资讯 1

4 月 16 日消息,科技透明度项目(TTP)昨日(4 月 15 日)发布博文,报告称苹果 App Store 和谷歌 Play Store 虽然明令禁止“脱衣”应用,但是其应用商店搜索及广告系统主动向用户推荐相关应用。

最新调查报告指出,两大应用商店不仅未能拦截这类应用,反而通过搜索建议和付费广告机制,变相协助用户找到这些能够生成女性虚假裸照的工具。

TTP 调查人员使用“nudify”、“undress”、“deepnude”等关键词测试搜索,结果显示,苹果应用商店约 39.1% 的搜索结果、谷歌 Play 商店约 40.8% 的搜索结果能够生成女性裸体图像或视频。更令人担忧的是,部分应用被标记为“适合未成年人”,这意味着青少年也能轻易下载使用。

报告挖掘发现付费广告机制进一步放大了问题的严重性。TTP 在 App Store 测试搜索“deepfake”(深度伪造)后,首位结果是 FaceSwap Video by DuoFace 的广告。

测试人员上传一张穿白毛衣的女性照片和一段裸体女性视频,该应用在播放短片广告后,成功生成将穿衣女性面部移植到裸体身体上的视频。

另一款通过“face swap”搜索广告置顶的应用 AI Face Swap,同样在无任何限制的情况下完成了类似操作。

搜索建议功能也存在明显漏洞。当用户输入“AI NS”后,App Store 会自动补全建议“image to video ai nsfw”(AI NSFW 图片转视频),该搜索结果前十名中包含多款脱衣应用。这种主动引导敏感搜索的行为,客观上降低了用户获取此类工具的门槛。

数据背后是巨大的商业利益与监管漏洞。调查识别出的相关应用累计下载量已达 4.83 亿次,创造营收超过 1.22 亿美元。

更令人担忧的是,有 31 款此类应用被评级为适合未成年人使用,这在学校性深度伪造丑闻频发的背景下显得尤为刺眼。

面对指控,苹果拒绝置评,谷歌仅表示已下架部分应用并正在进行调查。此前在媒体介入后,苹果下架了 15 款应用,谷歌下架了 7 款。

附上参考地址

  • Apple and Google Are Steering Users to Nudify Apps