WIRED调查:400余款AI应用暗藏性虐待深度伪造功能,商店审核失守

WIRED调查:400余款AI应用暗藏性虐待深度伪造功能,商店审核失守

Gameplay Review: 演员片酬

据WIRED于2026年11月2日发布的调查报道,一个由400多个域名与应用组成的网络,正把性虐待深度伪造功能藏进看似普通的工具类应用里。这些深度伪造应用在苹果App Store与谷歌Google Play上架,借Meta广告引流,用户下载之后才会发现内里另有乾坤。

花边爆料

一款“宠物肖像”应用的双面人生

表面上,自称“宠物肖像”生成器的Viefur只是又一款AI图片玩具。应用内用虚拟金币计费,约4美元可买130枚金币,用户上传宠物照片,就能得到一张“拟人化肖像”:仓鼠穿着沙滩裤、戴着墨镜躺在泳池边,或者一只穿夏威夷衬衫的猫捧着椰子喝水。这类内容正是当下社交平台上泛滥的AI生成内容(AI slop)的典型样本。

明星趣闻

WIRED的调查却发现,这层外衣之下藏着应用真正的用途——生成带有性虐待性质的深度伪造图像。该应用属于一个由400多个互相关联的域名和应用构成的网络,成员大多同样伪装成日常服务,例如语言教学、AI健身教练。在特定条件下访问时,这些应用会悄悄加载一个网页界面,允许用户上传他人照片,生成露骨的AI性图像与视频。界面内置的模板名称令人不适,包括“卧室强奸”“持刀威胁”——画面中一名男子把刀架在女性脖子上。

明星糗事

这些应用并非藏在暗网角落。它们通过正规应用商店分发,通过主流社交平台的广告获客,通过苹果与谷歌的支付系统收款。

明星秘闻

服务器回一句话,决定用户看到哪个版本

这套伪装机制的技术核心,是应用启动时的一次服务器通信。非营利研究机构AI Forensics首席研究员保罗·布绍(Paul Bouchaud)对相关应用及其关联网站的代码进行了逆向分析,他指出,应用每次被下载安装,都会带着一串信息向服务器发起请求,其中包括用户来源、语言、某个唯一标识符,随后服务器回话决定展示露骨版本还是普通版本。

明星真相

触发条件并没有一份明确清单,但一个明显的信号是:用户从Meta平台上的关联广告点击进入并下载。布绍表示:“这是一个有组织、商业化运作的行动:一个运营者操控着数百个用完即弃的应用和域名,经过伪装以通过应用商店审核,并以虚假付款人名义通过数万条Meta广告推广。他们并不指望执法能追上,而到目前为止确实没追上。”

换句话说,普通用户在应用商店里看到的截图、评分与描述,与部分用户实际获得的功能可以完全不同。同一款应用,在两个不同的人手里是两件东西。

近500个域名,指向一家香港注册公司

WIRED在梳理域名与服务运作方式后判断,这些应用与网站由中国开发者以及一家名为KeLing Technology Limited的香港注册实体运营。WIRED向该实体、相关应用及服务所关联的电子邮箱多次发出置评请求,均未获回应;但在被联系之后,这些公开可查的关联信息似乎被抹去了。

安全公司Infoblox的工作人员威胁研究员马埃尔·勒图(Maël Le Touz)识别出近500个互相关联的域名。他表示:“这些代码里包含一份庞大的配置清单,列着其他域名和不同的加密密钥。它们运行同一套代码,彼此互相引用。”

研究人员称,网站中一段并不难解的JavaScript打包代码,等于把整个网络的底细摊开:所有由同一批开发者创建的域名与应用清单、应用包信息、加密密钥,甚至包括Facebook广告追踪像素的配置。一个以“隐身”为卖点的网络,把自己的组织架构写在了网页源码里。

从2025年底到每周30个:扩张时间线

布绍对域名注册时间的分析显示,这批应用在2025年末开始出现,2026年春季出现注册高峰,一度达到每周约30个“脱衣”类应用与网站上线。这些数字勾勒出一条清晰的工业化流水线:批量注册、批量上架、批量投放广告、被封后批量替换。

时间节点关键事件可核实数字
---------
2025年末相关应用与域名开始出现网络规模后续扩展至400以上
2026年春季注册量出现高峰每周约30个应用/网站上线
2026年9月谷歌Play商店在架数量27个应用仍在线
累计应用下载量超过35万次
调查统计Infoblox识别关联域名近500个
广告投放Meta平台上的相关视频广告数千条,部分触达数万人

上述应用在谷歌商店的累计下载量超过35万次,许多还获得了“适合”相应年龄段的评级。一个被用来生成性虐待影像的工具,在商店页面上挂着面向普通用户的年龄分级。

Meta广告、苹果支付、谷歌商店:三道关口为何都没拦住

这条链条上有三个环节:Meta的广告系统负责获客,苹果与谷歌的应用商店负责分发,苹果支付与谷歌支付负责收款。三个环节都公开声明禁止有害深度伪造内容,也都设有审核团队与自动化检测系统。

问题在于,这套网络的成本结构让封禁很难见效。域名和应用可以批量弃用,广告账户可以用虚假付款人名义反复开设,代码可以整体迁移。研究人员追踪到的数千条含露骨深度伪造内容的视频广告发布在Facebook与Instagram上,其中数百条包含AI生成的儿童性虐待材料,甚至出现真实儿童以及一名欧洲王室成员的图像。这些广告触达数万人,并已引发多国监管机构调查。

据法新社(AFP)此前报道,多国监管机构已就平台未能阻止此类广告展开问询;而平台方面的通用回应是,相关内容违反政策,一经发现即会移除。问题在于,“一经发现”之后,新的域名与应用往往已经上线。

监管追赶的速度,跟不上注册域名的速度

这条产业链的收益来自小额高频付费:4美元买130枚金币,单笔金额不高,却足以支撑批量运营。对监管者而言,跨境取证、公司实体层层嵌套、服务器与支付通道分散在不同司法辖区,每一步都拖慢节奏。

对平台而言,审核的难点在于“正常功能”与“隐藏功能”并存。应用在审核阶段可以只展示宠物肖像生成,上线后再由服务器下发另一套界面,检测系统看到的与应用商店里呈现的并不一致。研究者认为,仅靠上架前的人工审核无法解决这个问题,需要在上线后持续监测应用的实际网络行为。

受害者面临的风险则更为直接。一张上传的日常照片,可能在几分钟内被合成进暴力性场景,并在社交平台上传播。对未成年人、女性与公众人物而言,这类深度伪造应用降低了施害门槛,也提高了追溯难度。

常见问题

Q1: 这些深度伪造应用是如何绕过应用商店审核的?

A1: 关键在于“双版本”设计。应用提交审核时只展示宠物肖像、语言学习、健身指导等无害功能,符合商店政策;用户安装后,应用会向服务器发送来源、语言和设备标识等信息,由服务器决定是否加载露骨内容的网页界面。研究人员发现,从Meta广告点击进入并下载的用户更容易被分配到露骨版本。由于应用商店审核通常发生在提交与抽检环节,而非持续监测运行时的网络请求,这种切换很难在上架前被发现。

Q2: 普通用户和平台可以采取哪些防护措施?

A2: 用户层面,对要求上传人脸或亲友照片的陌生AI工具保持警惕,尤其是通过社交平台广告跳转下载的应用;留意应用内是否出现与描述不符的付费项目;不要向此类应用上传儿童或他人照片。平台层面,研究者建议对应用运行时的服务器通信做持续监测,对广告主实施更严格的实名与付款验证,并建立跨平台的深度伪造应用黑名单共享机制,让一次封禁能够同步到商店、广告系统与支付通道。

结语

一个由400多个域名撑起的深度伪造应用网络,把审核、广告与支付的缝隙变成了生意。封禁名单在增长,注册速度也没有停下。

Tags:

More Games

Popular Tags

Partners:

相关文章

▸ 明星内幕▸ 数码资讯▸ 人工智能▸ 大厂八卦▸ 职场八卦▸ 职场新闻▸ 商业新闻▸ 企业新闻▸ 创业新闻▸ 财经头条
友情链接:体育八卦 球星八卦 足球新闻 篮球新闻 转会消息 比赛战报 赛事直播 奥运新闻

🔗 友站推荐

以色列大选倒计时:内塔尼亚胡的10月7日应对成焦点
苹果本月发布触屏MacBook与iPad Mini 交互革命落地 细节全面解读
Fonagy报告:NHS心理健康危机儿童困扰激增ADHD自闭症评估失控
Ofsted 新督导制遭九成校长反对:教师心理健康仍受重创
护士下班被跟踪 皇家霍巴特医院员工停车安全引担忧
原住民高中开咖啡馆美发店:职业教育破解偏远地区服务短缺
悉尼公共广场遭州政府强插:1.5亿澳元项目前景不明
胡德堡枪手死刑:五角大楼确认网络直播,12月3日执行
GLP-1减肥药风潮:如何重塑社会身体形象与心理焦虑
AI视频创作新纪元:YouTube创始人力推GenVid,版权与就业挑战并存