Faux nus IA : 28 apps retirées de l’App Store, et ça coince

Le 27 janvier 2026le Tech Transparency Project a recensé 47 applications de faux nus IA dans l’App Store. Apple en a retiré 28 après signalement, mais cette opération montre surtout les limites du contrôle dans son jardin clos.

Le jardin clos prend l’eau par la porte des apps

Le rapport du Tech Transparency Project a identifié 47 applications dans l’App Store et 55 dans le Google Play Store. Les chercheurs les ont trouvées avec des recherches ordinaires, notamment sur les termes « nudify » et « undress », puis en ont testé plusieurs. Certaines utilisaient le face swap pour placer le visage d’une personne sur un corps dénudé. D’autres produisaient des images ou des vidéos à partir d’une consigne textuelle.

Les tests ont été réalisés avec des images de femmes inexistantes, générées par IA et habillées. Cela ne rend pas le fonctionnement acceptable : des applications présentées comme des outils d’avatars ou d’animation pouvaient quand même produire une scène sexualisée à partir d’une photo. Plusieurs étaient en plus accessibles aux moins de 18 ans selon leur classement.

28 retraits, mais la modération reste en mode avion

Apple dispose déjà de règles couvrant ce cas. Ses App Store Review Guidelines interdisent les contenus ouvertement sexuels ou pornographiques, notamment dans la section 1.1.4. La section consacrée aux contenus générés par les utilisateurs impose aussi des mécanismes pour filtrer les publications problématiques. Les règles de sécurité écartent enfin les contenus offensants, choquants ou franchement malsains.

Après avoir reçu la liste des applications concernées, Apple en a supprimé 28 et a averti les autres qu’elles risquaient le retrait si elles ne corrigeaient pas leurs violations. C’est une réaction concrète. Elle intervient toutefois après la découverte publique des apps, pas avant leur arrivée dans le magasin.

Le cas de DreamFace résume bien le trou dans la raquette. Ses conditions d’utilisation interdisaient les contenus offensants, explicites ou susceptibles de harceler quelqu’un. Pourtant, son mode gratuit a généré une vidéo sexualisée à partir d’une image et d’une consigne demandant à la personne de retirer son haut. Les conditions d’utilisation disent non, le générateur répond oui. Ça coince sévère.

Le problème n’est donc pas l’absence de règle, mais le passage de la règle au contrôle effectif.

Une boutique d’applications peut vérifier les métadonnées, le fonctionnement déclaré et certains écrans de démonstration. Elle doit aussi anticiper les usages détournés d’un modèle génératif. Une application qui se présente comme un outil d’avatar ne devient pas inoffensive parce que sa fiche produit évite les mots qui fâchent.

Le deepfake circule, la victime paie l’addition

Une revue de cadrage publiée le 15 septembre 2026 dans Trauma, Violence & Abuse a examiné 54 articles scientifiques anglophones publiés entre le 1er décembre 2017 et le 13 janvier 2026. Gao y décrit les faux contenus sexuels générés par IA comme une forme d’abus sexuel basé sur l’image. Le phénomène est étudié selon quatre étapes : la production, la diffusion, la visibilité et la recirculation.

Cette revue ne fournit pas de taux mondial de victimes. Elle constate plutôt que les travaux disponibles restent surtout juridiques ou conceptuels, tandis que les recherches centrées sur les victimes et l’efficacité des interventions sont moins nombreuses. Les dommages décrits peuvent inclure la détresse, la stigmatisation, des conséquences sur les relations ou le travail, l’autocensure et la charge administrative liée aux signalements.

Une seconde revue publiée le 12 octobre 2026, signée Witt, Stevens, Ridgway et Ringin dans la même revue, a analysé 34 études empiriques sur les abus sexuels basés sur des images générées ou modifiées par IA. Elle relève l’instabilité du vocabulaire : certains travaux parlent encore de « pornographie deepfake » sans nommer clairement l’abus. Le choix des mots déplace alors l’attention vers le contenu, au lieu de désigner la personne ciblée et l’absence de consentement.

La revue ne décrit pas non plus un profil unique des victimes. Les contenus publics observés sur certains sites représentent très majoritairement des femmes, alors que certaines études de prévalence rapportent des taux de victimisation plus élevés chez les hommes pour des comportements précis. Les attitudes varient selon la personne ciblée, les motivations de l’auteur et le contexte. Le sujet mérite donc mieux qu’une bataille de slogans entre « simple blague » et « apocalypse numérique ».

La poule aux œufs d’or prend un coup de bec

Le volet économique complique la posture d’Apple. Avec plus de 705 millions de téléchargements et une estimation de 117 millions de dollars de revenus, ces applications ne sont pas un petit bricolage caché dans un coin du magasin. Elles génèrent assez d’activité pour que les boutiques prélèvent une commission sur des services capables de faciliter des abus.

Il serait toutefois faux d’attribuer les 117 millions de dollars à Apple. Le chiffre englobe les applications étudiées et AppMagic ne donne pas ici la part exacte revenant à chaque boutique. Parler de revenus globaux n’est donc pas chiffrer la marge opérationnelle d’Apple. Le mécanisme reste néanmoins clair : plus une application vend de crédits ou d’abonnements, plus la plateforme peut gagner de l’argent sur les transactions.

Après le cas de Grok et des faux nus, l’App Store ne peut plus traiter ces outils comme une curiosité isolée. La règle mise à l’épreuve n’est pas seulement celle qui concerne une application précise : c’est la promesse de contrôle du jardin clos. Apple vend un environnement filtré, pas une galerie où la modération arrive après le signalement.

Le contrôle parental ne doit pas jouer à cache-cache

La présence d’applications capables de produire ce type de contenu avec des classements compatibles avec un public adolescent ajoute une difficulté concrète. Les mentions légales, les boutons de signalement et les filtres automatiques ne suffisent pas si le modèle accepte encore la demande après quelques formulations détournées.

Une réponse crédible passe par plusieurs niveaux : examiner les fonctions réelles plutôt que la seule description de l’app, tester les usages détournés avant validation, vérifier les protections contre l’exploitation d’images de personnes et retirer rapidement les services qui contournent leurs propres conditions. Le rapport du Tech Transparency Project estime que les applications repérées ne représentent qu’une petite partie du marché. Les 28 retraits constituent donc un début de ménage, pas un certificat de propreté.

Apple peut continuer à défendre la confidentialité de ses appareils, mais la confidentialité de l’iPhone ne règle pas la gouvernance de l’App Store. Ici, l’enjeu se joue côté plateforme : qui entre, ce qui est testé, ce qui est retiré et ce qui est expliqué publiquement. Le logo ne modère pas une image. Et le jardin clos va devoir montrer ses clôtures.