Le 15 janvier 2026X a annoncé que Grok empêcherait la modification d’images de personnes réelles pour les rendre plus dénudées, y compris lorsqu’il s’agit de mineurs. Le correctif vise une fonction devenue payante le 9 janvier et place Apple et Google face à une question simple : que vaut le contrôle d’une boutique quand le modèle change à distance?
La mesure concerne tous les utilisateurs, y compris les abonnés payants. X affirme avoir mis en place des protections techniques contre la création de contenus sexuels illégaux, la nudité non consentie et les images sexualisées fabriquées à partir de photographies réelles. Le garde-fou arrive donc après la caisse.
Le garde-fou arrive après la caisse
La chronologie compte. Depuis le 9 janvier 2026les fonctions de génération d’images de Grok étaient limitées aux comptes payants. Des images de femmes et d’enfants pouvaient pourtant être utilisées pour produire des contenus sexualisés sans leur accord.
La pression est ensuite devenue géographique. L’Indonésie et la Malaisie ont bloqué Groktandis que le Royaume-Uni envisageait lui aussi une restriction. Aux États-Unis, Apple et Google ont été interrogés sur le respect de leurs règles de boutique d’applications.
X précise que le blocage géographique s’appliquera dans les régions où la loi l’impose. Cette formulation laisse une marge peu rassurante : une protection annoncée pour tous les utilisateurs peut aussi dépendre du pays depuis lequel le service est utilisé. Une interdiction mondiale et un filtrage à la carte, ce n’est pas la même promesse.
Le changement de ton est net. X affirme désormais appliquer une tolérance zéro aux contenus d’exploitation sexuelle de mineurs et aux images sexuelles non désirées. C’est mieux qu’un bouton absent, évidemment. Mais une plateforme qui corrige après deux blocages nationaux donne surtout l’impression d’avoir attendu que la facture réglementaire arrive.
Le jardin clos d’Apple prend l’eau
Apple ne développe pas Grok et ne décide pas du comportement du modèle. En revanche, l’entreprise contrôle une partie de la distribution des applications sur iPhone et impose ses propres règles aux logiciels proposés dans l’App Store. C’est là que le sujet devient intéressant pour la marque : le filtre intégré à l’application relève de X, mais la présence d’une application problématique peut aussi attirer l’attention du distributeur.
Une validation par l’App Store ne permet pas de vérifier chaque image générée après une mise à jour distante du service. Elle ne prouve pas non plus qu’un modèle respectera durablement ses garde-fous. Contrôler l’entrée ne suffit pas lorsque le contenu change en permanence derrière la porte.
Le fait que les autorités américaines aient interrogé Apple et Google montre que la responsabilité ne s’arrête plus au concepteur de l’intelligence artificielle. Les boutiques deviennent des points de pression. Pas parce qu’Apple aurait fabriqué les images, mais parce que son écosystème peut servir de canal d’accès à un service dont les protections ont vacillé.
Pour Apple, le problème est donc celui du suivi. Une application peut respecter une règle au moment de son examen, puis modifier ses fonctions côté serveur quelques jours plus tard. Il faut alors pouvoir auditer le service, traiter les signalements et couper rapidement une fonction qui dérape. Le jardin clos ne protège pas grand-chose si la mauvaise herbe pousse à distance.
Le flou artistique ne protège personne
La modération visuelle ne peut pas reposer sur un simple voile gris ou un flou automatique. Un article scientifique publié dans la revue Psychological Research en 2026, intitulé Evaluating image modification as a harm reduction approach in content moderationa testé cette idée auprès de personnes placées dans une simulation de modération. L’étude est identifiée par le DOI 10.1007/s00426-026-02241-5.
Dans la première étude, 309 participants ont été répartis aléatoirement entre des images en couleur, floutées ou passées en niveaux de gris. Dans la seconde, 365 participants pouvaient choisir le format d’affichage. Dans les conditions testées, le flou et les niveaux de gris n’ont pas réduit les effets négatifs immédiats, l’anxiété ou les intrusions mentales liées aux images.
Le gris-gris de la modération prend un coup
Le choix volontaire du filtre n’a pas changé le résultat. Les participants ont sélectionné le flou dans 14 % des cas et les niveaux de gris dans 16 % des cas. Les chercheurs avancent une explication plausible : quand un détail disparaît, l’esprit peut le reconstruire. Une image moins lisible n’est donc pas forcément une image moins marquante.
Il faut toutefois garder la mesure. Cette publication ne teste ni Grokni les deepfakes intimes, ni des modérateurs professionnels exposés pendant des mois à des contenus illégaux. Les participants venaient principalement d’une plateforme de recrutement en ligne et seuls 7,8 % ont déclaré une expérience de modération. Les résultats concernent des effets immédiats dans une simulation, pas toute la santé psychologique des équipes de modération.
La donnée reste utile pour comprendre les limites d’une interface. Masquer une miniature, réduire la saturation ou ajouter un avertissement ne remplace pas un blocage en amont. Le flou peut cacher une image, pas empêcher sa création.
Le bouton stop ne rembobine rien
Le problème des images déjà créées demeure. Une restriction annoncée le 15 janvier 2026 peut empêcher de nouvelles générations, mais elle ne supprime pas automatiquement les contenus qui ont circulé auparavant. Elle ne répare pas non plus l’atteinte subie par les personnes dont les photographies ont été détournées.
La différence entre prévention et nettoyage mérite d’être posée clairement. La prévention bloque une demande avant la génération. Le nettoyage retire les contenus existants et tente d’identifier les comptes responsables. Le recours traite les signalements et aide les victimes. Une plateforme qui communique uniquement sur le premier volet laisse les deux autres dans le brouillard.
Pour Apple, le sujet dépasse donc la conformité administrative. La question porte sur la capacité à suivre une fonction ajoutée à distance, à comprendre ses effets réels et à réagir quand les protections annoncées ne tiennent pas. Le 15 janvier, X a annoncé un blocage. Il reste à vérifier combien de temps le bouton restera vraiment en position arrêt.
Sources et références scientifiques
- William Gallagher. Grok now bans illegal porn generation, after monetizing it. 2026.
- Evaluating image modification as a harm reduction approach in content moderation – PMC. Psychological research. DOI: 10.1007/s00426-026-02241-5 · PMID: 41886096.
- Besançon, L., Semmo, A., Biau, D., Frachet, B., Pineau, V., Sariali, E. H., & Dragicevic, P. (2020). Reducing affective responses to surgical images and videos through stylization. Computer Graphics Forum, 39(1), 462-483. 10.1111/cgf.13886 [Google Scholar]. doi:10.1111/cgf.13886.
- Bridgland, V. M., Green, D. M., Oulton, J. M., & Takarangi, M. K. (2019). Expecting the worst: Investigating the effects of trigger warnings on reactions to ambiguously themed photos. Journal of Experimental Psychology: Applied,25(4), 602. [DOI] [PubMed] [Google Scholar].
- Bryant, R. A., Creamer, M., O’Donnell, M., Forbes, D., McFarlane, A. C., Silove, D., & Hadzi-Pavlovic, D. (2017). Acute and chronic posttraumatic stress symptoms in the emergence of posttraumatic stress disorder: A network analysis. JAMA Psychiatry, 74(2), 135-142. 10.1001/jamapsychiatry.2016.3470 [DOI] [PubMed]. doi:10.1001/jamapsychiatry.2016.3470.
- Brysbaert, M. (2019). How many participants do we have to include in properly powered experiments? A tutorial of power analysis with reference tables. Journal of Cognition. 10.5334/joc.72 [DOI] [PMC free article] [PubMed] [Google Scholar]. doi:10.5334/joc.72.
- Buechner, V. L., & Maier, M. A. (2016). Not always a matter of context: Direct effects of red on arousal but context-dependent moderations on valence. PeerJ,4, Article e2515. 10.7717/peerj.2515 [DOI] [PMC free article] [PubMed] [Google Scholar]. doi:10.7717/peerj.2515.
- Codispoti, M., De Cesarei, A., & Ferrari, V. (2012). The influence of color on emotional perception of natural scenes. Psychophysiology,49(1), 11-16. 10.1111/j.1469-8986.2011.01284.x [DOI] [PubMed] [Google Scholar]. doi:10.1111/j.1469-8986.2011.01284.x.
- Cook, C. L., Cai, J., & Wohn, D. Y. (2022). Awe versus aww: The effectiveness of two kinds of positive emotional stimulation on stress reduction for online content moderators. Proceedings of the ACM on human-computer Interaction, 6(CSCW2), 1-19.37360538 [Google Scholar].
- Coxe, S., West, S. G., & Aiken, L. S. (2009). The analysis of count data: A gentle introduction to Poisson regression and its alternatives. Journal of Personality Assessment, 91(2), 121-136. 10.1080/00223890802634175 [DOI] [PubMed] [Google Scholar]. doi:10.1080/00223890802634175.
- Craig, K. J., Heisler, J. A., & Baum, A. (2014). Intrusive thought and the maintenance of chronic stress. Cognitive interference (pp. 397-414). Routledge..
- Das, A., Dang, B., & Lease, M. (2020). Fast, accurate, and healthier: Interactive blurring helps moderators reduce exposure to harmful content. Proceedings of the AAAI Conference on Human Computation and Crowdsourcing, 8(1), 33-42. 10.1609/hcomp.v8i1.7461 [Google Scholar]. doi:10.1609/hcomp.v8i1.7461.
- Dzulkifli, M. A., & Mustafar, M. F. (2013). The influence of colour on memory performance: A review. The Malaysian Journal of Medical Sciences: MJMS,20(2), 3. [PMC free article] [PubMed] [Google Scholar].
- Faul, F., Erdfelder, E., Buchner, A., & Lang, A. G. (2009). Statistical power analyses using GPower 3.1: Tests for correlation and regression analyses. Behavior Research Methods, 41, 1149-1160. 10.3758/BRM.41.4.1149 [DOI] [PubMed] [Google Scholar]. doi:10.3758/BRM.41.4.1149.
- X forced to block all Grok AI 'undressing' of real people after global outrage.
