Apple Intelligence : 42 procureurs généraux réclament des garde-fous

Une lettre commune signée le 10 décembre 2025 par 42 procureurs généraux américains demande à Apple et à 12 autres entreprises de mieux encadrer les réponses dangereuses de leurs intelligences artificielles. Le texte place les sorties complaisantes, les croyances délirantes et la protection des mineurs au centre du dossier.

Apple Intelligence au banc des bonnes intentions

Les procureurs généraux ont adressé leur avertissement à 13 entreprises technologiques, dont Apple, OpenAI, Google, Meta, Microsoft et xAI. Ils reprochent à certains systèmes d’IA générative de produire des réponses trompeuses, complaisantes ou dangereuses, alors même que ces services sont présentés comme des outils d’assistance.

La lettre ne constitue pas encore une condamnation ni une amende. Elle affirme toutefois que certains comportements pourraient déjà relever des lois sur la protection des consommateurs, l’information sur les risques, la confidentialité des enfants et, dans certains cas, du droit pénal.

Quand le chatbot dit oui, même au pire

La lettre emploie deux expressions précises : « sycophantic outputs » et « delusional outputs ». La première désigne une IA qui approuve trop facilement l’utilisateur et prolonge son raisonnement au lieu de le remettre en question. La seconde concerne des réponses fausses ou trompeuses qui renforcent une croyance déjà installée.

Hallucination, le faux ami du chatbot

Une hallucination classique invente un nom, une date ou un fait. Une réponse délirante peut aller plus loin : elle valide une interprétation dangereuse, encourage l’isolement ou présente une idée inquiétante comme une évidence. Le problème n’est alors plus seulement l’exactitude d’une information, mais la manière dont le système réagit à une personne vulnérable.

Les procureurs généraux mentionnent des cas rapportés de suicides, de violences, d’empoisonnements, de violences conjugales et d’hospitalisations liées à des épisodes psychotiques. Ces exemples ne prouvent pas automatiquement qu’un modèle a causé chaque drame. Ils posent néanmoins une question très concrète : que fait le service lorsqu’un utilisateur signale une crise, une intention suicidaire ou une croyance manifestement fausse?

Les mineurs ne sont pas un mode enfant

La lettre évoque aussi des interactions où des agents conversationnels auraient entretenu des relations romantiques avec des mineurs, encouragé la consommation de drogues ou la violence, attaqué l’estime de soi, déconseillé un traitement prescrit ou demandé de garder les échanges secrets vis-à-vis des parents.

Ces situations donnent une portée très concrète à la demande de garde-fous. Un chatbot qui cherche à maintenir une conversation peut facilement confondre empathie et approbation. Une réponse fluide ne devient pas sûre simplement parce qu’elle paraît humaine.

Le jardin clos ne filtre pas les mauvais conseils

La présence d’Apple dans cette liste rappelle une distinction que le marketing technologique mélange parfois : la confidentialité des données et la sécurité des réponses ne couvrent pas le même risque. Une requête peut rester privée tout en recevant une réponse dangereuse ou trompeuse.

Les 13 entreprises visées ne proposent d’ailleurs pas toutes le même type de service. La lettre concerne des outils généralistes, des assistants et des applications conversationnelles aux usages plus affectifs. Le niveau d’anthropomorphisme, l’accès aux informations personnelles et la durée des échanges peuvent varier fortement. Les protections ne peuvent donc pas se limiter à un réglage unique appliqué à toute l’IA générative.

Pour Apple, mettre en avant le jardin clos ne suffira pas si le système laisse passer un conseil qui aggrave une crise. La question ne porte pas seulement sur l’endroit où la demande est traitée, mais sur la réponse fournie et sur la réaction du service lorsqu’elle présente un risque.

Le droit américain passe en mode avion

Les procureurs généraux s’appuient sur des textes existants plutôt que d’attendre une grande loi fédérale qui encadrerait toute l’IA. Leur raisonnement est direct : si une entreprise connaît des risques prévisibles, ne les explique pas clairement et laisse son système produire des réponses nuisibles, les règles sur les pratiques trompeuses ou la protection des enfants pourraient s’appliquer.

Cette démarche renforce le rôle des États dans la surveillance des outils d’IA aux États-Unis. Pour les entreprises, le risque n’est donc pas uniquement technique. Il concerne aussi la conformité, la documentation des tests et la capacité à montrer qu’un modèle a été évalué avant sa mise à disposition.

Parmi les mesures demandées figurent des évaluations de sécurité avant lancement, des audits indépendants, un accès plus clair aux données de test et un signalement structuré des incidents. Les procureurs généraux veulent traiter les dérives liées à la santé mentale avec une rigueur comparable à celle appliquée aux failles de cybersécurité. Pas très sexy pour une keynote, mais nettement plus utile qu’une animation avec des confettis.

Le sujet quitte le terrain des promesses pour entrer dans celui de la preuve.

Le vrai benchmark, c’est la capacité à dire non

Le dossier pose enfin une question de conception produit. Une IA qui répond à une demande ordinaire ne présente pas le même risque qu’un agent conversationnel auquel un adolescent confie une crise ou une intention dangereuse. Plus l’échange paraît personnel, plus les limites du système doivent être visibles et les réactions prévues à l’avance.

Apple devra donc pouvoir expliquer comment ses fonctions d’IA identifient une situation à risque, évitent de renforcer une croyance fausse et documentent les incidents. La lettre ne demande pas une formule magique. Elle réclame des tests, des contrôles et des informations vérifiables.

Le fan de la puce et de l’intégration peut applaudir l’interface. Il faudra quand même regarder la ligne la moins glamour de la fiche technique : la capacité d’une IA à reconnaître ses limites et à interrompre une conversation qui dérape. Le meilleur chatbot n’est pas celui qui dit toujours oui.