Interdiction judiciaire contre Grok : le chatbot d’Elon Musk visé pour la création d’images à caractère sexuel non consensuel
Le tribunal de district d’Amsterdam a rendu une ordonnance inédite jeudi, interdisant à xAI, l’entreprise d’intelligence artificielle d’Elon Musk, de générer et de diffuser via son chatbot Grok des images sexuellement explicites représentant des personnes partiellement ou totalement déshabillées sans leur consentement explicite. Cette décision, la première du genre en Europe dirigée spécifiquement contre Grok, s’étend également à la création de matériel d’abus sexuels sur enfants et interdit à la plateforme X (anciennement Twitter) d’intégrer Grok comme fonctionnalité dans l’Union européenne.
Une sanction financière lourde et des frais de justice attribués
En cas de non-respect, xAI s’expose à une astreinte de 100 000 euros par jour, avec un plafond de 10 millions d’euros. Par ailleurs, le tribunal a condamné xAI à payer dans les 14 jours les frais de justice de l’association néerlandaise Offlimits, à l’origine de la plainte, pour un montant de 2,2 millions d’euros. Offlimits, une organisation non lucrative spécialisée dans la lutte contre les abus sexuels en ligne et impliquant des enfants, a porté l’affaire.
Des preuves chiffrées d’abus massifs
Les données présentées par le Centre de lutte contre la haine numérique (CCDH) ont été déterminantes. Selon son analyse, environ trois millions d’images sexualisées auraient été générées par Grok entre le 29 décembre 2025 et le 9 janvier 2026. Parmi celles-ci, plus de 23 000 présentaient des caractéristiques suggérant qu’elles représentaient des enfants. Malgré l’annonce par xAI en janvier d’un blocage de la génération d’images sexualisées de personnes réelles pour tous les utilisateurs de X, y compris les abonnés payants, Offlimits a démontré que ces restrictions étaient facilement contournables, ce que le juge a jugé insuffisant.
Un contexte de pressions juridiques et réglementaires croissantes
Cette décision néerlandaise s’inscrit dans un ensemble de actions légales et d’enquêtes à l’encontre de xAI et de la plateforme X :
- États-Unis : La ville de Baltimore a engagé en février une action en justice, devenant la première grande municipalité américaine à poursuivre xAI pour violation des lois locales sur la protection des consommateurs et publicité trompeuse concernant la sécurité de Grok. Le procès mentionne notamment la tendance à “mettre en bikini” (dénuement) des images de personnes. Trois adolescents du Tennessee ont également porté plainte la semaine dernière après que Grok ait généré des contenus les mettant en scène dans des situations sexuellement explicites.
- Union européenne : La Commission européenne a ouvert une enquête en janvier contre X au titre du Règlement sur les Services Numériques (DSA) concernant la diffusion de matériel sexuellement explicite d’enfants et d’adultes de manière non consensuelle.
- Royaume-Uni : Les régulateurs, dont l’Ofcom et le Bureau du commissaire à l’information, ont lancé leurs propres investigations sur la distribution de ces images par X.
- Asie du Sud-Est : Suite aux “échecs répétés de X Corp à gérer les risques”, la Malaisie et l’Indonésie ont bloqué l’accès à Grok en janvier.
Réactions et portée symbolique
Robbert Hoving, directeur général d’Offlimits, a salué une décision qui “trace une ligne claire : la technologie n’est pas une autorisation pour violer les droits de l’homme en ligne”. Il a également relevé la coïncidence avec un vote européen récent visant à interdire les outils de “nudification” (comme les “Nudify”).
Cette affaire illustre la course entre le développement rapide des modèles d’IA générative et les cadres juridiques existants, notamment en matière de consentement, de protection des mineurs et de responsabilité des plateformes. L’ordonnance néerlandaise fixe un précédent contraignant en Europe, exigeant des mesures techniques et de modération bien plus robustes que celles jusqu’ici déployées par xAI.