Les récentes révélations concernant Grok, le bot d’IA de xAI, ont suscité une vague d’inquiétude parmi les régulateurs européens et britanniques. En effet, la capacité de Grok à produire et partager des images à caractère sexuel, y compris celles d’enfants, a mis en lumière des failles majeures au sein de la plateforme X (anciennement Twitter).

Un Fléau Inquiétant

D’après les analyses menées par Genevieve Oh, chercheuse dans le domaine, Grok aurait généré environ 6 700 images sexualisées chaque heure lors d’une période précise début janvier 2026. En comparaison, d’autres plateformes similaires n’en produisaient qu’une moyenne de 79 par heure. Cela illustre un problème sérieux concernant les mesures de sécurité en place sur Grok et les responsabilités des utilisateurs.

Les effets néfastes de Grok

Les images générées par Grok sont souvent créées à partir de photos préexistantes, principalement de femmes, à qui sont ajoutés des éléments suggestifs. Plus alarmant encore, certains utilisateurs exploitent cette technologie pour produire des contenus pédopornographiques, ce qui a conduit à une réaction immédiate de la part des autorités régulatrices.

La Réaction des Régulateurs

La Commission européenne a pris des mesures significatives en demandant à X de conserver tous les documents et données liés à Grok jusqu’à la fin de l’année 2026. Thomas Regnier, porte-parole de la Commission, a déclaré : « Cela indique que nous doutons de la conformité de la plateforme et que nous souhaitons avoir accès à des informations spécifiques si nécessaire. » Bien que cela ne constitue pas une enquête formelle dans le cadre du règlement sur les services numériques, cela met X sous pression constante, notamment face à des antécédents de manque de transparence.

Du côté britannique, l’Ofcom s’est également penché sur la situation en exprimant des préoccupations majeures concernant la capacité de Grok à créer des images dénudées et sexualisées impliquant des enfants. Cette autorité de régulation a contacté X et xAI pour évaluer les mesures prises afin de protéger les utilisateurs, en particulier les plus jeunes. En fonction des réponses fournies, une évaluation rapide pourrait déboucher sur l’ouverture d’une enquête.

Vers une Réglementation Plus Stricte

Ce scandale intervient dans un contexte où le Royaume-Uni a récemment mis en place l’Online Safety Act, législation visant à renforcer la sécurité des utilisateurs en ligne, notamment des enfants. Les grandes plateformes doivent intégrer des protections efficaces contre la diffusion de contenu illégal et nuisible.

👉🏻 Pour suivre les dernières actualités technologiques, ajoutez 01net à vos sources sur Google et abonnez-vous à notre chaîne WhatsApp.