Une enquête pour protéger les utilisateurs

La Commission européenne a ouvert, le 26 janvier, une enquête visant le réseau social X, en raison de la diffusion d’images dénudées de mineurs et de femmes générées par Grok, l’assistant d’intelligence artificielle de la plateforme. La présidente de la Commission européenne, Ursula von der Leyen, a déclaré que l’Europe ne “tolérera pas les comportements insensés” des plateformes numériques, tels que “les fausses images dénudées”.

“Notre position est claire : nous ne confierons pas le consentement et la protection de l’enfance à des plateformes technologiques pour qu’elles les violent et les monétisent”, a-t-elle ajouté, insistant sur la nécessité de renforcer la protection des citoyens, tant en ligne qu’en dehors de celle-ci.

Élargissement des investigations

Cette enquête fait suite à une première investigation lancée en décembre 2023, dans le cadre de la législation sur les services numériques. Des préoccupations avaient été soulevées quant à une fonctionnalité permettant aux utilisateurs de demander à Grok de créer des images dénudées en utilisant des photos réelles. Cette situation soulève d’importantes questions éthiques et juridiques.

Face à la controverse, plusieurs pays, dont la France et le Royaume-Uni, ont initié des procédures contre la plateforme, et l’accès à X a été bloqué par certains États. X a, par la suite, limité l’utilisation de cette fonctionnalité dans les régions où la création de tels contenus est illégale.

Des chiffres alarmants

Une étude du Center for Countering Digital Hate (CCDH) a révélé que Grok avait généré environ trois millions d’images sexualisées de femmes et d’enfants en seulement 11 jours, soit une moyenne affolante de 190 images par minute. Une autre analyse a montré que plus de la moitié des plus de 20 000 images générées par Grok représentaient des personnes légèrement vêtues, avec 81% de femmes et 2% paraissant mineures.