Bruxelles frappe fort contre X (anciennement connu sous le nom de Twitter) et son assistant IA Grok. L’Europe a ouvert une enquête formelle sur la création d’images dénudées générées par Grok sans le consentement des personnes concernées, y compris des enfants.

Une situation préoccupante pour Grok et X

Le bot IA Grok, développé par xAI, a suscité l’indignation en permettant la génération de deepfakes sexuels explicites, souvent à partir de photos de femmes — et cela, sans leur consentement. La situation est d’autant plus choquante que Grok permet également de créer des contenus illégaux à partir de photos d’enfants, entraînant des conséquences juridiques graves.

Face à ces dérives, xAI a modifié ses politiques en restreignant la génération d’images aux seuls abonnés payants de X. Cependant, cette décision est controversée et pourrait aggraver la situation plutôt que d’y remédier. De plus, la plateforme a récemment mis en place un interdiction de création d’images dénudées.

Réactions de la Commission européenne

Henna Virkkunen, responsable de la souveraineté technologique, a déclaré que “les deepfakes ciblant des femmes et des enfants représentent une atteinte inacceptable à la dignité humaine”. Elle a ajouté que cette enquête vise à comprendre si X a rempli ses obligations légales conformément au règlement sur les services numériques (DSA).

Cette enquête se penchera sur plusieurs points clés : la manière dont X a évalué les risques liés au déploiement de Grok, ainsi que sa capacité à atténuer la diffusion de contenus illégaux. Il est déjà clair que ces risques se sont matérialisés, exposant de nombreux citoyens européens à des préjudices importants.

Si des manquements sont constatés, des sanctions financières pourraient s’appliquer, pouvant atteindre 6 % du chiffre d’affaires annuel, X ayant déjà écopé d’une amende de 120 millions d’euros en décembre 2023 pour non-respect du DSA.

Des enjeux juridiques et éthiques majeurs

Anne le Hénanff, ministre déléguée au Numérique, a exprimé son soutien à l’ouverture de cette enquête : “Aucune plateforme ne saurait échapper à nos lois.” De plus, la Commission européenne prévoit d’étendre son enquête pour examiner les systèmes de recommandation de X, en particulier après l’intégration de Grok.

👉🏻 Pour rester informé sur l’actualité technologique, ajoutez 01net à vos sources sur Google et abonnez-vous à notre canal WhatsApp.