Le régulateur britannique de la sécurité sur Internet, connu sous le nom d’Ofcom, a récemment déclaré avoir
lancé une “enquête formelle” sur le réseau social X, en raison de l’utilisation de son assistant
d’intelligence artificielle, Grok. Cette décision fait suite à des “signalements très inquiétants”
concernant des images à caractère sexuel produites par Grok, notamment des images d’individus dénudés,
potentiellement illégales, ainsi que des contenus pédopornographiques.

Les images en question, créées par Grok à partir de requêtes pour dénuder des personnes réelles, ont
provoqué une onde de choc à l’échelle mondiale. Des actions rapides ont été entreprises, avec la Malaisie
annonçant la suspension de l’accès à Grok après l’Indonésie, où des mesures similaires avaient été prises.

Face à ces critiques croissantes, Grok a choisi de désactiver sa fonctionnalité de création d’images pour les
utilisateurs non payants, invitant les abonnés à opter pour un service premium pour débloquer ces
options. Cette décision a néanmoins été fortement critiquée au Royaume-Uni, où certains ont vu cela comme
une trivialisation des effets sur les victimes de violences sexuelles.

Ofcom a par ailleurs demandé des éclaircissements à X, bien que les détails de leurs discussions restent
confidentiels. L’organisme de régulation mettra en lumière si X a négligé ses responsabilités légales en
matière de contenu. Parmi celles-ci, la nécessité d’évaluer et de supprimer rapidement tout contenu illégal
partagé sur leur plateforme.

Le pouvoir d’action d’Ofcom est considérable : l’organisme a la capacité d’imposer des amendes pouvant
atteindre 10% du chiffre d’affaires annuel de l’entreprise visée et peut même demander un blocage de la
plateforme au Royaume-Uni.

Le climat autour de Grok a attiré l’attention des médias et des responsables politiques. Le ministre des
entreprises a exprimé son indignation face à la situation, jugeant les images générées “répugnantes et
manifestement illégales”, tout en soulignant l’importance de faire appliquer strictement la loi.

Pour des informations supplémentaires, vous pouvez consulter les articles suivants :

• L’IA Grok propose
  de payer pour dénuder les utilisateurs, même sans consentement.
• La moitié des
  images créées par Grok pendant les fêtes étaient de nature sexuelle.