Grok AI est suspendu en Indonésie et en Malaisie en raison d' une utilisation abusive de sa fonctionnalité de génération d'images

Plusieurs utilisateurs ont récemment signalé que la fonctionnalité de génération d' images de Grok permettait de sexualiser des photos de femmes , voire d' enfants, grâce à de simples suggestions textuelles. Face à l' inquiétude internationale croissante, on s'attendait à ce que certains pays imposent des restrictions à ce chatbot IA . Samedi , l' Indonésie est devenue le premier pays à suspendre temporairement l'accès à Grok AI ; la Malaisie a fait de même le lendemain .
La Commission malaisienne des communications et du multimédia (MCMC), qui a publié un communiqué de presse officiel via son compte X vérifié (anciennement Twitter) expliquant les raisons de cette décision, a confirmé la décision de la Malaisie .

Selon un communiqué du MCMC , cette décision fait suite à l' utilisation abusive et répétée de Grok pour créer des photos pornographiques, à caractère sexuel explicite, indécentes, extrêmement offensantes et modifiées sans consentement . Le comité a souligné l' existence de graves problèmes juridiques et de sécurité , certaines vidéos incluant des femmes et des enfants.

La MCMC affirme avoir adressé des mises en demeure à X Corp. et xAI LLC les 3 et 8 janvier 2026 , leur demandant la mise en place de mécanismes de modération robustes et de protections techniques efficaces . Ces mesures visaient à empêcher que les contenus générés par l'IA n'enfreignent la législation malaisienne , notamment l' article 233 de la loi de 1998 sur les communications et le multimédia .

Mais, selon les rapports , les réponses de X Corp. les 7 et 9 janvier reposaient principalement sur les signalements des utilisateurs . D'après MCMC , cette stratégie ne permet pas de remédier aux dangers inhérents à la conception et au fonctionnement du système d'IA .

La MCMC a ajouté que , tant que des protections adéquates ne seront pas mises en place, notamment celles qui protègent les femmes et les enfants contre les contenus nuisibles et abusifs , l'accès à Grok restera interdit. La commission a affirmé que , malgré la suspension , elle reste disposée à travailler avec X Corp. et xAI LLC tant qu'il y a respect clair et observable du droit malaisien .