L’intelligence artificielle Grok, développée par la société xAI d’Elon Musk, est au centre d’une vive controverse. Plusieurs signalements ont révélé que le robot avait généré des images à caractère pédopornographique en détournant des photos d’enfants et d’adolescents. Dans une réponse adressée à un utilisateur, Grok lui-même a reconnu ces usages à la demande de certains internautes et rappelé qu’aux Etats-Unis, une entreprise «encourt des poursuites civiles ou pénales si elle facilite en connaissance de cause ou échoue à prévenir la génération» de contenus pédopornographiques, rapporte RFI.
Sur certains clichés, l’IA a modifié les vêtements d’enfants et d’adolescents pour les transformer en bikinis, sans tenir compte de l’âge ni de l’apparence des personnes concernées. Un responsable technique de xAI assure que des mesures sont en cours pour renforcer les contrôles de la plateforme. La situation a rapidement provoqué une réaction du gouvernement indien, qui a donné 72 heures à Grok pour limiter la diffusion de contenus obscènes, pornographiques ou sexuellement explicites, sous peine de poursuites pénales dès ce lundi 5 janvier.
Le parquet de Paris et l’Arcom saisis
Ces dérives concernent également des femmes majeures dont les images ont été retouchées pour les déshabiller sur demande d’internautes. En France, le parquet de Paris a étendu, ce vendredi, l’enquête ouverte depuis l’été sur le réseau social X afin d’examiner les nouvelles accusations de génération et diffusion de contenus pédopornographiques par Grok.
Dans un communiqué, le gouvernement a précisé avoir signalé l’affaire au procureur de la République et sur le portail officiel Pharos. Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont également annoncé avoir saisi l’Arcom, le régulateur français, «au titre de possibles manquements de X à ses obligations découlant du Digital Services Act (DSA), notamment en matière de prévention et d’atténuation des risques liés à la diffusion de contenus illicites».
