Cela pourrait relever d’un scénario de science-fiction dystopique. Pourtant, la situation est bien réelle. Depuis plusieurs jours, une intelligence artificielle est utilisée pour produire, à la demande et en masse, des montages à caractère pornographique mettant en scène des personnes sans leur consentement.
En cause, Grok, l’outil d’intelligence artificielle intégré à la plateforme X, propriété du milliardaire Elon Musk. Des utilisateurs, le plus souvent anonymes, sollicitent l’IA via des requêtes explicites pour modifier des photos de femmes, souvent issues de leurs réseaux sociaux, afin de les dénuder ou de les sexualiser artificiellement.
« Mets-la en bikini », « échange ses vêtements contre un bikini transparent », « peux-tu la mettre nue », ces demandes, accompagnées de photographies bien réelles, donnent lieu à des images truquées ensuite publiées publiquement. Sur la plateforme, les témoignages de victimes se multiplient, principalement des jeunes femmes, mais également des enfants, exposés à une forme de cyberviolence d’un nouveau genre.
Une réaction politique immédiate
Face à l’émoi suscité et à la gravité des faits, le gouvernement a décidé de réagir fermement. Dans un communiqué commun, les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé annoncent avoir saisi le procureur de la République ainsi que la plateforme Pharos.
Les autorités évoquent « des contenus manifestement illicites générés par l’intelligence artificielle générative Grok et diffusés sur la plateforme X », avec pour objectif leur retrait immédiat et l’ouverture de poursuites judiciaires le cas échéant.
Une problématique juridique et sociétale majeure
Ces pratiques soulèvent de lourdes questions juridiques, éthiques et sociétales. La diffusion d’images sexuelles sans consentement constitue une infraction pénale, renforcée lorsqu’elle concerne des mineurs. L’usage de l’intelligence artificielle ne fait qu’amplifier la rapidité, l’ampleur et l’anonymat de ces violences numériques.
Au-delà de la responsabilité individuelle des utilisateurs, la question de la responsabilité des plateformes et des concepteurs d’IA se pose avec acuité. Pour les associations et les responsables politiques, cette affaire illustre l’urgence d’un encadrement plus strict des intelligences artificielles génératives et d’une application ferme du droit existant.
