Des responsables politiques français dénoncent l’IA Grok pour la création de fausses vidéos sexuelles
Des responsables politiques français, dont le député socialiste Arthur Delaporte, ont dénoncé l’utilisation de l’IA Grok pour dénuder virtuellement des femmes et annoncé saisir la justice, rapporte TopTribune.
Le député socialiste du Calvados et porte-parole du groupe PS à l’Assemblée a déclaré, le vendredi 2 janvier, que des images falsifiées à caractère sexuel avaient été générées par Grok, l’intelligence artificielle du réseau social X. Accompagné des députés Eric Bothorel et Arthur Delaporte, ainsi que des ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé, il a saisi le procureur pour signaler ces images.
« Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement », ont déclaré les ministres dans un communiqué.
Arthur Delaporte a souligné que cette tendance s’était développée dans les 48 heures précédentes. « Signaler à la justice, c’était à la fois dire que ce que font les utilisateurs quand ils demandent des photos de nudification et sans consentement est déjà illégal, mais qu’il y a aussi une responsabilité de la plateforme dans la mise à disposition de cette solution », a-t-il déclaré.
Il a également ajouté : « Ces applications qui permettent de nudifier ces femmes sont déjà illégales. C’est puni de deux ans d’emprisonnement et 60 000 euros d’amende. Avec une circonstance aggravante sur un réseau social, cela peut aller jusqu’à trois ans d’emprisonnement et 75 000 euros d’amende », a rappelé le député, en insistant sur la nécessité d’aller plus loin.
« Finalement, on s’attaque aux utilisateurs, mais le problème est à la racine », a déclaré Delaporte. Il a critiqué la plateforme X et son propriétaire Elon Musk, affirmant : « Aujourd’hui, ils se moquent du monde. Musk a fait des tweets en relayant des images de lui-même dénudé et en maillot de bain, sans réaliser que l’utilisation de Grok pouvait entraîner des violences psychologiques considérables chez des utilisatrices. »
Selon lui, cette situation est une provocation et un déni de la part de Musk. « C’est aussi le signal qu’on a basculé d’une ère où les plateformes prétendaient être neutres, et donc irresponsables, à une ère où elles ont une responsabilité éditoriale et doivent pouvoir rendre des comptes », a insisté le député, précisant qu’il y a une responsabilité pénale à assumer.
Delaporte a annoncé qu’il remettrait un rapport au gouvernement « dans quelques jours », proposant de proscrire la mise à disposition de fonctionnalités de nudification pour les utilisateurs, car « il ne faut pas rendre cela trop facile ». Il a affirmé : « On est dans une phase où on arrive à mieux réguler les plateformes. »
Il a ajouté que des règlements européens permettent déjà de proscrire certains types de contenu, mais qu’il est essentiel d’aller au-delà et de renforcer la régulation du numérique, secteurs où des dangers croissants se profilent.
