La polémique sur les détecteurs de textes générés par IA
La controverse entourant le roman C’était ça ou mourir (Grasset) de Thélyson Orélien met en évidence l’émergence de nouvelles technologies : les détecteurs d’intelligence artificielle. Ces outils ont pour but d’établir si un texte a été rédigé par un humain ou généré par une IA, rapporte TopTribune.
Depuis l’émergence de ChatGPT et Gemini, une nouvelle catégorie d’outils a vu le jour : les détecteurs d’IA. Ces logiciels, eux-mêmes basés sur l’IA, sont entraînés sur des corpus de textes d’origine humaine et d’autres générés par des systèmes d’intelligence artificielle. Leur objectif est de identifier des traits stylistiques susceptibles de révéler l’origine humaine ou non d’un écrit.
« L’idée étant que ces textes générés automatiquement, mais c’est de moins en moins vrai, présentent des tics de langage, » a expliqué Thierry Poibeau, directeur de recherche au CNRS, dans une interview accordée à l’AFP. Il a ajouté que l’outil pouvait repérer des répétitions dans l’écriture, mais cela pourrait également provenir du « style d’un écrivain ».
Selon Poibeau, les éléments particulièrement identifiables comprennent des constructions ternaires ou l’utilisation des tirets cadratins, « en raison de l’entraînement des outils sur des textes scientifiques américains ou des romans américains, où ces structures sont courantes. »
Cependant, les avancées rapides de l’intelligence artificielle rendent la détection de textes générés par IA de plus en plus complexe. Thierry Poibeau souligne que les détecteurs sont confrontés à un « problème de cible mouvante », alors que « les modèles d’IA évoluent en permanence ».
Une fiabilité contestée
De nombreux outils de détection annoncent des taux de fiabilité supérieurs à 99 %, bien que cela ne signifie pas qu’un résultat puisse constituer une preuve formelle. Max Spero, PDG et cofondateur de Pangram, a confirmé cette incertitude. Cet outil a été celui utilisé pour analyser le livre de Thélyson Orélien. Dans une interview donnée à The Atlantic, il a précisé que Pangram ne devrait jamais être considéré comme « l’arbitre final », mais plutôt comme un point de départ pour une analyse plus approfondie.
Concernant l’affaire Thélyson Orélien, Max Spero a exprimé des réserves. Interrogé par Le Monde, il a indiqué : « Je ne crois pas avoir jamais observé un tel degré de détection d’IA par Pangram sur un livre ».
