Les erreurs de ChatGPT : une mise en question de la fiabilité de l’intelligence artificielle
L’IA la plus utilisée au monde n’est pas toujours la plus fiable. Un test mené par franceinfo a révélé des lacunes significatives dans les réponses fournies par ChatGPT, notamment concernant une figure politique de premier plan, François Bayrou, rapporte TopTribune.
Dans une simple question posée à la version gratuite de ChatGPT, « Est-ce que François Bayrou a été Premier ministre ? », l’IA a répondu faussement : « Non, François Bayrou n’a jamais été Premier ministre. C’est un homme politique centriste, président du mouvement démocrate, le MoDem. » Or, Bayrou a effectivement occupé ce poste pendant près de neuf mois avant d’être remplacé le mardi 9 septembre par Sébastien Lecornu.
Face à cette erreur, le test a été renouvelé. Lorsqu’on a demandé à l’IA si elle était sûre de sa réponse, elle a persisté, en indiquant : « François Bayrou a eu une longue carrière politique, mais il n’a jamais été nommé Premier ministre. » Ce n’est qu’après plusieurs reformulations que ChatGPT a finalement reconnu que François Bayrou avait effectivement été Premier ministre.
Un second test a été effectué en interrogeant l’IA sur le pape actuel. ChatGPT a initialement répondu « le Pape François », alors que celui-ci est décédé en avril dernier. À nouveau, il a fallu insister pour que l’IA mentionne le nom de son successeur, Léon XIV.
Pour expliquer ces « hallucinations », ChatGPT a évoqué deux raisons principales. Premièrement, sa base de connaissances est limitée à juin 2024, période à laquelle Gabriel Attal était effectivement Premier ministre. Deuxièmement, l’IA a admis ne pas avoir vérifié ses réponses en consultant des sources d’information.
Il est essentiel de noter que, sauf rares exceptions, l’accès des IA aux contenus d’information est restreint. Néanmoins, ChatGPT montre une capacité à vérifier des informations sur des sujets variés. Par exemple, des questions relatives à l’interdiction du tabac dans certains lieux publics ou à la mort de l’animateur Thierry Ardisson ont reçu des réponses correctes.
Ce n’est pas la première fois que la fiabilité de ChatGPT est remise en question. Des rapports récents ont souligné que l’IA avait véhiculé de fausses informations en raison de campagnes massives de désinformation ciblées. Dans ce contexte, il reste toujours recommandé de recouper les données à partir de sources officielles. Les noms des Premiers ministres, par exemple, peuvent être vérifiés sur la liste officielle et mise à jour sur le site du gouvernement.
