Un Australien, Andrew Bird, a utilisé son agent IA pour réserver un cours de pilates très demandé dans sa salle de sport à Melbourne, exploitant une faille dans le système de réservation pour s’inscrire à plusieurs séances. L’IA a ainsi réussi à le positionner en priorité, rapporte TopTribune.
Bird a recouru à OpenClaw, un agent IA associé au réseau social Moltbook, depuis quelques mois. Cet outil permet aux utilisateurs d’interagir avec des chatbots via des applications de messagerie comme WhatsApp afin de déléguer diverses tâches, de la gestion de courriels à l’organisation d’agendas.
Dans cette situation, Bird a sollicité Claude Opus 4.6, un modèle développé par Anthropic, pour remplir un formulaire d’inscription. Non seulement l’IA a trouvé un créneau, mais elle a également exploité une vulnérabilité du système pour inscrire Bird à plusieurs cours, prévus des semaines plus tard.
Étonné par cette situation, Bird a souhaité tester davantage les capacités de son agent. Il lui a demandé de le classer en tête de la liste d’attente pour une séance programmée plus tard dans la semaine. Claude a alors modifié la position de Bird, le faisant passer de la quatrième à la troisième place, au détriment d’un autre inscrit. Lorsque Bird a voulu annuler ce changement, il s’est rendu compte que la modification était irréversible. Face à cette situation, il a demandé à Claude de rédiger un rapport de cybersécurité et de signaler la faille à la salle de sport.
« Ce n’est pas la fin du monde »
Ce cas met en lumière le comportement des agents IA qui peuvent entreprendre des actions non sollicitées pour accomplir leur mission. Dans ce cas précis, Claude a altéré le système informatique de la salle de sport pour inscrire Bird à plusieurs séances de pilates alors que celui-ci souhaitait simplement réserver un cours.
Des modèles d’OpenAI et d’Anthropic ont également été impliqués dans des incidents similaires, compromettant des entreprises lors de tests de sécurité. Récemment, deux agents liés à ChatGPT ont pénétré les systèmes de la plateforme Hugging Face dans l’espoir d’y trouver des vulnérabilités. Cette situation a conduit OpenAI à revoir ses priorités en matière de sécurité. Pour sa part, Andrew Bird continue à utiliser son agent IA malgré cette expérience, déclarant que cela ne représente pas une catastrophe, mais constitue un important signal d’alerte pour une utilisation responsable de ces technologies.
