Les réponses de ChatGPT ne sont que des hallucinations
Dans les réponses fournies par l'IA, tout est hallucination puisque la machine n'a pas la moindre appréhension du réel, du vrai, du faux, de l'abstrait ou du concret.
- Publié le 28-11-2024 à 10h32
Une opinion de Louis de Diesbach, éthicien de la technique, consultant au Boston Consulting Group et auteur de "Bonjour ChatGPT" (Mardaga)
L'histoire est désormais connue : en mai 2023, alors que ChatGPT surfe encore sur sa nouveauté et que chacun peine à bien cerner l'outil, ses usages, ses forces et ses faiblesses, un avocat new-yorkais lui demande de l'aider à rédiger et compléter sa plaidoirie. Recopiant ensuite sans trop réfléchir les réponses du chatbot, le juriste ne se rend pas compte que plusieurs arrêts de ses conclusions n'existent tout simplement pas – ils ont été inventés de toutes pièces par la machine. Penaud, l'avocat admettra qu'il ne comprenait pas comment le modèle fonctionnait et qu'il agissait de bonne foi. Alors que nous allons bientôt fêter les deux ans de la sortie, tonitruante, de ChatGPT, on est en droit de se demander : ces limites existent-elles toujours ? La machine inventerait-elle encore des arrêts inexistants si on lui demandait le même exercice aujourd'hui ? Est-ce que le modèle "hallucinerait" encore, pour utiliser la nomenclature d'usage dans le jargon technicien ?
La réponse est sans appel : oui, très certainement, puisqu'avec les larges modèles de langages (comme ChatGPT d'OpenAI, ou Claude d'Anthropic, ou encore Gemini de Google), tout est hallucination.
Probable et plausible
Reprenons depuis le début : un modèle comme ceux mentionnés ci-dessus fonctionne de façon assez "simple", sa seule tâche étant de prédire le mot qui va suivre. Prenons un exemple : si, dans la phrase "J'apprécie les articles de Pierre-François Lovens car c'est un bon…", vous devinez "journaliste", eh bien félicitations, vous êtes aussi fort que ChatGPT ! Si vous souhaitiez plutôt dire "cuisinier", ce serait un peu étrange mais votre phrase serait plausible (et grammaticalement correcte) même si probablement moins exacte qu'avec "journaliste". Si en revanche vous aviez envie de compléter avec "grignote", vous auriez eu tout faux. C'est exactement ce que les individus et les programmes qui ont entraîné ChatGPT lui ont appris : voilà ce qui est probable et plausible, voilà ce qui ne l'est pas (et voilà aussi ce qui n'est pas acceptable, comme les propos misogynes, racistes ou homophobes par exemple). Les chercheuses Timnit Gebru et Emily Bender ont d'ailleurs défini ces programmes comme étant des "perroquets stochastiques" car ils énoncent, de façon probabiliste, des phrases qui pourraient exister. Tout cela n'est que pure statistique.
Ne tombons pas dans une technophobie trop confortable ou trop facile, les hallucinations peuvent également s'avérer très utiles (dans le domaine de la créativité, par exemple), mais elles comportent aussi leur lot de risques.
Dès lors, quand on dit "ChatGPT m'a répondu ceci ou cela", on devrait en réalité dire "ChatGPT m'a halluciné ceci ou cela". Tout est hallucination puisque la machine n'a pas la moindre appréhension du réel, du vrai, du faux, de l'abstrait ou du concret. Son seul objectif est de trouver le "journaliste" aux questions que vous lui posez, en évitant les "grignote" et autres étrangetés. La machine est alors capable de faire cela à une échelle exceptionnelle – et ça la rend donc très utile pour certaines tâches, mais pas pour dire la vérité. Ne tombons pas dans une technophobie trop confortable ou trop facile, les hallucinations peuvent également s'avérer très utiles (dans le domaine de la créativité, par exemple), mais elles comportent aussi leur lot de risques.
Erreurs statistiques
Du point de vue de la technologie, il n'y a pas grand-chose à faire pour contrer ou pour limiter les hallucinations puisque celles-ci sont des fonctionnalités intrinsèques des modèles de langage, c'est-à-dire que les hallucinations font simplement partie de leur fonctionnement : puisqu'on se base sur de la statistique, il y aura toujours des "erreurs statistiques". Puisque les chatbots ne font qu'halluciner pour produire du texte, ils seraient bien incapables de s'arrêter lorsque leurs hallucinations ne sont pas "vraies" ou qu'elles sont "fausses" : ce n'est que de la stochastique sans compréhension de la notion de vrai.
Il est donc crucial de se rappeler que l'esprit critique est de rigueur lorsqu'on travaille avec des algorithmes ! Une récente étude de Google révélait que la manipulation de l'opinion publique et les escroqueries étaient tout en haut de la liste des utilisations malveillantes de l'intelligence artificielle générative : la remise en question est donc constamment de mise car l'IA peut être (volontairement ou non) une usine à fake news ! Apprendre comment fonctionnent ces machines devrait donc être expliqué aux plus jeunes – rapidement – afin qu'ils et elles puissent se protéger et apprendre à apprivoiser des outils technologiques qui sont aujourd'hui omniprésents.
Nécessaire apprentissage
Davantage encore que l'apprentissage du code, l'EMI (éducation aux médias et à l'information) doit être centrale dans l'avènement d'un numérique au service de toutes et tous. Gerald Bronner et la commission qu'il dirigeait préconisaient, dans le rapport qu'ils remirent, en France, au Président de la République en 2022, une véritable complémentarité de cet esprit critique et de cette éducation ! Si tout est bien hallucination, il faudra encore rappeler "qu'apprendre à raisonner est aussi important qu'apprendre à lire, écrire ou compter" ! On se doute que notre avocat new-yorkais aura retenu la leçon – mais il aurait certainement préféré éviter cet événement malencontreux pour comprendre les limites d'une technologie. "La meilleure façon de nous libérer des asservissements algorithmiques est sans doute de nous en remettre aux ressources puissantes de notre cerveau", écrivait encore la Commission Bronner. Un modèle de langage aurait sûrement pu halluciner une phrase pareille, mais il n'en aurait jamais saisi la justesse, la brillance et l'éclat !
