Article réservé aux abonnésL'IA au niveau des chercheurs en doctorat ?
Libre Eco week-end | Une chronique de Roald Sieberath, entrepreneur (Accelerate. AI), investisseur pour Noshaq, professeur invité à l'UCLouvain et l'UNamur.
- Publié le 21-09-2024 à 12h49
eux qui se sont penchés sur le fonctionnement des LLMs (ces Large Language Models qui sont à la base de la révolution apportée par ChatGPT) l'auront compris : Ces "intelligences artificielles" (IA) excellent à donner l'impression d'un discours interactif et structuré… mais pourtant ne "raisonnent" pas vraiment. C'est peut-être difficile à croire ou à appréhender, mais il s'agit surtout d'un immense moteur statistique, qui a digéré la quasi-totalité du contenu d'Internet et qui va pouvoir générer le contenu le plus vraisemblable en réponse à une requête. Les LLMs ne disposent pas d'une véritable représentation du monde et ont donc un mal fou à mener des raisonnements qui sembleraient simples à une enfant de sept ans.
"Je pose une fraise sur la table..."
Par exemple : "Je pose une fraise sur la table, puis une tasse renversée par-dessus. Je mets la tasse au micro-ondes ; que devient la fraise ?" Poser cette question à Microsoft Copilot, à Google Gemini, ou même à ChatGPT dans sa récente version 4o, les plonge dans des abîmes de perplexité ou d'absurdité, du type : "La fraise est enfermée sous la tasse et va subir une mini cuisson à la vapeur". On comprend que ces limitations sont sévères : comment confier un diagnostic médical, une recommandation légale à une "intelligence" dont le raisonnement est autant faussé ?
La nouvelle version "o1" de ChatGPT (également appelée Strawberry) répond en bonne part à ces types de défis et inaugure un nouveau type d'architecture, qui tire parti d'éléments déjà connus. On va faire usage d'un système multi-agents : où un premier jet de réponse par une IA va être challengé par une seconde IA, qui va lui enjoindre de reprendre un raisonnement étape par étape.
Par ailleurs, on va faire appel au procédé de Chain-of-thought (chaîne de pensée) qui avait été décrit par des chercheurs de Google au début 2022. On va en quelque sorte reprendre un cheminement de raisonnement par toutes petites étapes. Ce qui permet de corriger les absurdités et de découvrir que la fraise n'est pas arrivée dans le micro-ondes…
Ces nouveaux LLMs sont beaucoup plus lents mais montrent une forme de "raisonnement", allant jusqu'à un niveau de chercheur en doctorat. Nul doute que ces architectures vont s'amplifier et changer à nouveau la donne.