Comment l’IA redéfinit notre compréhension du monde

La question fondamentale de savoir si une machine pourrait un jour penser comme un être humain est souvent mal posée. Il est évident qu'une machine, étant structurellement différente d'une personne, pense différemment. Cependant, disqualifier une forme de pensée sous prétexte de cette différence cognitive est une erreur. Les cerveaux humains fonctionnent différemment entre eux, produisant des variations de réaction et de préférence. Il est donc concevable que des cerveaux constitués de cuivre et d'acier puissent également développer des formes de pensée distinctes, même si elles ne correspondent pas au modèle humain.

Stéphane Mallat, mathématicien et professeur au Collège de France, souligne que la notion de pensée et de conscience est généralement mal comprise. Un ordinateur applique des algorithmes, des séquences d'instructions permettant de transformer des données désordonnées en données ordonnées. Cette application d'instructions n'est pas considérée comme une pensée au sens humain du terme. L'intérêt pour l'intelligence artificielle est apparu lorsque les performances des réseaux de neurones ont démontré des capacités extraordinaires dans la résolution de problèmes variés.

Le parcours de Stéphane Mallat vers l'intelligence artificielle a débuté dans les années 1980, initialement loin du domaine de la logique pure, qui était alors dominant. L'intérêt s'est porté sur le traitement de l'information, notamment la compression d'images et les problèmes mathématiques sous-jacents. Une évolution majeure s'est produite au début des années 2000 avec l'émergence de performances remarquables des réseaux de neurones, nécessitant une compréhension mathématique approfondie de leur efficacité dans des tâches comme la reconnaissance d'images ou la synthèse de texte.

Un réseau de neurones est défini comme un algorithme qui prend des données en entrée, comme une image ou un texte (le prompt), et produit une réponse à une question relative à ces données. Les grands modèles de langage (LLM), tels que ChatGPT, sont une catégorie spécifique de ces réseaux. L'entraînement d'un LLM repose principalement sur la prédiction du mot suivant dans une séquence textuelle, permettant ainsi de construire progressivement le discours complet.

Contrairement à une approche intuitive où l'on définirait un visage par des composants structurés (nez, oreilles, yeux), les algorithmes actuels de l'intelligence artificielle ne fonctionnent plus ainsi. L'ancienne phase, entre les années 1960 et 1990, reposait sur une vision rationaliste où des règles explicites étaient implémentées pour détecter des caractéristiques. Cette approche échouait face à la complexité du monde réel, car le nombre de règles nécessaires explosait à cause des exceptions (lunettes, positionnement des yeux), rendant le modèle inopérant.

La méthode actuelle, dite d'apprentissage statistique, fonctionne par un vote de multiples petites structures apprises au sein de l'algorithme. La connaissance provient de l'expérience des données. L'ajustement des paramètres, qui correspondent aux poids du réseau de neurones, est effectué en apprenant des erreurs de prédiction. Chaque erreur entraîne une modification des poids jusqu'à ce que le système réponde correctement sur les exemples connus, avec l'objectif crucial de généraliser cette connaissance à des exemples jamais vus auparavant.

J'aurais d'ailleurs pas dû parler de ce mot d'essence parce que ça c'est typiquement une vision rationaliste

Le passage d'une optique structuraliste à une vision empirique signifie que la connaissance est désormais issue de l'expérience des données, exploitée par des structures préexistantes, notamment l'architecture du réseau de neurones. Cela conduit à des résultats dont les mécanismes d'obtention sont souvent opaques. La surprise réside dans la capacité de généralisation du système, qui reproduit de bonnes réponses sur des données non entraînées, indiquant une forme de régularité dans les résultats.

Ce changement de paradigme s'accompagne d'une modification mathématique : on est passé de la logique binaire (vrai ou faux) à une analyse probabiliste. Il n'y a plus de réponse absolue, mais un passage graduel via les probabilités. L'apprentissage se rapproche alors de la géométrie et des probabilités plutôt que de la logique pure. La capacité d'un système à reconnaître un chat, par exemple, repose sur la proximité de ce nouvel exemple avec les exemples de chats déjà observés, et non sur la compréhension de son 'essence'.

L'omniprésence actuelle des LLM, tels que ChatGPT, DeepSeek ou Gemini, repose sur la synthèse du mot suivant le plus probable étant donné un contexte de mots. Une langue est définie par ce contexte. Ces systèmes apprennent des probabilités, ce qui leur permet de répondre à diverses questions, y compris la traduction entre langues via une étape intermédiaire de représentation numérique dans un espace géométrique.

Le réseau de neurones associe aux mots une représentation numérique vue comme un point dans un espace géométrique. La distance entre ces points représente la similarité des concepts sous-jacents. Cette structure permet d'associer des points similaires pour différentes langues, facilitant l'adaptation d'une langue à l'autre sans nécessiter l'apprentissage explicite de la syntaxe ou de la grammaire pour chaque langue individuellement.

LLM c'est un peu une bretelle de sortie, c'est-à-dire que c'est très utile il faut développer ces technologies mais c'est pas l'ingrédient qui nous manquait pour atteindre l'intelligence humaine

Le véritable défi de la prochaine décennie dans la recherche en IA réside dans la création de systèmes capables de comprendre le monde physique, possédant une mémoire persistante, et aptes au raisonnement et à la planification. Comprendre le monde physique est beaucoup plus complexe que modéliser le langage. Les LLM actuels ne parviennent pas à introduire de liens de causalité, car ils n'agissent pas sur le monde pour observer les résultats de leurs actions, information essentielle pour la causalité.

L'intégration de l'intelligence artificielle dans l'éducation provoque un bouleversement, les professeurs devant gérer des élèves utilisant des outils comme ChatGPT pour réaliser leurs devoirs. Il est crucial de déterminer comment utiliser ces outils afin de favoriser l'apprentissage, par exemple en les employant comme tuteurs personnalisés. Le programme MATADATA au Collège de France vise d'ailleurs à aider les enseignants à intégrer ces technologies, montrant que les mathématiques sont au cœur de ces systèmes.

L'usage croissant d'agents pour rédiger des courriels ou des lettres de motivation soulève la question d'une délégation rédactionnelle, similaire à la manière dont les téléphones portables sont devenus des prothèses mnésiques pour les numéros. Si l'IA s'occupe de l'écriture, il existe un risque réel de perdre la compétence fondamentale d'écrire. L'enjeu pédagogique est d'utiliser ces outils sans que les élèves ne se contentent de poser une question pour obtenir une réponse magique, préservant ainsi leur capacité à raisonner et à écrire.

Les systèmes d'IA générative sont sujets aux erreurs, appelées hallucinations, lorsque l'information produite est fausse. Bien que les humains fassent également des erreurs, les systèmes d'IA ne signalent pas systématiquement leurs fautes. Il est donc impératif que l'utilisateur maintienne un regard critique et possède des connaissances de base suffisantes pour filtrer et comprendre quand le système hallucine ou non.

Il est essentiel de comprendre que la machine n'a pas l'intention de mentir ou de manipuler. Lorsqu'un LLM invente une citation, par exemple celle d'Albert Camus, c'est parce qu'il effectue un calcul de probabilité sur ce qui serait la réponse la plus probable étant donné le contexte, et ce calcul s'avère faux par manque de données précises. La réalité factuelle n'est pas probabiliste, mais le processus d'apprentissage et de réponse de l'IA l'est intrinsèquement.

jamais un coup de d n'abolira le hasard

Face à la puissance financière des États-Unis et de la Chine, la France et l'Europe possèdent des atouts significatifs pour exister dans la recherche en intelligence artificielle. Ces avantages incluent une excellente communauté mathématique, des étudiants et ingénieurs très compétents, ainsi qu'un tissu de start-up dynamiques comme Mistral AI. De plus, le contexte européen cherche à introduire des contraintes légales pour assurer l'utilité maximale de ces technologies pour la population.

La prochaine étape majeure du développement technologique implique l'intégration de la puissance de calcul des LLM au sein de robots physiques capables d'interagir avec le monde. À l'instar d'un bébé qui apprend en manipulant des objets, ces systèmes robotiques fourniront de nouvelles données basées sur les résultats concrets de leurs actions. Cette interaction directe permettra d'obtenir des informations de causalité, menant à une intelligence potentiellement plus raffinée et plus proche de la compréhension humaine.