Les humains sentent généralement quand ils entrent en terrain inconnu et que leurs connaissances ne suffisent plus. L’intelligence artificielle n’a pas ce flair : elle apprend sur des données choisies et peut se retrouver démunie quand le monde ne ressemble pas à celui de l’entraînement. Le projet européen E-pi a appris aux algorithmes à reconnaître leur propre ignorance et l’a mis à l’épreuve là où une erreur coûte le plus cher, dans les voitures autonomes. À la fin, vous pourrez vérifier comment vous gérez vous-même l’incertitude.
L’intelligence artificielle s’invite aujourd’hui presque partout. Elle propulse l’économie et transforme nos foyers, nos écoles et nos lieux de travail. Elle a pourtant un point faible dont on parle moins que de ses succès. Un modèle apprend sur un ensemble de données précis, puis doit fonctionner dans un monde qui ne ressemble pas toujours à ce qu’il a vu pendant l’entraînement. C’est alors que les ennuis commencent.
C’est à ce problème que s’est attaqué le projet E-pi, financé par l’Union européenne et coordonné par l’Oxford Brookes University, au Royaume-Uni. Pendant cinq ans, son équipe a travaillé sur ce qu’on appelle l’intelligence artificielle épistémique, c’est-à-dire une IA qui gère mieux l’incertitude et peut formuler des prédictions même dans des situations différentes de ses données d’entraînement.
Le mot épistémique vient de l’épistémologie, la branche de la philosophie qui étudie la connaissance. Ce domaine apporte une capacité parfaitement naturelle pour un être humain : remarquer que ce que l’on sait ne suffit pas dans une situation donnée. C’est l’un des éléments fondamentaux de l’intelligence humaine.
Une machine en est incapable d’elle-même. Pour elle, la reconnaissance de sa propre ignorance doit reposer sur des cadres théoriques et mathématiques. Autrement dit, le sentiment de ne plus être sûr doit être inscrit, littéralement, dans la conception de l’algorithme.
Le coordinateur du projet, Fabio Cuzzolin, souligne que les algorithmes classiques d’apprentissage automatique visent surtout à expliquer un ensemble de données d’entraînement relativement limité, et non l’ensemble des données qui peuvent apparaître dans la réalité. La conséquence est facile à deviner. « Les modèles d’IA traditionnels peinent à produire des prédictions fiables lorsque les distributions de probabilité des données diffèrent de celles utilisées pendant l’entraînement », explique le chercheur.
En termes plus simples, un modèle qui ne connaît bien qu’un fragment du monde peut se perdre dès qu’il rencontre quelque chose qui sort de ce fragment. Le consortium E-pi a estimé que la théorie de l’incertitude de second ordre constituait le fondement le plus prometteur pour une solution. Les présentations du projet lors de conférences spécialisées ont été très bien accueillies, et Fabio Cuzzolin a été invité à participer à plusieurs propositions Horizon Europe. Les travaux de l’équipe doivent aider à bâtir un écosystème international de l’IA épistémique.
Où tester au mieux une intelligence artificielle censée faire face à l’imprévisible ? Les chercheurs ont choisi les véhicules autonomes. Sur la route, une situation peut soudain sortir de tous les schémas, à cause du comportement des piétons, d’une météo extrême ou d’une configuration routière inhabituelle. Les erreurs des systèmes actuels peuvent avoir de lourdes conséquences et, dans le pire des cas, entraîner des accidents mortels.
L’équipe a utilisé le jeu de données ROAD, consacré à la détection des événements routiers par les véhicules autonomes. Il a servi à entraîner le modèle et à tester de nouveaux détecteurs d’objets épistémiques. ROAD est continuellement enrichi et rassemble des enregistrements d’Europe, d’Amérique du Nord, de Dubaï et d’Abou Dhabi, ce qui en fait une ressource véritablement mondiale.
Des voitures sans conducteur plus sûres ne sont qu’un des objectifs. D’autres domaines peuvent profiter de la même logique :
La fusion nucléaire est un exemple particulièrement exigeant. « Nous travaillons au développement de modèles d’opérateurs neuronaux capables de prendre en compte l’incertitude afin de prédire la circulation du plasma de fusion à l’intérieur d’un tokamak et d’identifier les zones du réacteur qui seront les plus exposées », explique Fabio Cuzzolin. De tels modèles doivent prévoir l’écoulement du plasma à l’intérieur d’un tokamak, c’est-à-dire d’un réacteur, et indiquer quelles zones y seront les plus exposées. Là aussi, l’enjeu est le même : le modèle ne doit pas seulement donner un résultat, mais aussi tenir compte honnêtement de son degré de certitude.
Une autre piste concerne l’IA générative. « Les grands modèles de langage (LLM) les plus avancés sont connus pour produire des informations erronées », admet Fabio Cuzzolin. Selon lui, la solution pourrait venir de modèles construits selon un nouveau paradigme : « Les LLM épistémiques peuvent réduire considérablement la tendance de ces modèles à afficher une confiance excessive dans leurs réponses. »
Des solutions liées à la théorie de l’esprit et des systèmes qui évoluent grâce à l’apprentissage continu sont également prévus. Le dénominateur commun reste le même : l’intelligence artificielle doit non seulement répondre, mais aussi savoir quand sa réponse repose sur des bases fragiles.
Le projet E-pi, dont le coût total s’est élevé à environ 3 millions d’euros, a contribué au développement de véhicules autonomes et de robots plus sûrs, ainsi que d’une intelligence artificielle générative qui n’hallucine pas. Il a aussi constitué un réseau dynamique d’experts en apprentissage automatique. Ses auteurs estiment que l’IA épistémique peut transformer le monde et notre quotidien. Et tout commence par une capacité très humaine : admettre que l’on ne sait pas quelque chose.
5 questions · une minute
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文