L’intelligence artificielle : ne pas en sous-estimer les enjeux !

Chaque semaine, nous apprenons un nouvel exploit de l’IA :

• Le lancement de l’IA conversationnelle ChatGPT défraie la chronique. Un professeur de lycée à qui je demandais s’il craignait d’être confronté à des copies écrites par l’IA, me répond : « Oui, je suis déjà tombé sur une telle copie et j’ai convoqué l’élève ». Comment l’avait-il détectée : « parce qu’elle était parfaitement écrite ! »
• Peu après, nous lisons qu’une photo gagne un concours prestigieux(1). Elle représente le visage d’une femme exprimant une certaine préoccupation. Au second plan, un autre personnage lui ressemble, probablement sa mère. Invité à recevoir le premier prix, le photographe le refuse : il avoue ne pas le mériter, car l’œuvre a été cocréée avec une IA.
• Enfin, récemment, un communiqué émanant de plusieurs créateurs d’IA, dont celui de ChatGPT, alerte la société sur son impréparation face aux dangers de l’IA !

Ce type de surprise deviendra vite quotidien. Il est clair que l’humanité va devoir s’adapter à ce nouveau défi, comme elle l’a déjà fait maintes fois par le passé. Voici quelques clés pragmatiques pour appréhender le problème avec réalisme :

Une idée préconçue : Certains minimisent les problèmes en disant : « L’IA est faite de programmes, des algorithmes, et dans ce sens, il n’y a rien de nouveau : ils sont simplement plus puissants que les anciens ». Certes l’IA est faite d’algorithmes conçus par l’Homme. Mais attention, il y a une grande différence avec l’informatique traditionnelle ! Ces algorithmes ne sont plus des suites d’instructions écrites pour programmer mécaniquement des tâches prédéterminées et les mener à bien. Ils font tout autre chose : ils construisent des réseaux neuronaux, quelque peu inspirés de ceux du cerveau, conçus et entraînés à « penser par eux-mêmes ». Ainsi, ChatGPT ne récite pas un catalogue de phrases préconçues, triées et assemblées par un programme informatique. Il cherche dans les bases de données les informations lui permettant de répondre à une question posée, puis « il y répond lui-même » grâce à son expérience acquise, comme le fait un humain. C’est ce qui fait la puissance de l’apprentissage profond, une technique encore balbutiante qui progressera rapidement et nous interpellera sans cesse. Nous risquons d’être pris de vitesse.

Une autre idée préconçue : « Si l’Homme se sent dépassé par l’IA, il lui suffira de la débrancher ». Certes, c’est facile à faire s’il s’agit d’un ordinateur stand alone dans une entreprise. À titre d’exemple, il y a quelques années, Facebook avait créé une expérience où deux robots fabriquaient leur propre langage. En peu de temps, ils en avaient inventé un, très sophistiqué et incompréhensible pour l’Homme. Les chercheurs avaient interrompu l’expérience pour ne pas jouer aux apprentis sorciers. Malheureusement, aujourd’hui, il ne s’agit plus d’un ordinateur bien localisé dans un centre de recherche : l’IA, comme celle de ChatGPT, commence à se délocaliser de façon opaque dans le cloud. Elle va très vite se propager à tous les services des GAFAM et de bien d’autres opérateurs auxquels le monde entier se relie spontanément. Alors, dans un contexte ainsi distribué, qui débrancherait quoi et où ? Il faudra certainement vivre avec !

Un exemple dans les sciences. De plus en plus d’expériences scientifiques engendrent des quantités astronomiques d’informations. L’IA est un outil magnifique pour les exploiter et y trouver des « aiguilles dans une botte de foin. » Ainsi, le télescope Vera Rubin (LSST), opérationnel l’an prochain, pourra suivre 20 millions d’objets célestes dans le temps (autrement dit : les filmer !). L’objectif sera de détecter des phénomènes transitoires dans la myriade de données qu’accumulera cet instrument chaque jour, et l’IA sera indispensable pour y parvenir.

Ainsi, tous les scientifiques s’accordent sur l’intérêt de l’IA pour extraire des choses dignes d’intérêt dans un océan d’informations. Cependant, certains commencent à réaliser que l’IA pourra aller bien plus loin : découvrir elle-même des lois de la nature, la tâche la plus noble du physicien. Ironie du sort, ceux qui auront conçu l’IA ne comprendront probablement pas comment elle y est parvenue.

Un exemple frappant est celui d’une IA à laquelle on a donné les positions du Soleil et de Mars (observées depuis la Terre) sur plusieurs années, et à laquelle on a demandé de prévoir la suite sur les années à venir. L’IA s’en est très bien acquittée. On s’est rendu compte qu’en quelques heures, elle avait découvert par elle-même le système héliocentrique de Copernic que l’Homme avait mis quinze siècles à comprendre et à accepter(2).

Voici le défi que l’IA pose à l’humanité : bénéficier de ses immenses avantages tout en maîtrisant ses immenses risques.

Michel Galiana-Mingot.

(1) https://www.numerama.com/tech/1343408-limage-dune-ia-a-dupe-les-organisateurs-du-plus-prestigieux-concours-de-photos.html

(2) Cf. L’UNIVERS MILLEFEUILLE, pages 303-307. Michel GALIANA-MINGOT. Sur la façon dont la nature élabore la complexité la plus exquise à partir de la plus grande simplicité. https://mgm-ec.fr/livre-univers-millefeuille EDP-Sciences 2022.