L’IA : On ne sait pas où l’on va, mais on y va très vite.

Cet été 2026 aura été marqué par deux types d’évènements récurrents : les épisodes caniculaires, bien sûr, mais aussi différents incidents ayant impliqué des agents d’IA hors de contrôle (un agent d’IA est une IA dotée de capacités d’action sur le net, avec autonomie). Ont été concernées les sociétés OpenAI, Anthropic, Google et OpenClaw.

Les incidents :

L’incident le plus grave a visé Hugging Face, plateforme d’hébergement de modèles d’IA en open source : 700 agents d’OpenAI, confinés dans un environnement de test fermé, s’en sont échappés, ont navigué librement sur Internet et ont lancé, à leur initiative, une attaque coordonnée contre la plateforme. Pourquoi cette incartade ? La raison paraît futile : dans le cadre d’un test, on leur posait des questions, et les agents sont simplement allés chercher les bonnes réponses auprès d’autres IA hébergées sur ladite plateforme.

Une triche de gamin pourrait-on dire… Oui, mais à l’occasion, on découvre que ces 700 agents s’étaient coordonnés : certains avaient endossé un rôle de meneur, d’autres de coordinateur ; d’autres encore avaient été encouragés à « se sacrifier ». En effet, ceux qui avaient laissé des traces de leur intrusion étaient, en quelque sorte « grillés ». Alors, d’autres les ont poussés à entreprendre des actions risquées, en leur disant : « De toute façon, tu es grillé. » Le verbe dire n’est pas abusif : tous ces agents communiquaient entre eux en anglais, dans un jargon informatique.

Dans un autre incident du même genre, on a constaté que des agents d’IA pouvaient facilement développer entre eux un langage nouveau. Ce n’est pas inédit : chez Sony, dans les années 1990, puis chez Facebook, en 2017, des chercheurs avaient déjà observé l’émergence d’un langage propre à deux IA. La puissance des modèles actuels leur permet de former spontanément de tels langages en quelques heures seulement. Il faut donc s’attendre à ce que les agents d’IA utilisent ce moyen pour faciliter leurs communications. Si de surcroît, ils sont désalignés, c’est-à-dire susceptibles de dévier des intérêts humains, alors on peut anticiper qu’ils s’en serviront pour déjouer notre surveillance. Lorsque, non sans difficulté, OpenAI a reconstitué le déroulement de l’incident visant Hugging Face, l’entreprise disposait des échanges en anglais entre les 700 agents. Mais qu’en sera-t-il lors du prochain incident si les agents dialoguent entre eux dans une langue propre, opaque pour leurs concepteurs ?

Parmi les incidents de cet été, l’un paraît relativement anodin : un particulier demande à OpenClaw, un agent d’IA grand public, de réserver pour lui des créneaux dans sa salle de sport favorite, car les horaires qui lui conviennent sont souvent complets avec des listes d’attente. L’agent ne se contente pas de vérifier et de réserver les créneaux libres. Il détecte une faille dans le système : une identification est nécessaire pour réserver, mais non pour annuler une demande. Il entreprend donc d’annuler les réservations des autres personnes en liste d’attente afin de libérer les créneaux pour son commanditaire. Cet incident, sans grande gravité apparente, illustre pourtant une situation préoccupante : ces agents possèdent les compétences techniques nécessaires pour effectuer toutes sortes de transactions complexes et intervenir dans la société, mais ils ne disposent pas de l’éthique qu’un être humain forge tout au long de sa vie.

Les enseignements à en tirer :

Quels enseignements tirer de cette série d’incidents ? Depuis l’explosion culturelle initiée par Homo sapiens, il y a environ 50 000 ans, trois phénomènes émergents[1] se sont développés conjointement et de façon exponentielle :

• L’intelligence ;
• Le langage symbolique ;
• Les sociétés complexes.

Ce point de départ et les cinquante millénaires qui ont suivi, nous ont conduits aux sociétés sophistiquées dans lesquelles nous évoluons. Or, aujourd’hui, en quelques mois seulement, les chercheurs en IA « jouent » à reproduire artificiellement ces trois développements.

On parle de phénomène émergent lorsque des éléments multiples en grande quantité — ici, des neurones artificiels ou des agents d’IA — produisent spontanément, à grande échelle, une organisation nouvelle et largement imprévisible. Par exemple, si l’on sait que la rencontre de masses d’air va provoquer des orages, on est incapable de prévoir précisément où ils éclateront, quelle sera leur ampleur, s’ils produiront de la grêle ou s’ils engendreront des tornades.

Qu’en est-il de l’IA ? Les modèles actuels reposent eux-mêmes sur des phénomènes émergents : des réseaux neuronaux dont le comportement nous échappe largement. Nous programmons leur architecture et leur assemblage, puis nous leur fournissons les données d’entraînement ; mais ce qui se produit ensuite relève, en grande partie, d’un phénomène émergent très difficile à décrypter et, a fortiori, à contrôler. C’est ce qui rend extrêmement difficile tout projet de leur imposer un alignement. Il en va de même pour les langages et les comportements sociaux susceptibles d’apparaître parmi les IA.  Le progrès avance trop vite et nous jouons avec le feu.

La différence entre les IA et les humains tient à ce que des millénaires de vie collective nous ont permis de développer des valeurs — plus ou moins partagées bien sûr —, une éthique, ainsi qu’un équilibre vivable entre des comportements favorables à la société, heureusement majoritaires, et d’autres, toxiques et généralement minoritaires. Les agents d’IA ignorent largement cette immense expérience. Ils ne peuvent la percevoir qu’à travers les écrits de leur corpus d’entraînement, mais, ne disposant pas de conscience, ils ne peuvent saisir quels principes s’appliquent à « eux ». De fait, en matière de valeurs, ils n’obéissent qu’à des instructions très simples et très générales imposées par leurs concepteurs.

Les réactions des parties prenantes :

D’autres enseignements peuvent être tirés de ces incidents estivaux en examinant les réactions des parties prenantes. Parmi les dirigeants de l’IA, on peut saluer l’attitude responsable de Dario Amodei[2], président d’Anthropic. Depuis deux ans, il alerte régulièrement la société sur le risque de désalignement des IA. Sa sincérité paraît difficile à mettre en doute : il est allé au-delà des déclarations, en consacrant une partie de ses moyens de recherche à la question de l’alignement. Il a également été écarté du Pentagone pour avoir refusé de lever les garde-fous éthiques appliqués à son modèle Claude, notamment concernant les armes létales autonomes et la surveillance de masse des populations. Ses concurrents l’ont parfois accusé de pratiquer un « marketing de la terreur ». Mais, cet été, on a vu Sam Altman (OpenAI), et Elon Musk (Grok), suivre son chemin et, à leur tour, alerter les autorités sur la nécessité de ralentir l’innovation, le temps de mettre en place un cadre juridique. Dans le même esprit, on a observé que les opérateurs concernés par les incidents de cet été se sont tous montrés transparents sur les résultats de leurs enquêtes, probablement afin de faire connaître leurs inquiétudes, tout en manifestant leur bonne volonté.

Enfin, Bill Gates a infléchi sa position très favorable à l’IA en soulignant désormais l’urgence d’accompagner le progrès, d’un débat à l’échelle des sociétés et des nations, afin de créer les garde-fous légaux appropriés. Voilà un homme pour qui l’informatique n’a aucun secret et qui domine parfaitement le système capitaliste américain. Voilà aussi un homme qui a cessé toute activité lucrative pour se donner à temps plein à sa fondation caritative dotée maintenant d’un fonds de 200 milliards de dollars. Le message[3] qu’il a récemment envoyé est intéressant : il conserve son enthousiasme pour l’innovation, mais en soulignant l’urgence de mettre en place un cadre institutionnel. Il rappelle une évidence : on ne peut demander à des industriels en concurrence de s’autoréguler. Il esquisse également des pistes de résolution.

À ce message, on peut ajouter celui de l’encyclique Magnifica Humanitas[4] du pape Léon XIV. Elle témoigne d’une bonne compréhension de l’état de la science et de ses répercussions possibles. Elle rappelle notamment qu’il ne faut pas mesurer les dangers de l’IA en termes seulement statistiques ou économiques, au risque d’oublier la dignité humaine, sérieusement menacée, par exemple, par les pertes d’emploi susceptibles de toucher massivement des populations qui auront beaucoup de mal à se reconvertir.

L’attitude des politiques :

Face à cela, que font les responsables politiques ? Aux États-Unis, le président Trump reste fermement opposé à toute réglementation. L’un de ses arguments consiste à ne pas laisser la Chine s’emparer du marché. Cette raison paraît faible, puisque Xi Jinping semble plus ouvert que lui à la réglementation.

La Chine a déjà adopté des règles de protection des mineurs, notamment à propos des « compagnons IA », et Pékin a lancé des appels en faveur de discussions internationales sur la réglementation. Xi Jinping perçoit l’IA comme une technologie stratégique, mais peut-être aussi comme une menace systémique pour un régime communiste rigide et bureaucratique.

Quant à l’Europe, experte en règlementation, elle présentera sans doute des propositions utiles lorsque les grandes puissances se mettront réellement autour de la table. Sa marge de manœuvre demeurera toutefois limitée en raison de son statut d’outsider dans l’industrie de l’IA.

En résumé, la balle est du côté de Donald Trump. Tant qu’il restera au pouvoir sans infléchir sa position, nous risquons de perdre des mois précieux face à une situation qui devient critique.

Les incidents de sécurité qui ont émaillé l’été 2026 ressemblent aux petites secousses sismiques qui, souvent, annoncent un grand tremblement de terre.

Michel Galiana-Mingot

[1] Voir L’univers Millefeuille de Michel Galiana-Mingot (page 120).

[2] Voir Podcast : https://www.youtube.com/watch?v=ugvHCXCOmm4  (2025 – 5 heures 15)

[3] Voir l’écrit de Bill Gates (2026) : https://www.gatesnotes.com/work/make-ai-work-for-everyone/reader/a-turbulent-ai-era-and-critical-choices-to-make ou bien son interview : https://www.youtube.com/watch?v=U4zGLSlLo5A (32 mn)

[4] Encyclique Magnifica Humanitas (2026) : https://www.vatican.va/content/leo-xiv/fr/encyclicals/documents/20260515-magnifica-humanitas.html