L’IA va-t-elle vraiment « tous nous tuer » ?

“Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait nous tuer tous d’ici la fin de la décennie”, c’est ce qu’a déclaré, dans un fil X, Jacob Coxon, un chercheur pour Anthropic, la société d’intelligence artificielle à l’origine de Claude, en annonçant sa démission. Si l’affirmation est très sensationnaliste, en ce qu’elle n’explique en rien son affirmation (pourquoi ? comment ?), elle a toutefois le mérite de soulever un débat sur les dangers potentiels de l’IA. Mais ce genre de buzz ont aussi, on va le voir, des effets pervers.

Des risques réels…

Les dangers de l’Intelligence Artificielle sont réels. Au-delà des bouleversements sociaux qu’elle génère – détruire des emplois ou la qualité de ceux-là, la dépendance technologique accrue qui nous fait perdre en capacités cognitives en externalisant toujours plus de tâches, la baisse d’originalité des créations (images laides, écriture lourde et sans âme…), la confusion entre fiction et réel, l’accroissement des technologies de surveillance et de contrôle, l’insoutenabilité écologique… –  l’IA présente aussi un risque de perte de contrôle. 

Sans que l’on en soit aux situations apocalyptiques imaginées par la science-fiction (2001: L’Odyssée de l’espace, Terminator, Matrix…) nous avons d’ores et déjà assisté à des signaux prométhéens, ces moments où une technologie semble échapper à ses créateurs : l’année dernière, Grok, l’IA du milliardaire d’extrême droite Elon Musk, avait été modifiée pour donner des réponses moins progressistes aux utilisateurs et utilisatrices, mais le résultat produit avait été à l’opposé. Grok s’était mis à défendre la Palestine et à dénoncer les tentatives de censure de ses créateurs. On avait dores et déjà un cas d’école d’une IA déployée mais atteignant un niveau de complexité la rendant difficilement maîtrisable par ses développeurs. Plus inquiétant : en juillet dernier, des “agents IA” (des intelligences artificielles capables d’agir de façon autonome pour accomplir une tâche ou atteindre un objectif) d’OpenAI (la société derrière ChatGPT) étaient parvenus, lors d’un test confiné (c’est-à-dire supposément réalisé dans un environnement contrôlé et isolé pour éviter que ses effets n’aient des conséquences à l’extérieur), à se connecter à internet et à pirater plusieurs entreprises en dehors de tout contrôle. On peut imaginer les conséquences de ce genre de dérives appliquées, par exemple, à des technologies militaires, comme les drones où des formes d’IA sont déjà implémentées.

De là à parler de “fin de l’humanité” d’ici quelques années, il y a une marge. Mais des risques conséquents existent, bien que Jacob Coxon se soit gardé de les développer. Ils portent sur des super-intelligences artificielles qui s’empareraient, soit sur commande d’Etats ou de groupes para-étatiques, soit de manière autonome et incontrôlée, d’infrastructures critiques (des réseaux de communication, de marchés financiers, de réseaux électriques…). Les autres risques portent sur des cyberattaques massives ou sur l’aide au développement d’armes biologiques. 

Ces situations restent pour le moment théoriques. Le point le plus intéressant abordé par Jacob Coxon est la sorte de dilemme du prisonnier dans lequel viennent de s’enfermer les Etats et les grosses entreprises d’intelligence artificielle : “Chez Anthropic, les enjeux sont bien compris, mais ils sont engagés dans une course pour y arriver en premier – ils estiment que personne d’autre n’agira de manière responsable, donc ils doivent le faire eux-mêmes, malgré le risque. Accepter cette course et entrer dans la « phase finale » est un pari empreint d’orgueil démesuré qui ne devrait pas être lancé depuis (…) une entreprise privée.”

Autrement dit tout le monde connaît les risques mais personne ne freine pour éviter que la concurrence (une autre entreprise ou un autre Etat) ne prenne les devants. C’est un bon exemple de comment une avancée technologique devient en quelque sorte “autonome” (ici dans tous les sens du terme).

…Mais aussi des enjeux de communication

Toutefois ces déclarations catastrophistes servent aussi plusieurs intérêts. 

Le premier est plutôt louable : il s’agit d’alerter pour tenter de pousser pour un ralentissement et davantage de régulations, ce qui manque cruellement aujourd’hui. 

Le deuxième est plus paradoxal : l’insistance médiatique sur les piratages par des agents IA ou ici sur une intelligence artificielle qui serait si puissante qu’elle en deviendrait capable de détruire l’humanité, permet de remettre ces entreprises au cœur de l’actualité. Elle en donne une image d’une technologie surpuissante, aux potentialités infinies (et exagérées pour le moment). Elle crée aussi le sentiment qu’il ne faudrait pas “qu’elle tombe entre de mauvaises mains” et peut donc, contre-intuitivement, servir d’argument supplémentaire pour la développer plus rapidement que les autres. 

Pour poursuivre leurs activités les entreprises d’IA ont besoin d’investissements absolument massifs sans retours immédiats – L’AGEFI notait que “les dépenses pour déployer l’IA représenteront environ 9 000 milliards de dollars d’ici à 2030 et devront créer 20 % du bénéfice mondial des entreprises en valeur pour avoir du sens”. Ces démonstrations paradoxales de puissance peuvent donc servir leurs stratégies. Tout cela arrive précisément dans un moment où l’IA pourrait aussi constituer une énorme bulle spéculative comme à l’époque de la bulle internet des années 1999-2000. Pour être plus clair : ces entreprises cherchent des ressources financières énormes mais il est fort possible que celles-ci soient grandement sur-valorisées, c’est-à-dire qu’elles soient en incapacité de remplir leurs promesses de revenus et de profits futurs pour les capitalistes, ce qui pourrait faire s’effondrer l’édifice.

À ce stade, les déclarations spectaculaires comme celle de Jacob Coxon ne sont pas démontrées, mais il est vrai que nous sommes, dès aujourd’hui, en train de confier des capacités toujours plus importantes à des systèmes dont les effets sont imparfaitement maîtrisés, dans un contexte de compétition généralisé qui est celui de la mondialisation capitaliste, où les Etats et les entreprises ont intérêt à poursuivre la course plutôt qu’à la ralentir. Il faut donc prendre au sérieux les risques de l’IA mais sans reprendre à notre compte le discours de toute-puissance que ses promoteurs contribuent eux-mêmes à diffuser. Car présenter l’IA comme une technologie presque magique, capable demain de tout faire voire même de nous détruire, peut renforcer paradoxalement son prestige et l’urgence de continuer à investir dans son développement. Le véritable danger n’est pas seulement la possibilité d’une intelligence artificielle devenue autonome mais aussi celui des entreprises et des Etats qui, au nom de la peur de se faire dépasser, acceptent de lui donner toujours plus de pouvoir.

Au moment de la publication de l’article nous apprenons que Mediapart a publié une analyse similaire sur certains points, que nous vous invitons à lire également.