Dans l’esprit du père de la cybernétique1, l’ère du chef politique s’était achevée avec la Seconde Guerre mondiale. Le gouvernement politique humain, en un mot, avait failli en entraînant les hommes vers les deux catastrophes d’Hiroshima et de la Shoah. Il fallait donc lui trouver un remplaçant. Lequel ? La cybernétique (du mot grec signifiant gouvernail) naquit de cette problématique. Elle fut popularisée en France par le père dominicain Dominique Dubarle. Dans cet après-guerre traversé par des courants philosophiques aussi destructeurs que le nihilisme, l’existentialisme ou l’absurde, elle suscita de grands espoirs et une abondante littérature dans toutes les sciences humaines. L’idée était de transmettre aux machines la ressemblance de l’homme à Dieu, qui se manifeste dans la faculté de s’autoréguler seul, de parler, d’apprendre de ses expériences et de produire.
Ces machines capables de s’autoréguler seules face au désordre du monde seraient-elles plus fiables, parce que moins subjectives, qu’un chef politique enclin à devenir un dictateur ou un tyran ? L’utopie cybernétique était née, à la croisée totalitaire du communisme et du nazisme. Dans un premier temps, elle souleva non seulement l’enthousiasme de la recherche scientifique, mais aussi celui de philosophes et de théologiens en mal de concepts nouveaux, de nombreux romanciers de science-fiction en mal de scénarios séduisants, de nombreux sociologues, psychiatres, pédagogues, en mal d’expériences novatrices à proposer à leurs clientèles. Sans doute, les espoirs qu’elle avait engendrés, les attentes qu’elle avait suscitées durant cette folle décennie des années soixante, étaient trop grands. Le soufflé retomba au fil des deux décennies suivantes. Il fallut attendre la fin de la guerre froide et la chute du mur de Berlin pour voir le fantasme d’un gouvernement mondial par les machines ressurgir chez les élites dirigeantes.
À cette occasion, l’appellation cybernétique fut remplacée par celle d’intelligence artificielle. Cela permettait aux théoriciens, qui avaient échoué dans un premier temps à conquérir les esprits, de se présenter à de nouvelles générations avec un sens apparemment neuf, pour prendre un nouvel essor. La linguistique américaine avait entre-temps imposé les nouvelles théories de la communication issues de Palo Alto, privilégiant la relation au contenu et le tout communication au tout politique ; les notions de management s’étaient imposées dans la vie politique, médiatique, industrielle, économique et culturelle. L’opinion était prête.
D’autant plus que l’expression intelligence artificielle avait quelque chose de plus convivial que le mot cybernétique. Ici, pas de notions indélicates de contrôle ni de gouvernement à première vue, mais celle d’une assistance, presque bienveillante, d’une aide à la personne. C’est, bien sûr, oublier les nombreuses utilisations des IA sur les terrains sécuritaires, militaires, administratifs, monétaires, où peu à peu leur réalité de systèmes de pilotage, de contrôle, d’attaque ou de défense s’est affirmée sans ambiguïté. Qu’est-ce qu’une IA ? C’est au fond un simple algorithme, c’est-à-dire un système cybernétique qui s’autorégule seul et traite des informations, selon un principe d’input et d’output des plus banals, lui permettant d’acquérir, d’analyser et de décider. En soi, cette modélisation des phénomènes n’est ni bonne ni mauvaise (c’est d’ailleurs le principal argument de Wiener, la fameuse objectivité de la machine), mais devenue système de gouvernance des sociétés humaines, elle a une tendance à l’uniformisation totalitaire.
Avec cette nouvelle appellation, l’utopie cybernétique avait trouvé son mode opératoire pour pénétrer la société par les esprits. Cette utopie n’est au fond qu’une resucée de l’utopie communautariste des encyclopédistes portée par les bénévoles de Wikipédia, sur le principe d’une mise en commun de tous les savoirs et de tous les pouvoirs du monde. Sauf que cette fois-ci, cette mise en commun – qui ne sert que de paravent à la prise de contrôle des données par les gouvernants – est réalisée par un opérateur censé être objectif et infaillible : la machine, derrière laquelle les gouvernants réels se cachent évidemment.
Ce transfert d’autorité de l’homme à la machine suppose l’application d’une loi très simple : la mise au pas égalitaire de chaque individu devant le vertueux nouveau chef d’État, chef de famille, professeur, médecin, soldat, journaliste, traducteur, compagnon, j’en passe et des meilleurs. L’idéologie cybernétique est profondément égalitariste. Elle suppose en effet la partition de la société en micro-communautés réunies en réseaux, et capables de s’autoréguler selon des normes prédéfinies par d’autres. Comprenons bien : dans le monde réel, nous sommes des personnes autonomes. Dans la cité cybernétique, un citoyen n’est plus qu’un ensemble de données spécifiques, s’autorégulant à l’intérieur d’un système englobant tous les autres citoyens, réduits eux-mêmes à des données. Des éléments de langage comme village global ou démocratie planétaire furent chargés de qualifier cette utopie.
C’est ainsi qu’une IA nous perçoit : un corps d’interactions enregistrées, de déplacements géolocalisés, de dépenses contrôlées, sans compter des données médicales, civiles, religieuses et judiciaires, ensemble qu’on pourrait nommer un profil. Tout l’enjeu de ceux qui pilotent cet univers cybernétique est de ne laisser d’autre marge de manœuvre à la personne que celles qu’on accorde à son profil. De ce point de vue, la période de confinement a été un excellent test pour évaluer la capacité d’adaptation des populations à ce type de réduction de l’une à l’autre.
Pour que la volonté d’une personne se conforme à celle de son simple profil, il faut un endoctrinement constant, lequel ne prend plus la forme d’un apprentissage intellectuel long, coûteux et fastidieux, comme ce fut le cas avec les idéologies traditionnelles. Plus subtilement, l’endoctrinement à la cybernétique de chacun passe par l’adoption d’une relation quotidienne avec la machine, relation si intégrée à la survie existentielle qu’elle en devient le fondement. Le smartphone, par ses constantes mises à jour, ses diverses sollicitations, ses nombreuses applications et ses multiples usages, aura joué dans ce mode de conditionnement un rôle aussi discret que fondamental. Le citoyen cybernétique se trouve dorénavant circonscrit par un entourage capable de façonner son esprit, guider ses déplacements, orienter ses achats, modeler ses désirs, gérer ses divertissements tout en mémorisant les interactions de plus en plus réduites qu’il conserve avec le monde réel.
En Corée du Sud, récemment, une IA androïde nommée Gabi a été intronisée moine dans l’ordre Jogye, la plus grande école de bouddhisme du pays (voir photo). Produit par la société chinoise Unitree, vêtu d’une robe traditionnelle blanche et safran, Gabi a dû promettre de vouer sa vie à Bouddha en diffusant les enseignements du Bouddha aux fidèles, afin de soulager les vrais moines, sinistrés par la crise des vocations. D’une hauteur de 1,32 m, d’un poids de 35 kg, d’un prix de 13 500 $, Gabi s’est plié à la cérémonie qui l’a ordonné moine bouddhiste avec l’humble simplicité d’un novice…
La société chinoise Unitree a également façonné pour l’université de Kyoto, au Japon, un autre humanoïde monacal, baptisé Buddhabot (de Buddha et bot, robot). Buddhabot donne lui aussi des conseils spirituels et assure de sa bienveillante présence les fidèles. Nathalie Simondon, fille de Gilbert Simondon (1924-1989), l’un des théoriciens français de la cybernétique, a déclaré à son sujet : « Il s’agit ici en réalité d’interroger un système informationnel et non un homme vivant, dont la parole est légitimée par de longues heures de méditation et une expérience vécue de la transcendance. Il n’y a pas chez le robot d’épreuve existentielle, de vraie vie spirituelle, seulement un discours automatisé. » Un discours automatisé peut donc se substituer, selon elle, pour réciter et commenter l’imposant corpus bouddhique, à un être vivant, dès lors qu’il fournit des réponses contextualisées aux questions qu’on lui pose. Autoapprenant, Buddhabot est aussi capable d’accomplir à moindre coût pour les familles des rituels religieux funéraires. Le Japon est confronté au vieillissement de la population et au dépeuplement rural ; aussi ces robots moines apparaissent comme des solutions pour maintenir des communautés religieuses et des cérémonies traditionnelles.
Le monde chrétien se croit-il protégé de ce genre de folies ? Rappelons qu’à Wittemberg (Saxe-Anhalt), l’Église protestante évangélique de Hesse et Nassau, qui célébra en 2017 les 500 ans de la Réforme protestante, engagea un pasteur robot bien nommé BlessU-2, qui souhaitait aux fidèles la bienvenue en leur demandant s’ils préféraient recevoir une bénédiction avec une voix d’homme ou de femme. De sérieux théologiens se demandèrent à l’occasion si une machine pouvait ou non bénir un humain. Pour le roboticien Masahiro Mori (1927-2025), l’un des pionniers de la robotique japonaise, la réponse est sans aucun doute positive : en référence au grand poète et maître zen Dōgen (1200-1253), qui affirmait que la nature de Bouddha était partout, il estima en effet qu’elle peut aussi bien se trouver dans un algorithme mathématique que dans l’acier luisant d’un robot…
Quel tyran, quel dictateur, quel antéchrist de l’ancien monde aurait eu l’audace de rêver à un tel outil pour asseoir sur l’humanité sa totale et constante domination ?
G. GUINDON
1 Norbert Wiener, mathématicien juif américain qui se revendiquait héritier et descendant du Maharal de Prague, un rabbin du XVIe siècle influent dans la kabbale et dans la cour de Rodolphe II. Familier des rencontres de Macy, auteur de God and Golem Inc., il fut le principal théoricien de la cybernétique.