Dix remarques sur l’intelligence artificielle

Qu’appelle-t-on « intelligence artificielle » (IA) ? En quel sens l’IA transforme-t-elle l’homme ? Que fait-elle de nous ? Remarquable synthèse sur ce sujet complexe.

1. Apparition.
2. Déclassement de l’humain.
3. La course à la puissance.
4. Survivre dans la jungle numérique.
5. La société de contrôle.
6. Le formatage permanent.
7. L’acédie qui guette.
8. Le rabougrissement moral.
9. Le rabougrissement intellectuel.
10. Des poussins connectés.

1. Apparition.

C’est dans les années 1950 qu’apparut le syntagme « intelligence artificielle », avec l’avènement des premiers ordinateurs, capables de réaliser certaines tâches que seule l’intelligence humaine était jusque-là à même d’accomplir. Le calcul a été la toute première faculté à pouvoir être transférée à une machine. Cela explique qu’en anglais, ce que nous appelons en français un ordinateur ait gardé son nom originel de computer, c’est-à-dire de « calculateur ». Le calcul automatisé a été le premier exemple d’intelligence artificielle.

Pourquoi le calcul ne nous semble-t-il plus relever, aujourd’hui, de l’intelligence artificielle ? On a là un exemple de ce que les Anglo-Saxons nomment l’AI effect – « l’effet IA » –, qui consiste en ceci : au fur et à mesure que l’intelligence artificielle se développe, les réalisations antérieures ne sont plus considérées comme relevant de l’intelligence artificielle, mais comme de la machinerie standard. Ainsi, par exemple, de la reconnaissance de caractères, de la reconnaissance d’empreintes digitales, etc. En pratique, donc, l’intelligence artificielle désigne ce que les machines « intelligentes » commencent tout juste à savoir accomplir.

2. Déclassement de l’humain.

Les calculatrices électroniques ont été, à leur arrivée, qualifiées de « cerveaux électroniques ». Au fil du temps, et alors que les performances des machines augmentaient, la métaphore s’est retournée : désormais, ce n’est plus l’ordinateur qui est comparé à un cerveau, c’est le cerveau qui est comparé à un ordinateur. L’être humain se trouve alors appréhendé comme une « machine de traitement de l’information » parmi d’autres. On parle aujourd’hui d’« agent intelligent » à propos de tout « système », naturel ou artificiel, qui interagit avec son environnement, en tire des informations qu’il utilise de façon à maximiser ses chances de succès dans les buts qu’il poursuit ou qui lui sont assignés. Dans ce cadre, l’intelligence artificielle se trouve complètement émancipée du modèle humain dont elle tira naguère son nom. D’un côté, nombre d’aspects de l’intelligence humaine demeurent proprement humains. D’un autre côté, des intelligences artificielles sont désormais capables de performances hors de portée pour toute intelligence humaine. Tout en étant conçues par des humains, elles sont dotées de certaines capacités intellectives proprement surhumaines.

3. La course à la puissance.

Depuis le XIXe siècle, la technologie est indispensable à la puissance. Par technologie, je désigne ici non pas la technique en général, aussi vieille que l’humanité, mais cette part très récente de la technique, solidaire des sciences mathématiques de la nature qui se sont constituées en Europe à partir du XVIIe siècle, et inconcevable sans elles. C’est leur supériorité technologique qui a, un temps, permis aux Occidentaux de dominer le monde. Au seuil du XXe siècle, Hwuy-Ung, un lettré chinois exilé en Australie, confessait son admiration pour ce qu’il voyait : « Les merveilleuses inventions de ce pays et des nations occidentales nous sont, pour la plupart, inconnues, et nous paraissent incroyables. » Ces merveilles, s’interrogeait-il ensuite, rendent-elles les hommes plus heureux ? La réponse n’allait pas de soi. Une chose, cependant, était hors de doute : les « merveilleuses inventions » conféraient une puissance sans pareille. D’où ce constat : « Ceux qui ne suivent pas le mouvement imprimé par les nations les plus avancées en deviennent les victimes, comme nous en faisons l’expérience » (1). C’est pour sortir de la longue suite d’humiliations qui lui furent infligées, du déclenchement de la première guerre de l’opium, en 1839, à l’invasion par le Japon en 1937, qu’après la Seconde Guerre mondiale la Chine entreprit de devenir à son tour une grande puissance technologique. Aujourd’hui, l’intelligence artificielle devient une composante décisive de la technologie, et qui entend ne pas être à la merci de plus puissants que lui se doit d’investir ce domaine.

4. Survivre dans la jungle numérique.

La puissance n’est pas seule en cause. Depuis qu’il y a des homo sapiens sur terre, c’est-à-dire environ 300 000 ans, ces homo sapiens ont vécu l’essentiel du temps dans des conditions paléolithiques. C’est dans ces conditions que les facultés de notre espèce se sont développées. Il est entendu que parmi ces facultés, se trouvent d’extraordinaires capacités d’adaptation à de nouveaux environnements. Il n’empêche que depuis la révolution industrielle, le milieu dans lequel une part croissante de l’humanité est appelée à vivre change de manière si rapide qu’à bien des égards, nos facultés naturelles, intelligence comprise, sont prises de court. Si l’intelligence naturelle nous permettait de nous orienter correctement dans le milieu naturel, qualifié aujourd’hui de biotope, nous avons désormais besoin de l’intelligence artificielle pour nous orienter correctement dans un milieu lui-même artificiel, le technotope. Et pour cela, le recours à l’intelligence artificielle est indispensable. Que l’on songe, par exemple, à quel point nous serions démunis, pour user d’internet, si nous ne pouvions recourir à des moteurs de recherche, qui incorporent des formes d’intelligence artificielle.

5. La société de contrôle.

Au chapitre des menaces que le développement tous azimuts de l’intelligence artificielle fait courir arrive sans doute en tête, dans l’esprit public, la hantise du contrôle social, par l’intermédiaire des innombrables données numériques qu’engendrent désormais nos existences. Après tout, le mot intelligence, en anglais, signifie aussi « renseignement ».

Remarquons toutefois une chose. En rejetant massivement le contrôle social à l’ancienne que constituait l’inculcation des règles morales, et le discrédit qu’entraînait le fait de les enfreindre, en fuyant le contrôle exercé par le voisinage dans les communautés traditionnelles, les modernes tardifs ont cru qu’il était possible de se passer de contrôle social. Or une société sans contrôle social n’est plus une société, c’est le chaos. Pour se protéger du chaos, de plus en plus de précautions doivent être prises. Ainsi, par exemple, les habitants des grandes villes doivent nécessairement s’équiper de digicodes, d’interphones, de portes blindées. Plus la société se veut « ouverte », plus ses membres doivent s’enfermer. À cet égard, la surveillance automatisée et assistée par intelligence artificielle qui se profile a toutes les allures de Némésis, cette déesse grecque qui châtiait l’hubris, la démesure d’êtres qui ne respectaient pas les limites de leur condition. L’individu qui a prétendu échapper à tout contrôle voit le contrôle revenir vers lui sous une autre forme.

6. Le formatage permanent.

Autre problème : sous une apparente neutralité, la machine peut dissimuler des biais, d’autant plus pernicieux qu’ils sont difficiles à déceler. Un moteur de recherche, par exemple, répond aux demandes qui lui sont adressées par des listes de réponses, dont nous ne savons ce qui a présidé à leur élaboration. Du reste, nous ne voulons pas le savoir : l’usage des moteurs de recherche perdrait tout intérêt si nous devions connaître les détails de la recherche elle-même. Mais de ce fait, nous sommes totalement soumis aux biais inclus en eux, que ces bais soient intentionnels ou non. Ce qui nous guide peut aussi nous égarer, ce qui nous informe peut aussi nous manipuler. Des universitaires ont soumis l’agent conversationnel ChatGPT à un questionnaire de positionnement politique. Il en ressort que le chatbot d’OpenAI « a le profil d’un Californien libéral mainstream et pragmatique » (2), très favorable au multiculturalisme, à l’accueil des migrants ou aux droits des minorités, et que s’il était inscrit sur les listes électorales en France il voterait vraisemblablement Macron ou Mélenchon. Qu’on en déduise les effets d’une vie en symbiose avec ChatGPT.

7. L’acédie qui guette.

Le développement de l’informatique était censé nous délivrer des tâches routinières. Dans les faits, l’informatique « étend partout la routine de ses procédures » (3). Il est à craindre que l’intelligence artificielle ne fasse qu’intensifier le processus jusqu’à la nausée. Des travailleurs qui ont du cœur à l’ouvrage quand les tâches qu’ils doivent accomplir font appel à l’ensemble de leurs facultés, ne savent plus quel sens donner à leur travail quand ils deviennent de simples opérateurs de machines qui accomplissent la part « intelligente » du travail à leur place. À se donner moins de mal, on peut aussi se trouver moins bien.

8. Le rabougrissement moral.

À parler sans cesse d’intelligence artificielle, à en faire de plus en plus usage et à nous émerveiller de ses prouesses, nous nous accoutumons à faire de l’intelligence artificielle le paradigme de l’intelligence – à dévaluer du même coup, en regard, des caractères pourtant essentiels de l’intelligence humaine, et à ne plus les cultiver. Il y a bien longtemps, Dieu apparut en songe au roi Salomon et lui dit : « Demande ce que tu veux que je te donne. » Salomon répondit : « Accorde à ton serviteur un cœur intelligent, pour gouverner ton peuple, pour discerner entre le bien et le mal » (1R 3, 5-9). Le premier caractère de l’intelligence, ici, consiste à discerner entre le bien et le mal. Telle est l’intelligence dont Salomon fait preuve quand il rend la justice. À nous accoutumer à voir dans l’intelligence artificielle le modèle de l’intelligence, nous courons le risque de laisser le cœur dans l’inintelligence.

Certains rétorqueront qu’il est possible d’inscrire les considérations morales parmi les critères pris en compte par l’intelligence artificielle dans son fonctionnement. Dans ce cas cependant, c’est comme si la réflexion morale avait été menée une fois pour toutes, avant d’être déléguée à la machine. Or une faculté dont on ne fait pas sans cesse usage dépérit. D’où un rabougrissement moral.

9. Le rabougrissement intellectuel.

L’intelligence artificielle est un produit de la technologie, elle-même liée, intrinsèquement, au développement de la science moderne, à la constitution de sciences mathématiques de la nature. Ces sciences avaient pour but de nous rendre le monde compréhensible, en même temps que d’accroître nos capacités à agir sur lui, selon l’équation baconienne savoir = pouvoir. Qu’est-il, aujourd’hui, en train de se produire ?

Le pouvoir acquis sur le monde a conduit à transformer celui-ci dans une mesure telle que le monde résultant de cette transformation nous est devenu, à certains égards, plus opaque que ne l’était l’ancienne nature. Nos facultés naturelles sont dépassées – ce pourquoi nous avons un besoin croissant de l’intelligence artificielle pour nous y repérer, et simplement y vivre. Or l’intelligence artificielle vraiment intéressante est celle qui produit des résultats, non pas seulement plus vite et mieux que nous ne pourrions y parvenir sans elle, mais des résultats qui échappent à notre compréhension. L’intelligence artificielle ne peut donc pas être considérée comme un simple outil d’aide à la décision : dans la mesure où la genèse des indications qu’elle nous donne échappe à notre contrôle, nous sommes amenés à simplement nous en remettre à ces indications – ce qui signifie, en fin de compte, que l’outil d’aide à la décision décide pour nous, plus exactement que notre décision se résorbe dans l’usage de l’outil. Il y a alors moins augmentation de nos capacités, grâce à l’outil, que délégation complète de notre pouvoir à un outil obscur. Dès lors notre intelligence, qui a permis de mettre en place ces extraordinaires dispositifs d’intelligence artificielle, se trouve comme mise en vacances par eux ; et, à force de se trouver en vacances, elle perd l’habitude du travail, et même l’aptitude au travail. La perte de contrôle n’est pas liée, comme dans un certain nombre de dystopies, à des machines intelligentes devenant malveillantes à l’égard des humains et cherchant à les asservir ou les éliminer, mais au fait, à force de s’en remettre en permanence à elles, de devenir des incapables, des infirmes.

À rester affalés sur un canapé à s’adonner à des jeux en lignes, les adolescents des pays développés ont vu leurs capacités physiques décroître d’un quart au cours des quatre dernières décennies. Le QI moyen est également à la baisse au cours des vingt dernières années. De nombreux facteurs doivent concourir à ce phénomène – mais parmi eux doit entrer, au moins pour une part, la délégation à des machines de tâches toujours plus nombreuses qui requéraient auparavant notre intelligence. À la fin des années 1960, Louis Aragon avait bien perçu le processus. « Le progrès qui me prive d’une fonction peu à peu m’amène à en perdre l’organe. Plus l’ingéniosité de l’homme sera grande, plus l’homme sera démuni des outils physiologiques de l’ingéniosité. Ses esclaves de fer et de fil atteindront une perfection que l’homme de chair n’a jamais connue, tandis que celui-ci progressivement retournera vers l’amibe. Il va s’oublier » (4).

10. Des poussins connectés.

Lorsque j’étais enfant, une devinette de cour de récréation demandait : qu’est-ce qui est petit, jaune, et qui fait très peur ? La réponse était : un poussin avec une mitraillette. Aujourd’hui on pourrait demander : qu’est-ce qui est petit, jaune, et qui se croit un seigneur de la création ? Un poussin connecté. Des immatures connectés, voilà ce que nous devenons. Que le courant cesse d’arriver aux prises, qu’il cesse de recharger les batteries et, si nos racines terrestres et célestes se trouvent atrophiées, ce ne seront plus seulement nos appareils qui seront neutralisés, c’est nous-mêmes qui serons annihilés.

Olivier Rey

(1) Lettre du 13 mars 1900, dans Hwuy-Ung, A Chinaman’s Opinion of Us and of His Own Country, trad. John A. Makepeace, Londres, Chatto & Windus, 1927, p. 44-46.
(2) Clément Pétreault, « Woke ou réac ? Pour qui vote ChatGPT », Le Point, 27 janvier 2023.
(3) René Riesel et Jaime Semprun, Catastrophisme, administration du désastre et soumission durable, Éditions de l’Encyclopédie des Nuisances, 2008, p. 128.
(4) Blanche ou l’oubli (1967), Gallimard, coll. « Folio », 1972, p. 154.

Mathématicien, philosophe, Olivier Rey développe une pensée forte et originale. Dernier ouvrage : Quand le monde s’est fait nombre (Desclée de Brouwer, 2021).