Magnifica humanitas : une plongée au cœur de l’IA

EDITORIAL

Léon XIV a rendu publique sa première encyclique, Magnifica humanitas (« magnifique humanité ») le 25 mai, lundi de Pentecôte. Une première encyclique a souvent une dimension programmatique et révèle aussi le style et les préoccupations du nouveau pape. Eh ! bien, disons-le d’emblée, ce texte riche et captivant a le mérite d’être d’une rare clarté conceptuelle et formelle. C’est une véritable encyclique sociale qui s’inscrit dans la continuité de Rerum novarum (1891) de Léon XIII et de tout l’enseignement social de ses successeurs. Son thème ? « La protection de la personne humaine à l’ère de l’intelligence artificielle ».
Les réflexions de Léon XIV sur le progrès, la technique, la révolution numérique et l’IA ne sont pas révolutionnaires ni totalement nouvelles, mais elles sont toujours profondes, ajustées, nuancées, si bien que leur synthèse apporte au lecteur une connaissance bienvenue sur ces sujets importants destinés à jouer un rôle essentiel dans nos vies.
D’emblée, le pape ne rejette nullement « le développement technologique (qui) a contribué à une amélioration significative des conditions de vie de l’humanité » (n. 4). Mais, point essentiel, il affirme à plusieurs reprises que le progrès technique n’est pas neutre, qu’il peut, s’il n’est pas contrôlé, non seulement contribuer à une déshumanisation, mais aussi renforcer des logiques de pouvoir, surtout quand la maîtrise des nouveaux outils numériques et de l’IA est concentrée dans les mains de quelques puissants groupes privés.
Ensuite, après un panorama de l’histoire de la doctrine sociale de l’Église depuis Rerum novarum (1891), Léon XIV en rappelle les fondements et les principes. Basée sur la dignité ontologique de la personne humaine créée à l’image et à la ressemblance de Dieu, elle se laisse résumer par cinq principes centraux rappelés par le pape : le bien commun, la destination universelle des biens (incluant le droit de propriété qui ne peut être absolu), la subsidiarité, la solidarité et la justice sociale.
Puis, on arrive au cœur de l’encyclique consacrée à une puissante réflexion sur l’IA. Étant donné la nature même de l’IA, ce « progrès technique, précieux en soi, exige un discernement quant à la vision anthropologique qui le guide et aux fins qu’il poursuit » (n. 94). Léon XIV insiste sur le fait que l’IA n’a rien d’une intelligence humaine, elle demeure une extraordinaire puissance de traitement des données, mais elle ne peut vivre d’expérience ni ne connaît joie, douleur, rien de toute la richesse des sentiments qui font la spécificité du vécu et des relations humaines, elle est donc étrangère à la signification de l’amour, de l’amitié ou de la responsabilité. L’IA peut imiter tout cela, simuler de l’empathie, mais « même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain » (n. 99). Ajoutons qu’« il peut y avoir des utilisations manifestement inhumaines [de l’IA], comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés » (n. 102). Tout cela fait que l’IA ne peut être considérée « comme moralement neutre » (n. 104) et risque de blesser la dignité humaine, par exemple en traitant certaines vies comme moins dignes.
C’est pourquoi le pape invite au discernement : « Appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine. Cette exigence est d’autant plus urgente qu’il existe souvent un déséquilibre entre la vitesse du développement technologique et le rythme auquel se développent les consciences, les normes, les contrôles et les institutions capables d’en réguler les effets. Il ne suffit pas d’invoquer de façon générale l’éthique : il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir. Autrement le changement ne sera régi que par des logiques technocratiques et présenté comme nécessaire et inévitable, finissant par imposer des règles dictées par ceux qui possèdent les données, les infrastructures et les capacités de calcul » (n. 106).
Comment préserver l’humain dans un tel contexte ? « Le risque n’est pas seulement que certaines technologies soient mal utilisées, mais que le paradigme technocratique dans lequel nous sommes plongés, renforcé par la révolution numérique et l’IA, fasse passer pour juste et normale une vision anti-humaine, selon laquelle la plénitude de la vie consisterait à avoir plus, à réduire la fragilité, à éliminer l’imprévu, à contrôler chaque chose. Lorsque l’efficacité devient la mesure de la valeur, l’être humain est tenté de se considérer comme un projet à optimiser plutôt que comme une créature appelée à la relation et à la communion » (n. 112).
Léon XIV consacre alors de forts passages pour fustiger l’impasse du transhumanisme et du posthumanisme, le mythe de « l’homme amélioré » ou de « l’homme hybridé » avec la machine, qui ne peuvent conduire qu’à une effrayante déshumanisation et finalement au vide du nihilisme le plus absolu.
Ainsi le Saint-Père poursuit-il en consacrant des lignes essentielles sur la nécessité et le bienfait des limites qui font la grandeur de l’être humain : « Notre rapport à la vie semble aujourd’hui en crise. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt que comme un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite » (n. 118). C’est par la limite, la reconnaissance de notre finitude, que nous trouvons le sens de notre vie et le chemin de Dieu. « C’est pourquoi l’humanité – magnifique et blessée – ne doit être ni remplacée ni dépassée » (n. 126).
Nous ne pouvons ici tout aborder, il faudrait en effet évoquer l’impact de l’IA sur l’éducation, le travail, la finance, la famille, la guerre, sur les dangers du contrôle social aussi. Nous voudrions juste conclure sur l’importance soulignée par Léon XIV de « la vérité comme bien commun », tout particulièrement à l’heure où de puissants outils peuvent encore plus brouiller la frontière entre vrai et faux. « Dans le discours public, écrit le pape, la vérité des faits possède une dimension rationnelle car elle exige la vérification, le recoupement des sources et la responsabilité argumentative ; mais la vérité est encore plus relationnelle, elle se construit à travers des liens de confiance et des pratiques partagées, dans une confrontation honnête avec les autres et avec le monde. Seule la recherche partagée de la vérité des faits, considérée comme un bien commun, peut fonder une communication juste » (n. 132).
Sans recherche de la vérité, « la vie démocratique s’affaiblit » (n. 134) : le pape vise là la conception purement procédurale de la démocratie, celle qui, derrière John Rawls, refuse de considérer le bien et s’enfonce dans le relativisme. « Le désintérêt pour la vérité conduit lentement mais inexorablement à glisser vers le totalitarisme » (n. 134).

Christophe Geffroy