Le pape Léon XIV présentera sa première encyclique le 26 mai, portant directement sur l'IA, et invitera Chris Olah, co-fondateur d'Anthropic et créateur de Claude, à intervenir. Le Vatican établit simultanément une commission sur l'IA. Une institution bimillénaire tente d'utiliser son autorité morale pour combler le vide de la gouvernance de l'IA - sa population couverte dépasse la portée de toute législation sur l'IA.
Une institution comptant 1,4 milliard de fidèles et existant depuis deux mille ans a placé l'IA en tête de son ordre du jour et a invité le créateur de Claude à présenter un document de position.
La question centrale à laquelle ce document doit répondre est précisément celle que l'ensemble de l'industrie de l'IA ne peut contourner — Alors que les machines ressemblent de plus en plus à des humains, sur quoi repose finalement la dignité et l'irremplaçabilité de l'être humain ?
Le 26 mai, le pape Léon XIV présentera au Vatican l'encyclique "Magnifica Humanitas" ("La Magnifique Humanité"), centrée sur "la protection de l'humain à l'ère de l'IA".
L'encyclique est l'un des documents d'enseignement de plus haut niveau de l'Église catholique, s'adressant aux 1,4 milliard de catholiques du monde entier, et constitue également un geste symbolique du nouveau pape pour indiquer ses priorités de gouvernance.
Ce pape américain, diplômé en mathématiques, s'est toujours soucié de l'éthique à l'ère de l'IA, pour protéger l'humanité.
La première encyclique du pape, écrite pour l'IA
Cette présentation brise deux traditions.
Le pape n'assiste généralement pas en personne à la présentation d'une encyclique, laissant cette tâche à un cardinal, mais Léon XIV a choisi d'être présent.
Parallèlement, inviter Chris Olah, co-fondateur d'Anthropic, en tant que porte-parole laïc est un précédent quasi inexistant dans l'histoire des présentations d'encycliques.
Selon le journaliste vaticaniste Andrea Vreede, "Si seuls des cardinaux présentaient, personne n'écouterait vraiment, mais si le pape est présent, toutes les caméras seront braquées là-bas."
Le timing a été soigneusement choisi.
L'encyclique a été signée le 15 mai, coïncidant exactement avec le jour où, 135 ans plus tôt, le pape Léon XIII signa l'encyclique "Rerum Novarum".
Léon XIII
"Rerum Novarum" répondait à l'impact de la révolution industrielle sur les droits des travailleurs et est considérée comme le document fondateur de l'enseignement social catholique.
Léon XIV avait clairement établi ce parallèle dans son discours d'investiture : "L'Église offre son trésor d'enseignement social à tous pour répondre à une nouvelle révolution industrielle, ainsi qu'aux développements dans le domaine de l'intelligence artificielle."
Presque simultanément, le Vatican a approuvé le 16 mai la création d'une commission sur l'IA, intégrant sept institutions de la Curie, coordonnant pour la première fois les travaux sur l'IA jusqu'alors dispersés.
Précédemment, dans un discours à la plus grande université d'Europe, Léon XIV avait décrit la militarisation de l'IA comme poussant le monde vers une "spirale de destruction".
Pourquoi Anthropic ?
L'invitation d'Olah résulte d'une convergence précise d'intérêts mutuels.
Olah dirige chez Anthropic les recherches sur l'interprétabilité (interpretability), visant à ouvrir la boîte noire de l'IA pour comprendre ce que les réseaux neuronaux font réellement en leur sein.
C'est précisément la version technique de la question qui préoccupe le plus le Saint-Siège : l'IA peut-elle être pleinement comprise, et donc digne de confiance ?
Les initiatives d'Anthropic dans le domaine de l'éthique religieuse sont systématiques.
La société avait déjà invité des membres du clergé à participer à l'élaboration de la "constitution" de Claude.
Article complémentaire : Anthropic a officiellement open-sourcé l'"âme" de Claude
Fin avril de cette année, des représentants d'Anthropic et d'OpenAI ont participé à la première table ronde "Faith-AI Covenant" à New York, discutant de cadres éthiques pour l'IA avec des dirigeants de traditions religieuses telles que l'hindouisme, le sikhisme, le judaïsme, l'orthodoxie, entre autres. D'autres événements sont prévus dans plusieurs villes mondiales.
Un atout plus concret réside dans le fait qu'Anthropic est actuellement en conflit avec le gouvernement américain concernant les usages militaires de l'IA, insistant pour que ses modèles ne soient pas utilisés pour le ciblage d'armes autonomes et la surveillance de masse. Cette position est très alignée avec l'opposition du Saint-Siège à la militarisation de l'IA.
Pour Anthropic, l'approbation morale du Saint-Siège renforce son positionnement de marque d'"IA responsable".
Pour le Saint-Siège, s'associer à une entreprise menant de vraies recherches techniques sur la sécurité de l'IA permet à l'encyclique de dépasser le simple discours creux. Chacun y trouve son compte.
La Silicon Valley a longtemps été sceptique envers les religions organisées.
Brian Boyd du Future of Life Institute interprète ce changement d'attitude ainsi : "La devise de la Silicon Valley est 'Move fast and break things'. Ils ont cassé trop de choses et trop de personnes."
Se rapprocher de l'autorité religieuse est une tentative de reconstruire une crédibilité publique épuisée.
Sous-traitance morale ou outil de relations publiques ?
Si le récit semble réconfortant, les critiques perçoivent un autre tableau.
La remise en question la plus acerbe provient de Dylan Baker, responsable de recherche au Distributed AI Research (DAIR) Institute.
Il estime que les discussions autour de l'"IA morale" masquent des questions plus fondamentales, à savoir si certains systèmes d'IA devraient même être développés.
Lorsque le cadre de discussion devient "Puisqu'on va le construire, faisons-le bien", la question préalable "Faut-il le construire ?" est complètement éludée.
Rumman Chowdhury, PDG de Humane Intelligence et ancienne envoyée scientifique pour l'IA sous l'administration Biden, est également sceptique : "Au mieux, c'est une distraction, au pire, ça détourne l'attention des véritables enjeux importants."
Elle pense que la Silicon Valley tente de trouver des "principes éthiques universels" dans la religion pour traiter les zones grises, mais les divergences de valeurs entre les traditions religieuses mondiales ne sont pas moindres que les divergences réglementaires entre les États.
Le dilemme structurel est plus évident.
L'encyclique papale repose sur un appel moral, sans force contraignante légale.
Le Faith-AI Covenant est un engagement volontaire, dont les participants peuvent se retirer à tout moment.
La loi européenne sur l'IA prévoit des amendes pouvant atteindre 35 millions d'euros ou 7% du chiffre d'affaires mondial, mais sa portée extraterritoriale est limitée.
Aux États-Unis, il n'existe toujours pas de cadre réglementaire fédéral unifié sur l'IA.
Il n'existe actuellement aucun mécanisme unique au monde capable de contraindre efficacement la vitesse de développement de l'IA.
Le Saint-Siège comble un vide en termes de discours, pas un vide en termes de capacité de gouvernance.
Quand les machines ressemblent de plus en plus à des humains, sur quoi l'homme s'appuie-t-il pour se confirmer comme tel ?
Toutes les discussions sur l'éthique de l'IA, que leur point de départ soit le dogme religieux, les textes juridiques ou les valeurs d'entreprise, pointent fondamentalement vers la même question : où se trouve l'irremplaçabilité de l'être humain ?
Dans le passé, de nombreuses réponses ont été apportées : l'intelligence, la créativité, la capacité langagière, la résonance émotionnelle, le jugement moral.
Ces réponses sont maintenant ébranlées une à une.
L'IA peut écrire de la poésie, composer de la musique, passer l'examen du barreau, susciter chez les utilisateurs une dépendance émotionnelle réelle.
Lorsque ces capacités autrefois considérées comme "ce qui fait de nous des humains" peuvent être simulées, sur quoi l'homme peut-il encore se définir ?
La réponse pourrait résider dans un attribut que l'IA ne pourra jamais acquérir : la finitude.
Les humains meurent.
Précisément parce que la vie a une fin, chaque choix a un poids, chaque renoncement a un coût, chaque engagement a un sens.
Le jugement moral n'a jamais été le produit d'un simple raisonnement logique.
Il est fondé sur l'expérience tangible que "se tromper fait mal, fait regretter, fait perdre des choses irrécupérables".
L'IA peut simuler le processus de pesée des avantages et inconvénients, mais elle n'a pas la capacité de subir les conséquences, elle n'a pas le sentiment d'urgence induit par la mort, elle n'a pas l'angoisse existentielle du "c'est la seule chance de toute une vie".
Face à l'avènement de l'IA Générale (AGI) voire de l'IA Super Intelligente (ASI), le scénario véritablement à craindre est celui où les humains, ayant la possibilité de choisir, décident activement de déléguer le jugement, la prise de décision, voire la responsabilité morale à une machine.
Il est trop facile pour l'homme de vouloir échapper à l'acte de "prendre une décision et en assumer les conséquences", et l'IA offre précisément une échappatoire en apparence parfaite.
L'encyclique du pape, la constitution d'Anthropic, la table ronde du Faith-AI Covenant, sous des formes différentes, expriment au fond la même idée : la technologie peut évoluer infiniment, mais la personne qui appuiera finalement sur le bouton doit être un être mortel, qui ressent la douleur, et qui est responsable des conséquences.
C'est probablement ce que "la Magnifique Humanité" veut vraiment dire.
Références :
https://www.theguardian.com/world/2026/may/18/pope-leo-encyclical-human-dignity-ai-anthropic
Cet article provient du compte WeChat officiel "新智元", auteur : 新智元
