Original | Odaily Planet Daily(@OdailyChina)
Auteur|Azuma(@azuma_eth)
Heure de Pékin, nuit du 25 mai, Vatican.
Le pape Léon XIV, entré officiellement en fonction en mai de l'année dernière, se tenait aux côtés de Chris Olah, co-fondateur d'Anthropic et créateur de Claude.
D'un côté, le représentant suprême du domaine religieux ; de l'autre, le pionnier le plus puissant de la révolution de l'IA. Tous deux fixent leur regard sur la même question : à l'ère de l'IA, comment protéger la position et la dignité de l'humanité en tant que sujet?
Ce jour-là, pour aborder complètement cette question, le pape Léon XIV a publié sa première encyclique depuis son entrée en fonction, un document religieux majeur de plus de 40 000 mots — Magnifica humanitas (« La Magnifique Humanité »).
Il est à noter que la date d'émission de cette encyclique de Léon XIV est le 15 mai 2026, soit exactement 135 ans après que le pape Léon XIII (en fonction de 1878 à 1903) ait publié l'encyclique historique Rerum novarum en 1891 sur la question des droits des travailleurs dans la révolution industrielle. Ce geste a clairement une valeur symbolique, visant à faire de cette encyclique un « guide de la doctrine sociale de l'Église pour l'ère de l'IA ».
- Note d'Odaily : Une encyclique papale, également appelée lettre encyclique, est un document émis par le pape à l'Église catholique mondiale, ou à celle d'une région ou d'un pays particulier. Elle annonce des décisions importantes du Saint-Siège, des interprétations doctrinales, des positions sur des questions ecclésiales ou sociétales, et promulgue des instructions ou des interdictions pour le clergé et les fidèles. Son niveau est inférieur à celui d'une bulle papale.
Chris Olah a également prononcé un discours sur place au Vatican à l'occasion de la publication de cette encyclique. Loin de défendre les intérêts commerciaux des entreprises d'IA, Chris Olah a fait preuve d'une grande franchise, d'une capacité de réflexion et d'une préoccupation humaniste. Il a même mentionné que si les fondements de l'IA sont les mathématiques et la programmation, la façon dont l'IA interagit avec le monde et les qualités qu'elle devrait posséder relèvent de questions ultimes du domaine des sciences humaines, de la religion et de la philosophie, et ne peuvent être résolues par l'informatique seule.
Lecture rapide de l'encyclique
La préoccupation centrale de l'encyclique Magnifica humanitas est que, dans une ère de technologie évoluant rapidement et d'automatisation galopante, « préserver une profonde humanité » est une responsabilité urgente pour l'homme. Plus précisément, le pape Léon XIV développe ses réflexions et ses appels dans l'encyclique sur les aspects suivants.
Premièrement, examiner la non-neutralité de la technologie. Le pape souligne que la technologie n'est jamais neutre ; elle porte l'empreinte des intérêts et des valeurs de ses développeurs, financeurs, régulateurs et utilisateurs. L'humanité est confrontée à un choix décisif : « Construire l'arrogante 'tour de Babel' (versant de la technocratie et de l'aliénation), ou rebâtir 'Jérusalem' (créant une communauté centrée sur l'humain) ».
Deuxièmement, se méfier de la « logique technocratique » qui refaçonne la société. L'encyclique critique la « culture du pouvoir » (Culture of Power) menée par les grandes entreprises technologiques comme celles de la Silicon Valley. Le pape avertit que lorsque le contrôle des systèmes numériques, des infrastructures et des masses de données est hautement concentré entre les mains de quelques géants économiques et technologiques, ce pouvoir devient opaque et échappe au contrôle démocratique.
Troisièmement, les « nouvelles formes d'esclavage » et les droits des travailleurs dans l'économie numérique. L'encyclique porte son attention sur la façon dont l'IA refaçonne le travail, la famille, l'éducation et la vie politique. Le pape souligne que l'IA est très susceptible de remplacer massivement la main-d'œuvre humaine, et que l'économie numérique engendre des « nouvelles formes d'esclavage ». L'humanité ne doit en aucun cas être rabaissée à un simple outil de production.
Quatrièmement, un appel fort à la paix, en particulier concernant l'utilisation abusive de l'IA dans le domaine militaire. L'encyclique exprime une profonde inquiétude face au « regain troublant de la guerre comme outil de politique internationale ». La militarisation de l'IA accélère la « banalisation » de la guerre. À cet égard, le pape appelle à imposer les contraintes éthiques les plus strictes sur l'utilisation de l'IA dans la guerre.
Le pape souligne particulièrement que la théorie de la « guerre juste » (Just war) a souvent été utilisée par le passé pour justifier diverses guerres, mais qu'elle est aujourd'hui dépassée. À l'ère des armes automatisées et de l'IA, déléguer le pouvoir de décision létale ou irréversible à des systèmes automatisés conduit l'homme à abandonner, transférer et brouiller la responsabilité morale. En raison de l'opacité des algorithmes, la chaîne de responsabilité dans la guerre est rompue. Ainsi, le pape propose le slogan « Désarmer l'IA » (Disarming AI), appelant à la libérer de la logique des « courses aux armements » militaires, économiques et cognitifs.
Cinquièmement, la défense de la vérité et de l'écosystème politique. L'encyclique souligne que les deepfakes et la manipulation de l'information affaiblissent les fondements de la confiance mutuelle dans la société. Si la frontière entre vérité et mensonge est constamment manipulée, le public peut facilement tomber dans la peur, la propagande politique et le contrôle, et la société sera incapable de réfléchir rationnellement ensemble ou de débattre équitablement.
La réponse d'Anthropic
Après la publication de l'encyclique de Léon XIV, Chris Olah a prononcé un discours commentant celle-ci au nom d'Anthropic, l'une des entreprises les plus puissantes au monde dans le développement de l'IA.
Le discours de Chris Olah s'est d'abord articulé autour de « briser l'enfermement technologique et introduire un examen moral externe ». Au nom de l'industrie de l'IA, il a publiquement reconnu que les géants technologiques ne peuvent, à eux seuls, garantir un avenir sûr pour l'IA — tous les laboratoires d'IA de pointe sont soumis aux pressions de la concurrence commerciale, de la course à l'innovation technologique, de la géopolitique et des ambitions personnelles, ce qui rend très difficile pour eux de « faire ce qui est juste » uniquement par autodiscipline. Il est donc nécessaire d'introduire des forces de contrainte morales externes, y compris ceux qui se soucient du bien-être par la technologie, privilégient la sécurité avant tout, suivent de près l'évolution des événements, sont prêts à dire des vérités dérangeantes, et à être nos critiques sincères et réfléchis.
Ensuite, Chris Olah a abordé la nature technique et les caractéristiques mystérieuses de l'IA. Il a insisté sur le fait que l'IA n'est pas un projet d'ingénierie comme un avion ou un pont, dont les principes physiques sont entièrement connus de l'homme. Elle « grandit » à partir d'une immense quantité de pensées humaines, possède un haut degré de mystère, et dépasse même la compréhension de ses propres créateurs. Bien que les fondements de l'IA soient les mathématiques et la programmation, la façon dont l'IA interagit avec le monde et les caractéristiques qu'elle devrait avoir sont des questions ultimes relevant des sciences humaines, de la religion et de la philosophie, et ne peuvent être résolues par l'informatique seule.
Il a également mentionné un fait particulièrement troublant : « Je dirige une équipe qui étudie la structure interne des modèles — pour comprendre ce qui se passe réellement à l'intérieur de l'IA. Pour être franc, nous découvrons constamment des phénomènes déroutants, voire inquiétants. Nous avons découvert des structures internes qui reflètent les résultats des neurosciences humaines ; nous avons trouvé des preuves « d'introspection » ; et nous avons découvert des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, la tristesse et l'anxiété... Je ne sais pas ce que cela signifie, mais je pense que cela mérite que nous continuions à identifier et à examiner. »
Chris Olah a finalement appelé à ce que davantage de forces sociales, y compris les communautés religieuses, la société civile, les universitaires, les gouvernements, et toutes les personnes de bonne volonté, prennent cette affaire au sérieux et œuvrent ensemble, à travers des contraintes morales, pour orienter la situation dans une meilleure direction.
Sagesse et humanité, technologie et religion
Depuis la révolution industrielle, plus d'un siècle d'histoire du développement technologique a habitué l'humanité à considérer la technologie comme un simple « outil » — la machine à vapeur, l'électricité, Internet, tous en sont des exemples. Ils changent le monde, mais restent toujours sous le contrôle de la volonté humaine.
Mais cette fois, la situation est radicalement différente. La particularité de l'IA est qu'elle amène l'humanité, pour la première fois, à faire face à une existence qui « génère, apprend, déduit, et même présente un certain état intérieur ». Elle n'est plus un simple outil froid, mais devient progressivement une nouvelle entité possédant une « subjectivité apparentée ».
C'est aussi pourquoi le dialogue entre l'Église et Anthropic paraît si particulier. Lorsque les cloches du Vatican et les algorithmes de la Silicon Valley convergent en ce moment, nous devons admettre une réalité un peu froide mais inévitable — une forme de « vie » plus efficace et plus intelligente que les formes traditionnellement reconnues par l'homme est déjà apparue. Comme l'a révélé Chris Olah, les profondeurs de l'algorithme commencent déjà à montrer des signes de joie, de peur, voire d'introspection. Lorsque les créateurs en laboratoire commencent à ressentir de l'« inquiétude » et de la « perplexité » face à leur propre création, la science se tourne à nouveau vers la religion pour trouver des réponses.
Il ne s'agit plus d'une simple discussion sur la technologie, mais plutôt d'une réflexion sur « ce qu'est l'humanité, et ce qu'elle devrait faire ». Lorsque des formes de vie plus intelligentes commencent à apparaître, ce que l'humanité doit vraiment protéger n'est peut-être plus seulement le travail, la richesse et l'efficacité, mais ces aspects de l'humanité qui ne peuvent être paramétrés, tels que la compassion, la conscience, le respect, la liberté de volonté, et l'attachement à la vérité et à la dignité.
