La première encyclique du nouveau pape de Rome vise à sauver les masses populaires à l'ère de l'IA
Le nouveau pape Léon XIV a publié sa première encyclique, "Magnifica humanitas", adressant la question cruciale de la préservation de la dignité et du rôle central de l'humanité à l'ère de l'intelligence artificielle. Publiée symboliquement 135 ans après l'encyclique "Rerum novarum" sur la révolution industrielle, elle se veut un guide pour la doctrine sociale de l'Église à l'époque de l'IA.
Le document, long de plus de 40 000 mots, met en garde contre la nature non neutre de la technologie, façonnée par les valeurs de ses créateurs. Il critique la "culture du pouvoir" des géants technologiques et la logique technocratique qui échappe au contrôle démocratique. L'encyclique dénonce les "nouvelles formes d'esclavage" dans l'économie numérique et les risques de remplacement massif de la main-d'œuvre. Elle appelle à un désarmement de l'IA dans le domaine militaire, estimant que la théorie de la "guerre juste" est dépassée face à des systèmes automatisés qui brouillent la responsabilité morale. Elle alerte également sur les dangers des deepfakes pour la vérité et la confiance sociale.
Lors de la présentation au Vatican, Chris Olah, cofondateur d'Anthropic (créateur de Claude), a apporté son soutien. Il a reconnu que l'industrie de l'IA, soumise à la concurrence, ne pouvait seule garantir un avenir sûr et a plaidé pour des contraintes éthiques externes. Il a souligné que les questions soulevées par l'IA relevaient ultimement des humanités, de la religion et de la philosophie, et non de la seule informatique. Olah a révélé que les recherches internes sur les modèles d'IA révèlent des structures miroirs des neurosciences humaines et des états évoquant l'introspection, la joie ou la peur, ce qui suscite chez ses créateurs de l'inquiétude et de la perplexité.
Ce dialogue entre le Vatican et la Silicon Valley marque un moment unique : face à une entité dotée d'une "quasi-subjectivité", la science se tourne vers la religion pour interroger l'essence de l'humain. Ce qu'il faut préserver, au-delà du travail ou de l'efficacité, ce sont les aspects inquantifiables de l'humanité : la compassion, la conscience, le libre arbitre et l'attachement à la vérité.
Odaily星球日报05/26 06:55
