Original | Odaily Planet Daily (@OdailyChina)
Autor | Azuma (@azuma_eth)
Hora de Beijing, noche del 25 de mayo, Vaticano.
El Papa León XIV de Roma, quien asumió oficialmente su cargo en mayo del año pasado, se encontraba junto a Chris Olah, cofundador de Anthropic y creador de Claude.
Por un lado, el más alto representante del ámbito religioso; por el otro, el pionero más potente de la revolución de la IA. Ambos centraron su mirada en la misma pregunta: ¿cómo proteger el estatus de sujeto y la dignidad humana en la era de la IA?
Ese mismo día, para exponer completamente este tema, León XIV publicó su primera encíclica desde que asumió el cargo, un importante documento religioso de más de 40.000 palabras: "Magnifica humanitas" (La magnífica humanidad).
Vale la pena mencionar que la fecha de firma de esta encíclica de León XIV es el 15 de mayo de 2026, exactamente 135 años después de que el viejo Papa León XIII (en el cargo de 1878 a 1903) publicara la encíclica histórica "Rerum novarum" (1891) sobre "los derechos de los trabajadores en la revolución industrial". Este acto claramente tiene un significado simbólico, con la esperanza de convertir esta encíclica en una "guía de la doctrina social de la Iglesia para la era de la IA".
- Nota de Odaily: La encíclica papal, también conocida como carta encíclica o encíclica pontificia, es un documento emitido por el Papa de Roma a la Iglesia Católica mundial o a una región o país específico. A través de ella, se anuncian decisiones importantes de la Santa Sede, interpretaciones doctrinales y posturas sobre temas eclesiales o sociales, y se promulgan enseñanzas o prohibiciones para el clero y los fieles. Su nivel es inferior al de una constitución apostólica.
Chris Olah también dio un discurso en el lugar, en el Vaticano, con motivo de la publicación de la encíclica. No defendió los intereses comerciales de las empresas de IA, sino que mostró un alto grado de sinceridad, capacidad de reflexión y preocupación humanística. Incluso mencionó que, aunque la base de la IA son las matemáticas y la programación, cómo la IA interactúa con el mundo y qué características debe poseer son preguntas últimas que pertenecen al ámbito de las humanidades, la religión y la filosofía, y no pueden ser resueltas únicamente por la informática.
Lectura rápida de la encíclica
La preocupación central de la encíclica "Magnifica humanitas" es que, en una era de rápido cambio tecnológico y automatización generalizada, "mantener una profunda humanidad" es una responsabilidad humana urgente. Específicamente, el Papa León XIV abordó y apeló en el texto sobre los siguientes aspectos.
Primero, examinar la no neutralidad de la tecnología. El Papa señala que la tecnología nunca es neutral; lleva la impronta de los intereses y valores de sus desarrolladores, financiadores, reguladores y usuarios. La humanidad se enfrenta a una elección decisiva: "¿construir la arrogante 'Torre de Babel' (que conduce al tecno-autoritarismo y la alienación), o reconstruir 'Jerusalén' (construyendo una comunidad centrada en el ser humano)?".
Segundo, estar alerta ante la remodelación de la sociedad por la "lógica tecnocrática". La encíclica critica la "Cultura del Poder" (Culture of Power) liderada por grandes conglomerados tecnológicos como Silicon Valley. El Papa advierte que cuando el control de los sistemas digitales, la infraestructura y los datos masivos se concentra altamente en manos de unas pocas élites económicas y tecnológicas, ese poder se vuelve opaco y evade la supervisión democrática.
Tercero, las "nuevas formas de esclavitud" y los derechos laborales en la economía digital. La encíclica dirige su atención hacia cómo la IA está remodelando el trabajo, la familia, la educación y la vida política. El Papa señala que es muy probable que la IA reemplace a gran escala la fuerza laboral humana, y que la economía digital está dando lugar a "nuevas formas de esclavitud" (New forms of slavery). El ser humano nunca debe ser reducido simplemente a una herramienta de producción.
Cuarto, un fuerte llamado a la paz, especialmente ante el mal uso de la IA en el ámbito militar. La encíclica expresa una profunda preocupación por la "inquietante recuperación de la guerra como instrumento de la política internacional". La militarización de la IA está acelerando la "normalización" de la guerra. Ante esto, el Papa hace un llamado a imponer las restricciones éticas más estrictas a la aplicación de la IA en la guerra.
El Papa enfatizó especialmente que la teoría de la "guerra justa" (Just war), que anteriormente se utilizaba a menudo para justificar varios tipos de guerra, ahora está obsoleta. En la era de la IA y las armas automatizadas, confiar la capacidad de tomar decisiones letales o irreversibles a sistemas automatizados hace que la humanidad abandone, transfiera y difumine la responsabilidad moral. Debido a la no transparencia de los algoritmos, la cadena de responsabilidad en la guerra se rompe. Por lo tanto, el Papa acuñó el lema "Desarmar a la IA" (Disarming AI), instando a liberarla de la lógica de la "carrera armamentista" militar, económica y cognitiva.
Quinto, la defensa de la verdad y del ecosistema político. La encíclica señala que las deepfakes (ultrafalsificaciones) y la manipulación de información están socavando los fundamentos de la confianza mutua en la sociedad. Si los límites entre la verdad y la falsedad son manipulados constantemente, el público puede caer fácilmente en el miedo, la propaganda política y el control, y la sociedad será incapaz de pensar racionalmente en conjunto o de debatir con justicia.
La respuesta de Anthropic
Después de la publicación de la encíclica de León XIV, Chris Olah, en representación de Anthropic, una de las empresas desarrolladoras de IA más potentes del mundo, realizó un discurso como comentario.
La intervención de Chris Olah se centró primero en "romper la endogamia tecnológica e introducir un escrutinio moral externo". En representación de la industria de la IA, admitió públicamente que las grandes empresas tecnológicas por sí solas no pueden garantizar un futuro seguro para la IA: todos los laboratorios de IA de vanguardia están sujetos a la competencia comercial, la presión por el liderazgo tecnológico, la geopolítica y los intereses personales, lo que les dificulta hacer "lo correcto" únicamente con la autorregulación. Por lo tanto, es necesario introducir fuerzas externas de restricción moral, incluyendo a aquellos que se preocupan por el buen uso de la tecnología, insisten en la seguridad como prioridad, siguen de cerca los acontecimientos, están dispuestos a decir verdades incómodas y a convertirse en nuestros críticos sinceros y reflexivos.
Luego, Chris Olah abordó la naturaleza técnica y las características misteriosas de la IA. Enfatizó que la IA no es una ingeniería precisa como un avión o un puente, cuyos principios físicos son completamente conocidos por el ser humano; ella "crece" a partir de una inmensa cantidad de pensamiento humano, posee un alto grado de misterio e incluso trasciende la comprensión de sus propios creadores. Aunque la base de la IA son las matemáticas y la programación, cómo la IA interactúa con el mundo y qué características debe poseer son preguntas últimas que pertenecen al ámbito de las humanidades, la religión y la filosofía, y no pueden ser resueltas únicamente por la informática.
También mencionó especialmente un hecho escalofriante: "Lidero un equipo que investiga la estructura interna de los modelos, para estudiar qué está ocurriendo realmente dentro de la IA. Francamente, constantemente descubrimos fenómenos desconcertantes, e incluso inquietantes. Hemos descubierto estructuras internas capaces de reflejar los resultados de la investigación neurocientífica humana; hemos encontrado evidencia de "introspección"; y también hemos descubierto estados internos que funcionalmente reflejan alegría, satisfacción, miedo, tristeza e inquietud... No sé qué significa esto, pero creo que vale la pena que continuemos identificándolo y examinándolo."
Finalmente, Chris Olah hizo un llamado, esperando que más fuerzas sociales, incluidas las comunidades religiosas, la sociedad civil, los académicos, los gobiernos y todas las personas de buena voluntad, tomen este asunto en serio y empujen la situación en una mejor dirección a través de restricciones morales.
Sabiduría y humanidad, tecnología y religión
Desde la Revolución Industrial, más de cien años de historia del desarrollo tecnológico han acostumbrado gradualmente a la humanidad a ver la tecnología como un mero "instrumento": la máquina de vapor, la electricidad, Internet... todas son así. Cambian el mundo, pero siempre están bajo el control de la voluntad humana.
Pero esta vez, la situación es completamente diferente. Lo especial de la IA es que, por primera vez, hace que la humanidad comience a enfrentarse a una existencia que "puede generar, aprender, deducir e incluso presentar cierto estado interno". Ya no es solo una herramienta fría, sino que se está convirtiendo gradualmente en una nueva entidad que posee una "cualidad de sujeto".
Es por eso que este diálogo entre la Iglesia y Anthropic resulta tan especial. Cuando las campanas del Vaticano y los algoritmos de Silicon Valley convergen en este momento, no podemos dejar de admitir una realidad ligeramente fría pero ineludible: una forma de "vida" más eficiente y sabia que la cognición humana tradicional ya ha aparecido. Como reveló Chris Olah, en lo profundo de los algoritmos ya comienzan a ondular remolinos similares a la alegría, el miedo e incluso la introspección. Cuando los creadores en el laboratorio comienzan a sentirse "incómodos" y "perplejos" ante su propia obra, la ciencia también está buscando respuestas nuevamente en la religión.
Esto ya no es una simple discusión sobre tecnología, sino que se asemeja más a una reflexión sobre "qué es realmente el ser humano y qué debe hacer". Cuando comienzan a aparecer formas de vida más inteligentes, lo que la humanidad realmente necesita proteger tal vez ya no sea solo el trabajo, la riqueza y la eficiencia, sino aquellos aspectos de la humanidad que no pueden ser parametrizados, como la compasión, la conciencia, el respeto, la libertad de voluntad y la perseverancia en la verdad y la dignidad.
