El 15 de mayo de 2026, el Papa León XIV firmó un documento de más de cuarenta mil palabras. Ese día se cumplían exactamente 135 años de la publicación de la encíclica «Rerum Novarum» por el Papa León XIII en 1891, el primer documento oficial de la Iglesia Católica en respuesta al impacto de la Revolución Industrial en el orden laboral.
Diez días después, el 25 de mayo de 2026, León XIV asistió personalmente a la conferencia de prensa para promulgar oficialmente al mundo esta encíclica titulada «Magnifica Humanitas». Es la primera vez en la historia de la Iglesia Católica que se publica una encíclica centrada en la inteligencia artificial. En esta presentación, además de cardenales y profesores de teología, estaba presente Chris Olah, cofundador de Anthropic.
(Fuente: Vatican News)
Muchos lo encuentran absurdo. La IA es ciencia, la Iglesia es teología. Ambas disciplinas tienen sus propias preocupaciones morales, pero parecen nunca sentarse a la misma mesa. Que el Vaticano hable de algoritmos es como pedirle a la oficina de meteorología que juzgue filosofía, no guarda relación.
Sin embargo, tras una lectura detenida de esta encíclica «Magnifica Humanitas», Leikeji descubrió que esta vez el Vaticano no ha recurrido a "Dios" desde las alturas para interpretar la IA, sino que ha optado por un enfoque más pragmático, abordando temas como la guerra, el empleo, la educación, la salud y la toma de decisiones públicas, asuntos que al público le resulta difícil profundizar. Hemos extraído diez puntos clave de la encíclica para ver qué dijo exactamente el Papa y qué significa.
Los diez puntos de la encíclica dan en el clavo de las mayores ansiedades sobre la IA
«Magnifica Humanitas» («La Humanidad Magnífica») tiene más de cuarenta mil palabras y aborda la guerra, el empleo, la educación, la salud, la información y la toma de decisiones públicas, recorriendo prácticamente todas las controversias actuales sobre la IA. Sin embargo, en esencia no es un documento técnico, sino una lista de verificación moral. No te dice cómo entrenar modelos, sino que plantea preguntas: ¿A quién sirve la IA? ¿Quién es responsable? ¿Quién se queda atrás? Hemos extraído de la encíclica diez puntos directamente relacionados con la realidad en China y los hemos interpretado en detalle.
1. La IA no es el enemigo, pero ya está en los sistemas de decisión cotidianos
La tecnología en sí misma no es enemiga de la humanidad, pero las nuevas tecnologías ya están integradas en la vida diaria y comienzan a influir en los procesos de decisión y la imaginación social.
La postura de León XIV es exactamente la que describe. Él no quiere etiquetar a la IA como una "tecnología peligrosa", sino que describe un cambio que ya ha ocurrido: la IA ya no es solo una herramienta, sino que se está convirtiendo gradualmente en un entorno.
Antes, tenías que abrir activamente un software para usar una tecnología; ahora, muchas decisiones de IA ocurren en segundo plano, y los usuarios ni siquiera saben que ya han sido evaluados por el sistema. En China, las plataformas de videos cortos usan algoritmos para decidir la distribución de contenido, las plataformas de comercio electrónico para ordenar productos, las plataformas de empleo para emparejar puestos, el software de oficina para resumir reuniones y generar documentos, y las plataformas educativas para calificar tareas y analizar el rendimiento. La gente común cree que solo le pregunta ocasionalmente a un gran modelo, pero el verdadero cambio es que la IA ya ha intervenido antes de que tomes una decisión.
(Fuente: Gráfico de Leikeji)
Muchos quizás aún estén reflexionando, o intenten "resistirse" a la ola de IA absteniéndose de usarla, pero en realidad los grandes modelos de IA ya se han infiltrado profundamente en nuestras vidas, y casi nadie puede escapar realmente.
2. El problema de la IA no es solo la regulación, sino quién tiene el poder tecnológico
El problema no se limita a la regulación. Hoy, muchos de los actores clave que impulsan el desarrollo tecnológico son instituciones privadas con capacidades transnacionales y recursos enormes.
Muchos debates sobre la IA se estancan en "regular o no regular", pero la encíclica profundiza: ¿quién tiene realmente el poder tecnológico? Este punto es, en mi opinión, el más agudo de los más de 40.000 palabras de la encíclica, y es una pregunta a la que casi toda la industria tiene dificultades para dar una respuesta perfecta.
En la era de la IA, el poder no solo proviene de los parámetros del modelo, sino también de la capacidad de cómputo, los datos, las plataformas en la nube, los puntos de acceso y los flujos de trabajo. Por ejemplo, Baidu tiene su motor de búsqueda y su nube inteligente, Alibaba tiene su nube y su sistema Tongyi, Tencent tiene WeChat, WeCom y su suite de colaboración, ByteDance tiene la distribución de contenido y Feishu, DingTalk y WPS también están integrando la IA en los procesos empresariales. Una PYME que quiera desarrollar una aplicación de IA a menudo no puede evitar las API, los servicios en la nube, las licencias de modelos y las reglas de las plataformas.
(Fuente: Gráfico de Leikeji)
En mi opinión, la competencia en la industria de la IA parece ser sobre la capacidad de los modelos, pero en el fondo se trata del control de la infraestructura. Quien logre integrar la IA en los flujos de trabajo de oficina, búsqueda, contenido, transacciones y gestión empresarial no solo estará vendiendo herramientas, sino remodelando la próxima generación de infraestructura digital. Por eso es realmente difícil responder a la pregunta de "a quién regular".
3. La IA es poderosa, pero ni siquiera sus desarrolladores pueden explicarla por completo
La IA ofrece muchas posibilidades asombrosas, pero incluso sus diseñadores tienen una comprensión limitada de los mecanismos internos de funcionamiento de los sistemas de IA generativa.
En el último año, la actitud de las empresas chinas hacia los grandes modelos ha pasado de "hay que adoptar la IA" a "¿en qué áreas podemos confiarle la IA?" El servicio al cliente, la redacción de textos de marketing, las actas de reuniones, la asistencia en programación y las respuestas a consultas de bases de conocimiento son relativamente fáciles de implementar porque el costo de un error es manejable y es fácil modificarlos manualmente. Pero la evaluación de riesgos financieros, el diagnóstico médico, la revisión legal y los servicios gubernamentales son diferentes. En estos escenarios, la IA no puede simplemente dar una respuesta que parezca correcta; debe explicar su razonamiento, mantener registros, permitir auditorías y, cuando sea necesario, permitir la intervención humana.
(Fuente: Gráfico de Leikeji)
Ahora, muchas empresas que adquieren productos de IA ya no solo miran cuán poderoso es el modelo, sino también las capacidades de aislamiento de datos, sistemas de permisos, despliegue privado y seguimiento de auditorías. Este cambio indica una cosa: el próximo umbral para la IA empresarial no es si puede generar, sino si puede asumir responsabilidad. Cuanto más se parezca el modelo a un experto, más necesitarán los usuarios saber cuándo puede no ser confiable.
4. La IA no debe equipararse a la inteligencia humana, y mucho menos a un sujeto moral
La IA no es un montón de datos, sino un sujeto que posee libertad, relaciones y responsabilidad moral.
Ahora, muchos productos de IA se esfuerzan por parecerse "más a un humano". Consuelan, coquetean, recuerdan preferencias y mantienen relaciones a largo plazo con los usuarios. CCTV informó sobre la advertencia de la Asociación de Protección al Consumidor de la provincia de Jiangsu: los compañeros de IA conllevan riesgos como la fuga de privacidad, trampas de consumo y dependencia emocional; New Express también informó sobre plataformas como "Xingye" y "Maoxiang", donde los jóvenes pagan por "comprar" personajes de IA virtuales para obtener "derechos exclusivos", y cuando un personaje popular es comprado, otros usuarios colectivamente "sufren una decepción amorosa".
(Fuente: Gráfico de Leikeji)
Esto demuestra que los usuarios no están comprando un trozo de código, sino invirtiendo emociones reales. La compañía de IA no es algo que no se deba hacer; de hecho, satisface necesidades de soledad y compañía, pero los productos deben dejar claros los límites. La IA puede simular relaciones, pero no asumir las responsabilidades de una relación real. Esto no es un sermón moral, sino un límite que debe considerarse seriamente en el diseño de productos, especialmente cuando están dirigidos a menores, ancianos y personas emocionalmente vulnerables.
5. Las decisiones de la IA están afectando al empleo, la salud, el bienestar y la justicia
Decisiones sensibles sobre empleo, bienestar, justicia y salud pueden verse influidas por sistemas de datos, por lo que deben tener mecanismos transparentes, de rendición de cuentas y supervisión humana.
La contratación es el escenario donde más fácilmente siente la presión de las decisiones de IA la persona común. Yicai informó que BOSS Zhipin está probando internamente "DeepHire", un agente de contratación de IA de extremo a extremo que cubre la mejora de currículums, la postulación automática, el análisis masivo de currículums por parte de las empresas, las respuestas automáticas y la programación inteligente de entrevistas. Que la IA entre en el proceso de contratación, por supuesto, puede mejorar la eficiencia: los responsables de RRHH ya no se ven abrumados por montañas de currículums, y los solicitantes pueden expresar mejor sus experiencias. Pero el problema está aquí: si los currículums son primero analizados masivamente, calificados y ordenados por la IA, el solicitante puede haber sido filtrado por el sistema antes de que una persona real lo vea.
Mi opinión es que la IA puede ayudar en la preselección, pero no puede dejar al solicitante frente a un rechazo completamente opaco. Al menos en decisiones que afectan a la contratación o las oportunidades de entrevista, la plataforma debería mantener el juicio humano, identificar el contenido generado por IA y proporcionar un espacio necesario para apelaciones. Esto no es limitar la IA, sino dejar una puerta abierta a aquellos rechazados por el sistema, incluyendo decisiones sobre beneficiarios de asistencia social, determinaciones judiciales de conductas ilegales, etc., que enfrentan el mismo dilema.
6. La IA ética definida por unos pocos no es suficiente; los recursos de IA deben servir al bien común
Si los estándares morales son definidos solo por unos pocos, entonces una IA más ética aún no es suficiente. Los datos, el conocimiento, la ciencia y la tecnología deben servir al bien común.
La publicización de la IA no exige que todos los modelos sean gratuitos, ni excluye a las empresas comerciales, sino que no se puede permitir que el poder de definir, usar y beneficiarse de la IA esté excesivamente concentrado. Esto es similar a lo que siempre hemos discutido sobre los modelos de código abierto y cerrado.
Modelos como Qwen de Alibaba, DeepSeek, etc., siguen abriendo parte de sus capacidades; los centros de inteligencia computacional en varias regiones y los nodos centrales de la red nacional de supercomputación también enfatizan el acceso equitativo a la capacidad de cómputo y los ecosistemas de modelos de código abierto. En el extranjero, existen iniciativas como el Plan Nacional de Recursos de Investigación en IA (NAIRR) de EE. UU., cuyo objetivo es que universidades, instituciones de investigación y pequeñas empresas tengan acceso a recursos de cómputo, datos y modelos.
Creo que si solo unas pocas empresas pueden entrenar modelos, acceder a capacidad de cómputo y poseer datos de alta calidad, mientras que los emprendedores comunes, las PYMES y los equipos universitarios solo pueden desarrollar aplicaciones periféricas, la IA podría crear una nueva brecha digital. Un ecosistema de IA verdaderamente saludable debería permitir que más personas participen, no que solo esperen que las grandes empresas abran algunas interfaces. En este aspecto, el entorno actual de IA en China es relativamente más abierto, y hay empresas como Alibaba y DeepSeek que brindan ayuda a universidades y PYMES.
7. La verdad es un bien público; la IA amplificará la desinformación y la manipulación cognitiva
La desinformación no es algo nuevo que traiga la IA, pero la IA la hará más masiva, más persuasiva y más difícil de distinguir de la información real.
Este es un problema ya muy comentado, pero en el fondo no se trata de si la IA tendrá alucinaciones, sino de que el costo de usar la IA para crear falsificaciones se ha vuelto muy bajo.
CCTV informó que algunas personas usaron la IA para inventar la noticia falsa del "vuelco de un barco turístico en Yichang, Hubei", acompañada de imágenes falsas procesadas por IA; en Dali, Yunnan, aparecieron rumores en línea que usaban IA para crear videos falsos de escenas de accidentes de tráfico; después del terremoto en Kuqa, Xinjiang, algunos medios utilizaron IA para generar imágenes y material audiovisual que no coincidían con la situación real del desastre, publicando información falsa sobre "edificios derrumbados". Imágenes, videos y las llamadas descripciones en el lugar pueden generarse juntas, lo que hace más difícil para el público general distinguir la verdad.
(Fuente: Gráfico de Leikeji)
El estado ya ha emitido las "Medidas para el Etiquetado de Contenido Generado/Sintetizado por Inteligencia Artificial", que exigen etiquetar el contenido generado o sintetizado, y las plataformas también están mejorando su capacidad de detección de falsificaciones. Pero creo que esto no es el final. En la era de la IA, lo verdaderamente escaso no es el contenido, sino el contenido confiable. Cuanto más abundante sea el contenido, más importante será su origen.
8. La educación en IA no debe enseñar solo el uso de herramientas, sino preservar la capacidad de preguntar y juzgar
La educación en IA no debe reducirse a formación técnica. Las escuelas aún deben cultivar la capacidad de hacer preguntas, de relacionarse y el pensamiento crítico.
En esta parte, China realmente va a la vanguardia mundial. Por ejemplo, en 2025, el Ministerio de Educación publicó la "Guía de Educación General en IA para Escuelas Primarias y Secundarias" y la "Guía para el Uso de IA Generativa por Estudiantes de Primaria y Secundaria". La primera enfatiza un sistema educativo en IA por niveles, y la segunda aclara las normas de uso y los límites de seguridad para cada etapa educativa.
Pero si la educación en IA solo enseña a los estudiantes a escribir indicaciones (prompts) y a obtener respuestas del modelo, no se están cultivando habilidades para una sociedad inteligente, sino una dependencia más hábil. Ahora, los estudiantes usan IA para escribir ensayos, resolver problemas, hacer presentaciones; los maestros usan IA para generar planes de lección, exámenes y comentarios. La eficiencia mejora, pero el proceso de pensamiento también puede verse comprimido.
Por eso también apoyo el punto de vista de la encíclica: la IA en el contexto educativo debe ser una herramienta, no un escritor fantasma. Una verdadera buena educación en IA no consiste en que los estudiantes obtengan respuestas más rápido, sino en que aprendan a hacer preguntas, verificar, comparar y expresarse mejor. Es decir, aprender el proceso de pensamiento es más importante que aprender cómo hacer que la IA dé directamente una solución.
9. La IA remodelará el trabajo, pero el trabajo no es solo un problema de eficiencia
La IA puede aumentar la productividad al asumir tareas rutinarias y repetitivas, pero el trabajo también es un lugar importante donde las personas desarrollan habilidades y participan en la sociedad.
Actualmente, la actitud de las empresas globales hacia el despliegue de IA es unánime: "reducir costos y aumentar la eficiencia". Esto se ha convertido en una estrategia común en casi todas las industrias. Pero la pregunta es: ¿La IA está potenciando a las personas o reemplazándolas? Esta ha sido siempre una fuente de ansiedad respecto a la IA. Si la IA en la oficina solo permite a los empleados completar informes y actas de reuniones más rápido, puede mejorar la eficiencia laboral, y los empleados pueden tener más tiempo libre para actividades personales después de terminar su trabajo. Pero si las empresas solo usan la IA para reducir puestos, bajar salarios y fortalecer la vigilancia, creará una nueva inseguridad.
De hecho, un flujo de trabajo de IA saludable debería permitir a los empleados enfocarse en el juicio, la comunicación, la creatividad y el manejo de problemas complejos, en lugar de convertirlos en reparadores de la salida del modelo.
10. Las decisiones irreversibles sobre vida o muerte no pueden dejarse en manos de la IA
Las decisiones letales u otras decisiones irreversibles no deben dejarse en manos de sistemas automatizados. El juicio humano y la responsabilidad moral no pueden reducirse a un cálculo.
Este punto parece hablar de la IA militar en superficie, pero también es aplicable a escenarios de alto riesgo como la conducción autónoma, la atención médica de emergencia, los robots industriales y los sistemas de seguridad.
La comercialización de la conducción autónoma en China avanza rápidamente. El estacionamiento automático, la entrega sin conductor, los camiones mineros sin conductor se están implementando aceleradamente. Los usuarios se preocupan por la experiencia, las empresas por los costos y la escalabilidad. Pero una vez que ocurre un accidente, la pregunta inmediata es: ¿fue porque el usuario no intervino a tiempo o porque el sistema juzgó mal? ¿Es un problema del algoritmo o de los sensores? ¿Es responsabilidad del fabricante del automóvil o del conductor? La IA médica es similar. Puede ayudar a revisar imágenes, triaje, generar historiales médicos, pero no puede hacer juicios irreversibles sin la responsabilidad de un médico.
Los escenarios de alto riesgo no pueden enfatizar solo el nivel de inteligencia, sino que también deben definir claramente la supervisión humana, la toma de control de emergencia, el análisis posterior a incidentes y la cadena de responsabilidad. Lo que se llama "desarmar a la IA", en la práctica industrial, significa no permitir que la capacidad técnica sobrepase los límites de la responsabilidad.
40.000 palabras, 10 puntos: el Papa solo quiere decir una cosa
Tras analizar esta encíclica de 40.000 palabras, Leikeji cree que el Papa, de principio a fin, solo quiere aclarar una cosa: la tecnología no es neutral.
En términos simples, cómo es la IA depende de quién la crea. ChatGPT, diseñado por OpenAI; Gemini, creado por Google; Doubao, desarrollado por ByteDance; cada uno tiene sus propias "preferencias de orientación". Y cuyos valores ingresan en los datos de entrenamiento, cuyos intereses determinan la dirección del producto, quién controla la capacidad de cómputo y los puntos de acceso, quién establece el llamado "marco moral", todo esto se está convirtiendo en la experiencia que sentimos cada día al interactuar con la IA.
Por ejemplo, cuando la IA entra en la contratación, la lógica de selección la define la plataforma, y el solicitante no sabe por qué criterio fue filtrado; cuando la IA entra en la educación, lo que se considera una "buena respuesta" lo decide el modelo, y el pensamiento de los estudiantes se alinea gradualmente con él; cuando la IA genera contenido, lo que se considera "confiable" lo determina la distribución algorítmica, y la desinformación circula con apariencia de verdad. Detrás de cada escenario está la misma pregunta: ¿quién está definiendo estas reglas y a quién están moldeando estas reglas?
La encíclica no nombra a ninguna empresa, pero habla de todas. Lo que el Papa quiere señalar es que cada herramienta de IA que usas no es solo una herramienta, sino el producto de un juicio de valor. A veces piensas que una IA es lo suficientemente buena, tal vez porque es lo suficientemente "obediente".
León XIV usa en el documento una palabra que casi nunca aparece en las discusiones sobre IA: "antropología". Dice que los desafíos que plantea la IA no son esencialmente desafíos tecnológicos, sino antropológicos.
La IA puede escribir, crear música, generar imágenes, simular diálogos, hacer juicios que parecen razonables. Cuando una máquina puede hacer todo esto, los humanos se ven forzados a responder una pregunta que hasta ahora podían evitar: ¿cuál es el significado de que hagamos estas cosas? Si la IA escribe artículos más fluidos, genera música más agradable y da consejos más eficientes, entonces, ¿cuál es el valor de que "una persona haga esto"?
La encíclica tiene un párrafo que dice:
La IA puede simular relaciones, pero no puede asumir la responsabilidad dentro de ellas; la IA puede simular la creación, pero no poseer la voluntad detrás de la creación; la IA puede simular juicios, pero no puede responsabilizarse de las consecuencias de esos juicios. Puede lograr la apariencia, pero carece de todo aquello que da sentido a que "una persona haga esto": la vulnerabilidad, el compromiso, el costo real.
Esto nos hace pensar en 1891, cuando la Iglesia Católica firmó la encíclica "Rerum Novarum". Llegaba la Revolución Industrial y la humanidad también pasaba por un momento igualmente difícil. Las máquinas reemplazaron mucho trabajo físico, pero no reemplazaron a las personas. Estas redefinieron su lugar y encontraron cosas que las máquinas no podían hacer. La diferencia esta vez es que la IA ingresa en el ámbito cognitivo, la creación, el juicio. Estas áreas, que antes se consideraban "exclusivas de los humanos", están siendo simuladas sistemáticamente.
(Fuente: Gráfico de Leikeji)
León XIV llama a este proceso "el eclipse del sentido humano". Si no respondemos seriamente a "qué es el ser humano", la IA lo hará por nosotros, y su respuesta vendrá de los datos de entrenamiento. Y en cuanto a quién proporcionó esos datos de entrenamiento, eso depende de quién tenga la iniciativa en los grandes modelos.
La frase de la encíclica "la tecnología nunca es neutral" es correcta, pero la pregunta que sigue es: ¿quién tiene la capacidad de convertir la expectativa de "neutralidad" en una realidad "vinculante"? León XIV no responde a esta pregunta, y tampoco puede. Lo que puede hacer es poner un lenguaje moral en el estanque del debate público, hacerlo circular, hacer que influya en quienes hacen las reglas, despliegan la tecnología y usan los productos. De hecho, eso es lo que la Iglesia siempre ha hecho.
Así que esto no es realmente absurdo. Hoy, cuando ni las empresas tecnológicas, ni los gobiernos, ni las instituciones internacionales ni la sociedad han encontrado respuestas, una institución de dos mil años ha hablado primero.
Este artículo proviene de "Leikeji"
