Hubo un tiempo en el que nuestras expectativas hacia la IA eran bastante sencillas: escribir correos, traducir artículos, conversar... En aquel entonces, la IA era como un becario novato, seguía nuestras indicaciones al pie de la letra, pero también solía decir tonterías con total seriedad.
En los últimos años, el desarrollo de la IA ha avanzado con paso arrollador.
Ya no se conforma con escribir unos párrafos para nosotros, sino que empieza a encargarse de trabajos completos: escribir código, buscar información, hacer análisis, generar propuestas, y además puede descomponer tareas, usar herramientas, planificar pasos y verificar resultados por sí misma.
Vinieron con ello muchos cambios que causan risa y lágrimas. La IA desarrollada por programadores empezó a asumir parte del trabajo que antes hacían esos mismos programadores; muchos puestos de oficinistas también descubrieron que la IA ya se había sentado en el escritorio de al lado.
La situación en el mundo académico es aún más interesante. La IA ha reducido enormemente el umbral para escribir artículos académicos. No necesita comprender los ideales académicos para organizar el formato de un artículo con una solemnidad considerable.
Así que algunos empezaron a generar artículos en masa y a enviarlos en masa. Los revisores, demasiado ocupados, empezaron a usar IA para ayudar en la revisión; los autores, al descubrirlo, empezaron a esconder en sus artículos palabras clave que solo las máquinas pueden identificar fácilmente, con la esperanza de que la IA revisora diera una valoración positiva. Todos los participantes ahorraron tiempo, pero sobre si realmente aumentó el conocimiento, aún no hay consenso.
Pero justo ahí está el problema: ¿obtenemos más conocimiento, o más cosas que se parecen al conocimiento? Cuando cada vez más trabajos pueden delegarse a la IA, ¿qué le queda realmente al ser humano?
El Libro Azul 2026 sobre el Desarrollo Inteligente en Humanidades y Ciencias Sociales publicado por la Universidad de Fudan intenta precisamente responder a estas preguntas.
Comparado con la primera edición, que se centraba principalmente en observar cómo la IA empodera a las humanidades y ciencias sociales, este segundo volumen tiene como tema central "Redescubrir el valor del pensamiento profundo". Plantea además que la relación entre la IA y las humanidades/ciencias sociales está pasando de una "potenciación unidireccional" a una "fusión bidireccional": la IA cambia cómo investigan las humanidades y ciencias sociales, mientras que estas deben participar en decidir por qué, para qué y con qué restricciones debe usarse la IA.
Como unidad de apoyo especial de este libro, el Instituto de Ciencia e Inteligencia de Shanghái también está colaborando con la Universidad de Fudan en la exploración continua de caminos para la profunda integración entre la IA y las humanidades/ciencias sociales.
Por qué cuanto más fuerte es la IA, más importante es el pensamiento profundo
Tras la popularización de las calculadoras, la gente ya no necesita hacer cálculos complejos con lápiz y papel; tras la aparición del GPS, la gente ya no necesita memorizar cada calle. Siguiendo esta lógica, cuando la IA pueda analizar datos y generar conclusiones, quizás el ser humano también pueda pensar un poco menos.
Lamentablemente, los problemas sociales no son problemas aritméticos.
El Libro Azul señala, tomando como ejemplo el acoplamiento del sistema climático-social, que lo verdaderamente difícil no es procesar más variables, sino comprender el desajuste estructural, de variables y de escala entre los sistemas naturales y los sistemas sociales. Que un modelo pueda calcular no significa que ya haya comprendido el problema.
Los tres tipos de desajuste en el acoplamiento clima-sociedad: estructural, de variables y de escala.
Un problema aritmético solo requiere juzgar si la respuesta es correcta, pero la producción de conocimiento y la toma de decisiones públicas deben seguir preguntando: ¿es fiable el proceso argumentativo?, ¿son razonables las premisas asumidas?, ¿son controlables los riesgos potenciales?, y ¿tiene el problema en sí valor para orientar el futuro?
El Libro Azul considera que el cuello de botella de la investigación se está trasladando: antes el problema era si podíamos procesar suficientes materiales; ahora el problema es si podemos plantear buenas preguntas, establecer mecanismos reales y formar cadenas de evidencia comprobables.
Qué problemas merecen ser investigados, cómo deben explicarse los patrones observados, si cierto resultado es justo y equitativo, y qué omite o qué prejuicios solidifica una investigación, son juicios que no pueden automatizarse por completo. Cuanto mayor es la capacidad de la IA, mayor es la responsabilidad del juicio humano.
La IA parece poder hacerlo todo, ¿pero lo hace bien?
La IA habla, razona y usa herramientas cada vez mejor, y se parece cada vez más a un "compañero de investigación" con el que colaborar. Pero, ¿realmente está comprendiendo, o solo está simulando la comprensión de una manera muy sofisticada?
Hace más de cuarenta años, Searle cuestionó, con su experimento mental de la "Habitación China", si una operación puramente sintáctica podía producir semántica. Hoy, los grandes modelos de lenguaje plantean esta pregunta a todos: ¿cómo juzgamos qué ha comprendido realmente el modelo grande y qué ha pasado por alto?
Una importante conclusión del Libro Azul es que la inteligencia humana no es un simple proceso de "entrada-salida". Los seres humanos podemos comprender el mundo porque la percepción y la atención organizan los estímulos externos en contextos; la memoria y los mapas cognitivos organizan las experiencias pasadas en estructuras transferibles y razonables; las emociones y los valores determinan qué información es más importante y qué objetivos merecen más la pena perseguir.
El primer paso en la colaboración humano-IA no es poner a la IA a trabajar, sino aclarar primero la división del trabajo entre humanos e IA. La IA puede ayudarnos a identificar objetos, recuperar información, generar texto, pero tiende fácilmente a reformatear complejas experiencias sociales a un formato que le sea fácil procesar, transformando problemas que realmente requieren comprensión en problemas que parecen ya resueltos. Necesitamos pasar de la identificación de objetos a la comprensión contextual, del almacenamiento de información a la organización de experiencias, de la generación al juicio de valor y a la autorreflexión.
Por eso la ciencia cognitiva se vuelve especialmente importante. Nos dice que el pensamiento profundo no es una capacidad opuesta a la IA, sino una capacidad que más necesita activarse en la colaboración humano-máquina. Una IA cognitiva realmente valiosa no debería simplemente dar una respuesta única, fluida y determinada, sino ayudar al ser humano a plantear preguntas, comparar evidencias y mantener la proactividad en el juicio.
Los artículos se escriben cada vez más rápido, ¿quién garantiza su credibilidad?
Tras la entrada de la IA en la investigación, el cambio más visible es la velocidad. La organización de bibliografía, la limpieza de datos, la generación de código, la creación de gráficos y los borradores de artículos pueden completarse en muy poco tiempo. Los investigadores no tienen la obligación de gastar su valioso tiempo en trabajo repetitivo, ni la profundidad de pensamiento de un académico debería medirse por cuántas veces ha ajustado manualmente el formato de las referencias.
Pero la velocidad de la investigación y la velocidad del conocimiento no son lo mismo. Que los artículos se generen rápidamente no significa que los conceptos se hayan aclarado, que los datos se hayan comprendido o que se haya establecido una causalidad. Los modelos de lenguaje son especialmente hábiles organizando materiales dispersos en narrativas coherentes, y el momento más peligroso en la investigación académica suele ser cuando la narrativa parece excesivamente coherente.
Los riesgos también se esconden en aquellos pasos que parecen meras "operaciones técnicas". Cómo se seleccionan las variables, cómo se construyen los indicadores, desde qué año empieza la muestra, qué casos se incluyen, todo ello implica juicios teóricos.
La máquina, por supuesto, no tiene intenciones ocultas; solo necesita cometer un pequeño error en el primer paso y mantener la confianza en los veinte pasos siguientes.
Otro riesgo proviene de la búsqueda automatizada de modelos. La IA puede probar continuamente combinaciones de variables, configuraciones de parámetros e intervalos de muestra, hasta encontrar resultados con mayor significancia estadística, mejor ajuste y gráficos más atractivos. Antes, "probar hasta obtener significancia" estaba limitado por el tiempo y la energía; ahora, los agentes inteligentes pueden buscar sin dormir. Al aumentar la eficiencia, las coincidencias estadísticas también pueden empaquetarse de manera más eficiente como descubrimientos teóricos.
El verdadero desafío que plantea la investigación automatizada no es solo si la máquina puede equivocarse, sino si el error puede detectarse a tiempo, si el proceso de investigación puede rastrearse y si la conclusión final puede volver a ser contrastada.
Cuando la IA toma decisiones, ¿quién es responsable?
La capacidad de la IA para identificar y clasificar personas está aumentando rápidamente. Puede identificar demandas, evaluar riesgos, revisar materiales, emparejar políticas y también proporcionar referencias para la toma de decisiones al personal.
El atractivo de estos sistemas es evidente: son más rápidos que los humanos, no se cansan y no cambian su ritmo de trabajo por presión o fluctuaciones emocionales.
Sin embargo, no cansarse y ser justo no son lo mismo.
Investigaciones citadas en el Libro Azul descubrieron que, al analizar publicaciones en foros de salud y entrevistas a estudiantes internacionales, los investigadores humanos podían identificar matices sutiles como la interacción médico-paciente o la responsabilidad cultural, mientras que los modelos grandes tendían a generalizarlos en categorías más comunes y estandarizadas.
El modelo no carece completamente de comprensión. Simplemente es muy hábil reformulando lo que no le es fácil comprender en algo que le sea fácil procesar.
En la gobernanza pública, esta simplificación puede afectar directamente a los derechos y el trato de las personas. El Libro Azul distingue así dos modos de integración de la IA.
Uno es el modo "delegado" (proxy). El algoritmo se convierte en actor, desde la entrada de información hasta la salida de la decisión, y el humano solo reaparece cuando hay un fallo en el sistema o una apelación del afectado. El otro es el modo "asistente". La IA se encarga de la recuperación, cálculo, alerta de riesgos y generación de opciones, pero la decisión final la toma la persona.
La diferencia entre ambos modos no está en cuánta tecnología se usa, sino en si el poder se ha transferido.
Por supuesto, que en un documento institucional se escriba "el humano en el circuito" no garantiza que la persona realmente siga ahí. Si el personal solo puede hacer clic en "confirmar" tras la conclusión del algoritmo, la supuesta verificación humana no es más que cambiar el dedo que firma la decisión de la máquina.
El rol humano debe tener derecho a intervenir, corregir y explicar, de lo contrario la verificación humana se convierte en una mera actuación de responsabilidad.
Cuando la IA empieza a afectar los derechos de las personas, el problema ya no puede quedarse en "si el modelo es preciso", sino que también debe aclararse quién lo despliega, quién lo verifica, quién lo explica, quién recibe las apelaciones y asume la responsabilidad final.
La responsabilidad puede dividirse, pero no debe evaporarse porque la división sea demasiado minuciosa.
Pensamiento profundo, más que "pensar un rato más"
"Pensamiento profundo" suena como una virtud personal: frente a un problema, no responder deprisa, pensar un poco más. Pero un pensamiento profundo realmente significativo debe integrarse en los flujos de investigación, los procedimientos de gobernanza y las estructuras organizativas. No solo exige mayor prudencia individual, sino que también requiere que el sistema preserve las condiciones que permitan a las personas ser prudentes, cuestionar y corregir.
La IA puede ayudar, pero la cadena de evidencia no puede omitirse
Pensar en profundidad no significa rechazar la IA. No es necesario, para probar la dignidad humana, insistir en organizar personalmente miles de documentos o pasar un día entero ajustando el formato de las referencias.
La clave está en que el trabajo puede delegarse a la IA, pero la cadena de evidencia no puede delegarse con él. La IA puede recuperar bibliografía, procesar datos, ejecutar código, pero el investigador aún necesita juzgar si el problema merece plantearse, si el concepto se ha convertido con precisión en indicadores, si las relaciones de datos pueden respaldar una explicación causal y a qué ámbitos se aplican las conclusiones.
El marco STRIDES presentado en el Libro Azul intenta descomponer una investigación compleja en fases como teoría, método, datos, ejecución y revisión, estableciendo controles en puntos clave: las hipótesis deben explicitarse, la evidencia debe poder localizarse, los datos y el código deben conservar un registro de versiones, y las conclusiones de alto riesgo o baja confianza deben volver a someterse al juicio humano.
Visión general del sistema STRIDES: flujo de trabajo cerrado desde el diseño de la investigación hasta la revisión adversaria.
Tras la participación de la IA en la investigación, el producto no debería ser solo el artículo final. La pregunta de investigación, el diccionario de datos, los scripts de análisis, los registros de ejecución, las opiniones de revisión y las decisiones humanas también deben conservarse, para que se vea de dónde vienen los resultados, en qué paso podría haber un error y qué modificaciones se han hecho.
La ciencia es creíble no porque las conclusiones lleguen rápido, sino porque otros pueden recorrer de nuevo la cadena de evidencia.
En una entrevista, el equipo propuso una simple autocomprobación: al apagar el modelo, ¿puedes explicar con tus propias palabras cuál es el problema, de dónde viene la evidencia, en qué hipótesis se basa la conclusión, qué contraejemplos podrían existir y cuáles son sus límites de aplicación?
Si solo puedes decir "suena muy razonable" pero no puedes explicar por qué; si el problema se va transformando gradualmente en uno que el modelo responde fácilmente; si el texto es cada vez más fluido pero tu propio punto de vista cada vez más difuso, entonces es probable que la IA ya haya pasado de ser un asistente de expresión a un proxy de juicio.
Las normas no pueden quedarse solo en los eslóganes
Sobre la gobernanza de la IA ya se han propuesto muchos principios correctos: equidad, transparencia, seguridad, centrado en las personas, protección de la privacidad, rendición de cuentas.
El problema es que si los principios no se convierten en procedimientos, es fácil que solo vivan en reuniones y documentos.
Un sistema que solo tenga principios pero no mecanismos de ejecución se parece a una persona que solo tiene ideales pero no despertador. Cada día piensa hacer lo correcto, pero nunca se despierta a la hora adecuada.
El Libro Azul enfatiza que la gobernanza de la IA debe cubrir todo el ciclo de vida del sistema: evaluar riesgos y límites de aplicación antes del despliegue; registrar decisiones clave, monitorear anomalías y preservar la intervención humana durante la operación; poder revisar, corregir y exigir responsabilidades tras los problemas.
Sistemas con diferentes niveles de riesgo tampoco deberían tener la misma gobernanza. La recuperación de información y organización de texto común puede tener umbrales más bajos; los sistemas que involucran seguridad pública, derechos importantes y decisiones clave deberían someterse a requisitos más estrictos de prueba, auditoría y despliegue.
La gobernanza tampoco puede limitarse a "haber informado". Las personas afectadas deben saber en base a qué se tomó la decisión, qué pueden cuestionar, ante quién presentar una objeción, y poder solicitar una verificación humana, obteniendo un remedio real en caso de error. De lo contrario, la obligación de información fácilmente se convierte en un documento técnico que nadie entiende, y el canal de apelación puede quedar reducido a una simple página web.
Por supuesto, gobernar no es poner freno a la tecnología. Es más como construir caminos: dónde se puede acelerar, dónde hay que limitar la velocidad, dónde se necesitan barandillas, quién es responsable tras un accidente. Un camino sin reglas no representa libertad, sino que normalmente solo significa que los más fuertes van más rápido y los demás deben tener cuidado.
La IA organiza respuestas, el ser humano debe decidir la dirección
La IA es muy buena respondiendo preguntas ya planteadas. Pero los problemas realmente difíciles de la sociedad normalmente no es que no tengan respuesta, sino que no hay una respuesta estándar que todos acepten.
Cuando hay conflicto entre eficiencia y equidad, ¿cuál debe priorizarse? Cuando la innovación tecnológica trae beneficios generales pero hace que una parte de la población asuma mayores costes, ¿qué se considera razonable? Cuando hay conflicto entre interés público y derechos individuales, ¿dónde debe trazarse el límite?
Estos problemas no desaparecerán automáticamente aumentando la escala de parámetros.
El Libro Azul resume de manera muy concreta el "empoderamiento inverso" de las humanidades/ciencias sociales hacia la IA: no es dar opiniones morales abstractas desde un lado de la tecnología, sino transformar conflictos de valor en compensaciones analizables, convertir consecuencias sociales en indicadores medibles, y proporcionar a los desarrollos tecnológicos marcos de conocimiento con mayor sentido de dirección y capacidad explicativa.
Un modelo puede decirnos las posibles consecuencias de diferentes opciones, pero no puede decidir por sí mismo qué parte de la población debe pagar el precio por la eficiencia general, ni decidir si cierto precio merece la pena.
El modelo de gran lenguaje para civilizaciones tempranas chinas discutido en el Libro Azul es un ejemplo. Textos históricos, escritura excavada, imágenes de artefactos, información de sitios arqueológicos y datos geográficos antes estaban dispersos en diferentes sistemas de documentación y experiencia de expertos; los modelos multimodales pueden organizarlos en un mismo espacio de conocimiento, haciendo que evidencias de diferentes fuentes se contrasten entre sí.
Su significado no solo está en aumentar la eficiencia de búsqueda, sino en cambiar la forma de organizar la evidencia. Pero cuantos más materiales se conecten, más necesitan los expertos juzgar: qué conexiones tienen significado histórico y cuáles son solo similitudes superficiales; qué narrativas se basan en evidencia fiable y cuáles solo están organizadas de manera más fluida por el modelo.
Esta es precisamente la razón por la que las humanidades/ciencias sociales no pueden reducirse a "señalar errores a la IA". No solo se encargan de señalar prejuicios, riesgos y lagunas, sino también de explicar conflictos de valor, analizar consecuencias institucionales, comprender la situación de personas concretas y ayudar a la sociedad a formar juicios que pueda asumir colectivamente.
La tecnología resuelve "qué se puede hacer"; las humanidades/ciencias sociales continúan preguntando "por qué hacerlo", "hasta dónde debe llegarse" y "quién asume el coste".
No basta con unos pocos equipos
Al hablar de la fusión entre IA y humanidades/ciencias sociales, se suele pensar en unos pocos laboratorios, algunos resultados destacados y un reducido número de investigadores que dominan tanto la tecnología como las ciencias sociales.
Esto es importante, por supuesto, pero no puede depender solo de ello.
Para que un campo forme capacidades a largo plazo, necesita el apoyo conjunto de datos, capacidad de cálculo, modelos, cadenas de herramientas, formación de talento, colaboración organizativa y sistemas de evaluación. El Libro Azul advierte especialmente que la infraestructura para IA en Humanidades y Ciencias Sociales (AI4SSH) no equivale a comprar más máquinas, ni a poner varios modelos en una misma página web, sino a la construcción integral de una base de datos multimodal, entorno computacional, modelos de dominio, agentes inteligentes, cadenas de herramientas y mecanismos de colaboración.
Comprar capacidad de cálculo es relativamente fácil; establecer reglas comunes para los datos es difícil. Publicar un modelo es relativamente fácil; lograr que diferentes disciplinas comprendan realmente los problemas de las otras es difícil. El verdadero desafío es consolidar proyectos dispersos en capacidades organizativas que puedan funcionar de forma sostenible.
Lo más importante es que disciplinas emergentes como la ciencia cognitiva también necesitan planificarse conjuntamente. La ciencia cognitiva conecta filosofía, psicología, neurociencia, ciencias de la computación, lingüística y ciencias sociales; nos ayuda tanto a comprender la inteligencia humana como a reflexionar y calibrar la inteligencia de las máquinas. Para las universidades, la construcción de este tipo de disciplinas básicas quizás no se corresponda de inmediato con una aplicación demostrable, pero determina si la futura colaboración humano-IA podrá pasar del uso de herramientas a la innovación de paradigmas.
El Libro Azul construye así el "Índice AI4SSH para Universidades Chinas", desarrollándose en tres dimensiones: capacidad investigadora central, potencial de innovación para el desarrollo y capacidad de difusión social, incluyendo 3 indicadores de primer nivel, 7 de segundo nivel y 10 de tercer nivel.
Proporciona una ventana de observación estructurada: qué universidades ya han formado un sistema estable de investigación interdisciplinar y cuáles siguen en proyectos dispersos; cuáles tienen producción investigadora pero carecen de soporte institucional; cuáles tienen resultados académicos pero aún no los han convertido en influencia pública y servicio social.
La evaluación general del Libro Azul es que el desarrollo de AI4SSH en las universidades chinas ya presenta un patrón de "sistema inicialmente constituido, con distintos escalones". La producción investigadora y la integración local progresan con rapidez, pero la influencia académica internacional, la innovación en la fuente, el soporte institucional y la conversión en servicio social siguen siendo puntos débiles.
Por lo tanto, medir el desarrollo de AI4SSH no puede basarse solo en la cantidad de modelos, artículos y proyectos, sino también en si los datos, herramientas, normas, talento y mecanismos de colaboración pueden funcionar a largo plazo. La tecnología puede actualizarse rápidamente, pero las instituciones y organizaciones solo pueden aprender lentamente; lo que realmente determina hasta dónde puede llegar la IA con las humanidades/ciencias sociales son precisamente estas partes que no son tan fáciles de convertir en un vídeo de demostración.
Conclusión: Cuanto mejor responda la IA, más debe saber el ser humano qué preguntar
En el prólogo del Libro Azul, Qiu Xin, Secretario del Comité del Partido de la Universidad de Fudan, desea a los lectores que en la era inteligente "siempre protejan el pensamiento, lo agudicen, conserven la calma y determinación para reflexionar de forma independiente, juzgar racionalmente, cuestionar valores y discernir elecciones, guiando los cambios de la inteligencia con la profundidad del pensamiento".
Esta es también la actitud que este Libro Azul espera transmitir. No es solo una observación sobre una ronda de cambios tecnológicos, sino también una reflexión colectiva de las humanidades de Fudan frente a la era inteligente.
Lo verdaderamente importante es, antes de la generación automática, juzgar primero qué problemas merecen plantearse; después de que el modelo dé una conclusión, seguir preguntando si la evidencia es fiable; antes de que la tecnología entre en la sociedad, clarificar sus límites y responsabilidades; y entre muchos futuros posibles, preservar el juicio de valor y la elección de dirección del ser humano.
No necesitamos seguir demostrando en qué tareas somos más rápidos que la máquina, sino reafirmar los juicios y responsabilidades intransferibles del ser humano en la producción de conocimiento y el funcionamiento social.
La máquina puede ayudarnos a llegar a muchos lugares. En cuanto a por qué partir, adónde debemos ir y qué vida queremos vivir al llegar, probablemente estas cosas aún no podamos encargárselas por completo.
El Libro Azul se publicará oficialmente el 17 de julio en el foro "Gobernanza Global de la IA y Desarrollo Sostenible" de WAIC 2026. Para descargar el texto completo, esté atento a la información oficial del Laboratorio Integral Nacional de Desarrollo y Gobernanza Inteligente de la Universidad de Fudan.
Este artículo proviene del cuenta oficial de WeChat "Machine Heart" (ID:almosthuman2014), autor: Concerned AI.
