¿Quién hubiera pensado que la filosofía, una especialidad tan poco común, se convertiría en una corriente principal de la IA actualmente?
Este fue un descubrimiento sorprendente durante nuestra visita a la WAIC este año: el contenido filosófico era bastante alto.
△
Por ejemplo, en el foro paralelo "Mente e Inteligencia: Foro Juvenil sobre el Ecosistema" dentro del Foro Abierto de Ciencia e Inteligencia de la WAIC, el primer ponente fue Sun Ning, profesor de la Facultad de Filosofía de la Universidad de Fudan; en la discusión principal del Foro Abierto de Ciencia e Inteligencia, "Innovación Primitiva en la Era Nativa de la IA", Sun Xiangchen, también profesor de la Facultad de Filosofía de la Universidad de Fudan, se sentó en la mesa de diálogo cumbre.
Casualmente, durante la WAIC, el Libro Azul de Desarrollo Inteligente de las Ciencias Humanas y Sociales 2026, publicado por el Laboratorio Integral de Desarrollo Nacional y Gobernanza Inteligente de la Universidad de Fudan, puso nuevamente en el centro de atención la reflexión profunda, la credibilidad de la investigación y la gobernanza de la IA.
Pero, dicho esto, esta aparente repentina popularidad de la filosofía tiene un rastro que se puede seguir.
Hace unos años, en las conferencias de IA, lo que más se discutía eran los parámetros, la potencia de cálculo y las clasificaciones; hoy en día, la IA ya puede escribir artículos, realizar demostraciones matemáticas, generar conformaciones de proteínas e incluso usar un grupo de agentes inteligentes para simular la sociedad.
Aunque las capacidades de la IA han ido en un rápido ascenso, los problemas que surgen son cada vez más cercanos a la filosofía:
- ¿El hecho de que un modelo pueda responder preguntas con fluidez significa que realmente entiende?
- Si la IA puede descubrir conocimiento de forma autónoma, ¿cuenta como un nuevo científico?
- Si la IA descubre leyes que los humanos no pueden explicar pero que pueden ser verificadas experimentalmente, ¿deberíamos creerlas?
En su charla titulada "Antes de la inteligencia, hay un mundo", Sun Ning llevó el problema de vuelta a su origen.
Ya en la década de 1990, el científico cognitivo Stevan Harnad planteó el problema de la base de los símbolos, preguntándose cómo los sistemas simbólicos adquieren significado real a través de la percepción y la interacción. Aproximadamente en la misma época, el ingeniero de robótica Rodney Brooks propuso la hipótesis de la base física y dejó una frase bastante influyente: el mundo en sí mismo es el mejor modelo.
△
Siguiendo esta línea de pensamiento, Sun Ning propuso que una inteligencia profundamente arraigada en el mundo requiere al menos cuerpo, entorno, otros e historia. El cuerpo hace que las acciones tengan un coste, el entorno proporciona retroalimentación, los otros aportan normas y la historia permite que el fracaso se sedimente en experiencia.
Finalmente lo resumió en dos frases:
Antes de la inteligencia, hay un mundo. Antes de la mente, hay relaciones.
Esto también estableció el tono de la discusión de ese día.
Este foro juvenil fue organizado conjuntamente por el Laboratorio Integral de Desarrollo Nacional y Gobernanza Inteligente de la Universidad de Fudan, el Instituto de Ciencia e Inteligencia de Shanghái, la Facultad de Filosofía de la Universidad de Fudan, el Instituto de Tecnología Futura Fudan Qingpu de Shanghái y Datawhale.
En el escenario había tanto jóvenes científicos como filósofos, científicos sociales y emprendedores. Se habló desde modelos de autoevolución hasta demostraciones matemáticas, desde dinámica de proteínas hasta simulación social, y finalmente el tema recayó en la gobernanza y la industria.
Así se conectaron problemas aparentemente dispersos en diferentes disciplinas.
La IA empieza a hacer ciencia por sí misma
Nada más que los filósofos cuestionaron "¿qué es la inteligencia?", Chen Yongchao, fundador de Beyond Evolution AI, planteó un problema más concreto: ¿Puede la IA convertirse en un nuevo científico?
△
Los modelos de lenguaje grandes anteriores aprendían principalmente del conocimiento humano existente a partir de datos de Internet. Los modelos de autoevolución mencionados por Chen Yongchao esperan entrar en tareas reales y seguir aprendiendo a partir de los procesos de investigación y la retroalimentación del entorno.
Concretamente, el modelo puede idear ideas por sí mismo, escribir código, ejecutar experimentos, analizar datos y luego sedimentar las trayectorias de éxito y fracaso para seguir ajustando datos, modelos y arneses.
Chen Yongchao también mostró en vivo un conjunto de resultados bastante llamativos.
Apex Search, desarrollado por su equipo, generó 34 artículos académicos y los envió a sistemas de revisión académica como ACL y ARR. Según los resultados que divulgó en el escenario, alrededor de 10 de ellos tenían posibilidades de entrar en "Findings" o en la conferencia principal, y dos artículos obtuvieron una puntuación de 3.67, superior a aproximadamente el 95% de los envíos humanos.
Algunas revisiones incluso dieron evaluaciones como "primera investigación en el campo", "experimentos rigurosos", "la proposición aborda el punto clave", etc.
En otras palabras, los resultados científicos generados por la IA ya pueden pasar la primera ronda de revisión de los evaluadores humanos.
Pero el problema también surge a continuación.
En la mesa redonda posterior "El Cambio Social", Wei Zhongyu, profesor de la Facultad de Ciencias de Datos de la Universidad de Fudan, planteó que si la IA genera y envía docenas de artículos de una vez y finalmente algunos obtienen puntuaciones altas, ¿cómo debemos juzgar su capacidad de investigación? ¿Significa que la capacidad de investigación del sistema ha alcanzado el nivel de publicación en las principales conferencias, o que simplemente encontró por casualidad los puntos débiles del mecanismo actual de revisión por pares?
Cuando los artículos se generan cada vez más rápido, la evaluación puede volverse más difícil que la generación.
El propio Chen Yongchao también dejó una serie de preguntas. ¿Puede la IA producir avances al nivel de Transformer? ¿Cómo evaluar el gran volumen de descubrimientos científicos? ¿A quién pertenecen los resultados de investigación de la IA? Si el sistema se utiliza para investigación dañina, ¿cómo se debe asignar la responsabilidad?
Wang Tiandong, profesor adjunto en el Centro de Matemáticas de Shanghái de la Universidad de Fudan, que subió al escenario a continuación, ofreció una división del trabajo entre humanos y máquinas más clara.
△
La IA es buena en recuperación, inducción, búsqueda de casos especiales y contraejemplos, y también puede generar docenas de rutas de demostración candidatas simultáneamente. Los matemáticos se encargan de juzgar si el problema es importante, si la conjetura merece ser investigada, y luego aplican restricciones estrictas de conceptos y estructuras a los resultados. Finalmente, también hay que añadir verificación por máquina para comprobar si hay saltos en el razonamiento o errores en el cálculo.
En resumen:
La IA amplía el espacio de búsqueda, el humano define el valor, y la máquina se encarga de la verificación.
En este proceso, las matemáticas pueden proporcionar a la IA restricciones estructurales, verificación formal, análisis de errores y límites de aplicabilidad. La confiabilidad tampoco significa no cometer errores nunca; un estándar más realista es que los errores puedan ser detectados, los riesgos puedan ser delimitados y las conclusiones resistan la revisión.
Posteriormente, Yang Zixiong, científico de IA del Instituto de Ciencia e Inteligencia de Shanghái, llevó el problema de la confiabilidad al mundo más complejo de la vida.
△
El problema central que resolvió AlphaFold fue inferir estructuras estáticas de alta probabilidad a partir de secuencias. Pero las biomoléculas como proteínas y ARN están siempre en movimiento, y muchas funciones dependen de la distribución de conformaciones, la transición de estados y las escalas de tiempo.
Por lo tanto, el objetivo de investigación en la era posterior a AlphaFold ha comenzado a pasar de "predecir una estructura" a "generar una dinámica".
Esto significa que los modelos deben cubrir tanto conformaciones raras pero importantes como mantener la estabilidad estructural durante largos períodos de generación, además de satisfacer las leyes termodinámicas, dinámicas y físicas. Se han acumulado muchos datos de estructuras estáticas, pero los datos de moléculas dinámicas son muy limitados, y el sistema de evaluación correspondiente también está pendiente de mejora.
Desde la demostración matemática hasta la dinámica de proteínas, la IA ciertamente puede hacer la exploración más rápida y amplia. Pero una vez que se entra en el descubrimiento científico efectivo, la evidencia, la experimentación y la retroalimentación del mundo real son indispensables.
Si se puede decir que las matemáticas y las ciencias de la vida tienen caminos de verificación relativamente claros, cuando la IA comienza a simular humanos y sociedad, las cosas se vuelven más complejas.
Cuando la inteligencia entra en la sociedad, la gobernanza no puede ir a la zaga
Qu Jingjing, joven científica del Laboratorio de Inteligencia Artificial de Shanghái, investiga precisamente la intersección entre IA y ciencias sociales.
△
En su opinión, las ciencias sociales son una base central para el desarrollo de la IA. La investigación de Alan Turing sobre "¿Puede pensar una máquina?" se publicó en la revista de filosofía Mind; Herbert A. Simon propuso la teoría de la racionalidad limitada, y junto con Allen Newell fundó la hipótesis del sistema de símbolos físicos, iniciando la IA simbólica; Geoffrey Hinton combinó psicología y ciencia cognitiva para desarrollar redes neuronales y simular mecanismos cerebrales, lo que condujo a la era actual de los modelos grandes.
Y ahora, esta relación ha comenzado a funcionar a la inversa, la IA también está aportando nuevos métodos experimentales a las ciencias sociales. Sin embargo, cuando la AGI avanza hacia el desarrollo socializado y a gran escala, siempre existe un problema central: en los juegos evolutivos sociales a gran escala y complejos, es difícil conciliar la consistencia lógica con la confiabilidad de los resultados experimentales.
Qu Jingjing mostró la plataforma de simulación social Epitome. En términos de eficiencia de alto rendimiento, la plataforma puede generar con un clic miles de muestras virtuales, comprimiendo un proceso de evolución social de diez años en 14 horas. Los investigadores pueden ajustar libremente variables como políticas de intervención, relaciones grupales, etc., para observar rápidamente su impacto social a largo plazo.
Este tipo de método es especialmente adecuado para experimentos que son difíciles de realizar directamente en el mundo real.
Por ejemplo, ¿cómo simular el crecimiento de un niño desde el tercer grado de primaria hasta el quinto? El modelo debe reflejar cambios en el conocimiento y también simular psicología, comportamiento y relaciones sociales. Los investigadores también desean probar diferentes políticas educativas en este entorno virtual, observando qué método es más beneficioso para el desarrollo infantil.
Aunque la idea es atractiva, el riesgo también está presente.
Después de todo, un modelo grande puede simular a un experto, pero no necesariamente puede simular con precisión a un niño en una familia, región y relaciones sociales específicas. ¿Las actitudes que muestra el personaje virtual provienen de leyes sociales reales o de estereotipos en los datos de entrenamiento?
En la mesa redonda "El Cambio Social", Jiang Zhuoren, investigadora del programa "Cien Talentos" y tutora doctoral de la Escuela de Administración Pública de la Universidad de Zhejiang, compartió un conjunto de datos con un significado más precautorio.
En un estudio multinacional sobre confianza, los datos generados por modelos grandes alcanzaron un coeficiente de correlación superior al 90% a nivel de media nacional. Pero al entrar en el análisis de regresión, la cobertura de significación disminuyó al 34%-37%; cuando los investigadores intentaron usar estos datos para recuperar los tipos de país, los resultados se acercaron al azar.
Es decir, el modelo parece muy similar a la sociedad real a nivel macro, pero una vez que se entra en poblaciones específicas y relaciones causales, el sesgo queda expuesto.
Lo más problemático es que los datos sociales también pueden formar un ciclo.
Los prejuicios de la realidad entran en los datos de entrenamiento, el modelo participa en la contratación, la educación, la distribución de contenidos y la toma de decisiones públicas, y los nuevos resultados se convierten en material de entrenamiento para la siguiente ronda. Si falta auditoría y corrección de sesgos, los prejuicios originales pueden amplificarse continuamente en el ciclo.
Por lo tanto, en la mesa redonda apareció un recordatorio muy directo:
Se puede usar modelos grandes para simular la sociedad, pero no se debe tomar el resultado de la simulación como la voz de la sociedad real.
Una vez que la IA entra en la sociedad, la gobernanza tampoco puede quedarse en el nivel de "si el modelo es preciso o no".
La mesa redonda "La Pregunta de la Mente" habló sobre riesgos como ataques, investigación de organismos nocivos, dependencia psicológica, etc. Zhu Linfan</strong, investigadora joven asociada del Instituto de Ética Tecnológica y Futuro Humano de la Universidad de Fudan, también mencionó que la gobernanza actual de la IA enfrenta comúnmente la dificultad de "morir por regulación excesiva o caos por falta de regulación", y se necesita tecnología, políticas, ética y cooperación internacional para encontrar soluciones más detalladas.
Ma Lipeng, investigador joven del Instituto de Tecnología Futura Fudan Qingpu de Shanghái, que participó en la misma sesión, añadió una capa desde la perspectiva técnica. La IA actual casi puede responder cualquier cosa, pero carece de la capacidad metacognitiva de "saber que no sabe". Solo cuando la IA primero reconozca sus propias capacidades y límites, la evaluación y gobernanza posteriores tendrán más puntos de apoyo. Para ello, también se necesita la participación conjunta de diferentes disciplinas como filosofía, pedagogía e informática.
El problema de la responsabilidad también es cada vez más complicado.
Cuando los agentes de IA tienen una mayor capacidad de iniciativa, ¿pueden convertirse en actores en el sentido legal o moral? Si no pueden asumir responsabilidad de forma independiente, ¿cómo se debe dividir la responsabilidad entre desarrolladores, implementadores, usuarios y los que toman las decisiones finales?
Al llegar a este punto, no es difícil entender por qué el Laboratorio Integral de Desarrollo Nacional y Gobernanza Inteligente de la Universidad de Fudan apareció en la lista de organizadores de este foro de ciencia inteligente.
El alcance de la investigación de este laboratorio abarca inteligencia artificial, macrodatos, ciencias humanas y sociales, gobernanza pública, etc., y es uno de los primeros laboratorios clave de filosofía y ciencias sociales del Ministerio de Educación. Una de sus tareas importantes es observar los cambios tecnológicos en el entorno de la sociedad y las instituciones reales, y luego promover la conexión entre la investigación académica y las necesidades políticas.
El Libro Azul de Desarrollo Inteligente de las Ciencias Humanas y Sociales 2026, compilado bajo su liderazgo del ecosistema de IA + Nuevas Humanidades de la Universidad de Fudan, en colaboración con el Instituto de Ciencia e Inteligencia de Shanghái, reuniendo a más de 40 expertos de casi 20 disciplinas, intenta transformar muchos principios de gobernanza aparentemente abstractos en flujos de investigación y procedimientos institucionales ejecutables.
Por ejemplo, cuando la IA entra en la investigación científica, lo que queda no debe ser solo un artículo con lenguaje fluido. La pregunta de investigación, el diccionario de datos, los scripts de análisis, los registros de ejecución, las opiniones de revisión y las decisiones humanas también deben conservarse, para que otros puedan seguir la cadena de evidencia nuevamente.
El marco STRIDES propuesto por el Libro Azul establece puntos de control en eslabones como teoría, método, datos, ejecución y revisión. Qué supuestos deben escribirse, qué evidencia debe localizarse, qué conclusiones de baja confianza deben reenviarse para juicio humano, todo ello se incorpora al proceso.
En el campo de la gobernanza pública, el problema es más directo.
El Libro Azul distingue entre dos modos de integración de la IA: el modo proxy y el modo asistente. En el primer modo, el algoritmo participa hasta la decisión de salida, y los humanos suelen aparecer solo cuando hay fallas en el sistema o apelaciones; en el segundo modo, la IA asume la recuperación, el cálculo, las advertencias de riesgo y la generación de soluciones, pero la decisión final la toma el humano.
Y el llamado "humano en el bucle" no puede reducirse a solo un botón de confirmación. Los humanos necesitan tener derecho a intervenir, corregir y explicar.
Desde esta perspectiva, la gobernanza es más como construir un camino para la tecnología. En qué escenarios se puede acelerar, qué lugares necesitan barreras de protección, y quién revisa, quién explica y quién asume la responsabilidad cuando surgen problemas, todo debe escribirse previamente en las reglas.
Además, la versión 2026 del Libro Azul también construyó el "Índice de IA4SSH de las Universidades Chinas", observando el grado de integración de la IA y las ciencias humanas y sociales en las universidades desde dimensiones como la capacidad central de investigación, el potencial de innovación en el desarrollo y la capacidad de difusión social.
El juicio que transmite es muy claro. Para que un campo forme una capacidad a largo plazo, no basta con unos pocos artículos y algunos modelos; también deben seguirse los datos, la potencia de cálculo, las cadenas de herramientas, la formación de talentos, la colaboración organizativa y los sistemas de evaluación.
Este es precisamente el significado de conectar lo académico con la política en el Laboratorio Integral de Desarrollo Nacional y Gobernanza Inteligente. La tecnología ofrece nuevas posibilidades, las ciencias sociales explican el impacto, la economía estudia los incentivos y la distribución, y los estudios de gobernanza transforman estos conocimientos en procedimientos e instituciones.
En Shanghái, lo académico, la política y la industria se han conectado en una línea
El problema de la gobernanza, al seguir avanzando, finalmente también se encuentra con la industria.
Luo Xiaozhou, investigador del Instituto de Tecnología Avanzada de Shenzhen de la Academia de Ciencias de China y fundador de Synthesys Bio, contó en el escenario una diferencia muy gráfica.
△
Cuando la IA escribe código o hace matemáticas, muchos procesos pueden completar el ciclo dentro de la computadora. Pero la biofabricación aún tiene que cruzar la brecha entre el mundo digital y el físico.
Después de que el modelo plantea una hipótesis científica, el equipo experimental tiene que materializarla realmente y luego retroalimentar los resultados de la prueba al modelo. Si hay un eslabón que no está conectado, la autoevolución se detendrá.
El equipo de Luo Xiaozhou, basándose en la importante instalación científica de biología sintética de Shenzhen, con una inversión de más de 2 mil millones de yuanes, utiliza equipos automatizados como "cuerpo y manos", y deja que la IA se encargue del diseño experimental y la toma de decisiones. Esperan que, tras introducir un requerimiento, el sistema pueda diseñar experimentos automáticamente, escribir scripts, ejecutar operaciones, recopilar datos y luego pasar a la siguiente ronda de optimización.
La tecnología relacionada ya se ha utilizado en el desarrollo y producción de productos como escualeno y escualano. Entre ellos, el producto de escualeno entró en la cadena de suministro de Merck, y el escualano también entró en la cadena de suministro de cosméticos.
Pero la integración profunda entre la investigación y la industria, el modelo es solo un eslabón.
La mesa redonda "El Camino hacia la Aplicación" fue bastante franca. La IA puede acelerar el diseño de anticuerpos, la optimización de proteínas y la modificación de cepas, pero luego vienen los experimentos húmedos, los ensayos clínicos, las aprobaciones regulatorias, el proceso, la producción y el mercado.
Zhang Yan, cofundador y vicepresidente senior de MegaRobo Technologies, resumió la dificultad en la "última milla" de la implementación de la IA en el mundo físico. En su opinión, la automatización de laboratorios y la tecnología robótica ya son relativamente maduras, lo más difícil es conectar realmente la IA, los sistemas de software, los instrumentos y equipos con las necesidades específicas de las disciplinas. Para ello, MegaRobo Technologies intenta controlar los instrumentos y robots del laboratorio como periféricos de computadora, y luego conectar el modelo, los experimentos automatizados y la retroalimentación de datos en un ciclo cerrado.
Si el eslabón aguas arriba acorta el tiempo de investigación y desarrollo, es probable que el cuello de botella se traslade inmediatamente al siguiente eslabón. Si los sistemas regulatorios, la inercia de la industria y los procesos organizativos no cambian simultáneamente, la aceleración que aporta la tecnología tampoco puede transmitirse fácilmente a lo largo de la cadena de valor.
Por supuesto, también es inevitable el problema del dinero.
Cuando las partes de datos, las partes del modelo, la plataforma de experimentación automatizada y los clientes industriales crean conjuntamente un resultado, ¿cómo se debe facturar y cómo se deben distribuir los beneficios? Zhang Yan también fue muy directo: la nueva productividad cambiará las relaciones de producción, además de "cómo conseguir dinero", también hay que pensar claramente en "cómo repartir el dinero" entre las partes de la cadena.
Suena muy terrenal, pero apunta a los cambios profundos una vez que la IA entra en la industria.
En el pasado, las partes cobraban según las fases de trabajo; ahora, la IA impulsa a la industria a pasar de la entrega por procesos a la entrega por resultados, y los participantes comienzan a asumir conjuntamente la responsabilidad por el resultado final.
Las nuevas fuerzas productivas también están generando nuevas relaciones de producción.
Esto también pertenece al ámbito de la gobernanza de la IA. Además de la seguridad, la ética y los derechos, también es necesario investigar cómo se distribuyen los beneficios tecnológicos, cómo se ajustan las reglas de la industria y cómo se adaptan las regulaciones tradicionales a la nueva velocidad de la investigación científica.
Mirando hacia atrás, la composición de los invitados de este foro juvenil es realmente interesante.
Algunos investigan modelos de autoevolución, otros establecen límites confiables para la IA, otros exploran la dinámica de proteínas y la simulación social, y también hay editores de revistas que, desde el sistema de evaluación académica, cuestionan qué problemas reales resuelve la investigación de IA; otros pasan del laboratorio al emprendimiento, llevando los resultados de la investigación científica a la experimentación automatizada y la producción industrial.
Vienen de diferentes especialidades e instituciones, y se reunieron en Shanghái.
Esa misma tarde, el foro principal del Foro Abierto de Ciencia e Inteligencia se desarrolló a lo largo de "El Camino del Descubrimiento, la Base del Ciclo Cerrado, la Ruta hacia la Implementación", con invitados como Arieh Warshel, premio Nobel de Química, y Gilles Brassard, premio Turing, discutiendo sobre ciencia inteligente e innovación primitiva.
El foro juvenil, por su parte, dirigió el enfoque hacia la confiabilidad de la investigación, la gobernanza social y la cadena industrial.
Por un lado, se discute hasta dónde puede llegar la ciencia inteligente, y por otro, se sigue cuestionando cómo puede entrar de manera estable en la realidad.
Detrás de esto, está el ecosistema de ciencia inteligente juvenil que se está formando en Shanghái.
Shanghái proporciona universidades, instituciones de investigación, recursos industriales y plataformas de investigación política, y los jóvenes aquí cruzan las fronteras disciplinarias, colocando modelos, sociedad e industria en el mismo conjunto de problemas.
Por lo tanto, que la filosofía vuelva a estar de moda en el mundo de la IA es solo la parte visible de este cambio.
En lo profundo, la IA ya ha entrado en la producción de conocimiento y el funcionamiento social, y los problemas tecnológicos también se han entrelazado con la gobernanza, la economía, la ética y las políticas públicas.
Cuanto mejor responde la IA, más seriamente deben decidir los humanos qué preguntar, en qué creer y hacia dónde llevar la tecnología.
Este artículo proviene del WeChat público "QbitAI" (ID: QbitAI), autor: Jin Lei
