Si la Inteligencia Artificial General (AGI) se lograra mañana, ¿cómo sería la siguiente fase de la IA?
El equipo de Google DeepMind y sus colaboradores proponen en un informe de investigación reciente que es muy probable que la AGI no sea el punto final. En su opinión, la IA no se detendrá en un nivel cercano al humano, sino que seguirá volviéndose más poderosa, superando a los equipos de expertos humanos más destacados y avanzando finalmente hacia la Superinteligencia Artificial (ASI).
Como escribió Alan Turing en 1950: “Solo podemos ver a una corta distancia por delante, pero podemos ver que queda mucho por hacer.”
En este informe, el equipo de investigación analiza cuatro posibles rutas para la transición de la IA desde la AGI hacia la ASI, los cuellos de botella clave que podrían surgir y las cuestiones de investigación más urgentes para impulsar.
Enlace al artículo: https://arxiv.org/abs/2606.12683
El equipo de investigación señala que, dada la gran incertidumbre en predecir el progreso hacia la ASI, no se puede descartar la posibilidad de que la IA continúe acelerando su desarrollo en los próximos años. Esto podría significar que el panorama de una “única transición transformadora” que supondría la introducción de una AGI a nivel humano en la sociedad quizás no sea preciso.
Una perspectiva más ajustada podría ser que los avances y descubrimientos impulsados por la IA surgirían sucesivamente en numerosos campos de la ciencia y la tecnología, desencadenando así una serie de cambios sociales transformadores.
Para hacer frente a esta perspectiva, es necesario emprender un proyecto multidisciplinar a gran escala con una visión global y una amplia preocupación.
Después de la AGI, viene la ASI
Antes de discutir cómo la IA podría seguir fortaleciéndose, el equipo de investigación distingue tres conceptos que a menudo se confunden: AGI, ASI y UAI.
AGI (Inteligencia Artificial General): un sistema de inteligencia general que alcanza el nivel mediano humano en la mayoría de las tareas cognitivas. Corresponde a la capacidad cognitiva general de una persona promedio, no al nivel de los expertos más destacados. El equipo también señala que la primera generación de AGI podría ya superar a los humanos en algunas tareas, aunque aún no posea una generalización suficientemente amplia.
ASI (Superinteligencia Artificial): No es solo superar a los humanos en unas pocas tareas, sino superarlos globalmente en casi todas las áreas de interés humano; el punto de referencia no es un experto individual, sino un colectivo humano masivo y bien coordinado de expertos.
UAI (Inteligencia Artificial Universal): El límite teórico superior de la inteligencia de las máquinas, formalizado por el marco AIXI. AIXI corresponde a un agente de inteligencia general óptimo teóricamente. Las IA reales solo pueden acercarse gradualmente a este límite superior, no alcanzarlo directamente.
Asimismo, el equipo de investigación señala que el camino de la AGI a la ASI podría no ser único, y proponen cuatro rutas que podrían avanzar en paralelo, detalladas a continuación:
Ruta 1: Continuar expandiendo la computación, los modelos y los datos
Esta ruta continúa la lógica básica del progreso de la IA en la última década: hardware más potente, ejecuciones de entrenamiento más grandes, mayor eficiencia algorítmica, modelos más grandes y más datos. El equipo señala que la “capacidad computacional efectiva” ha crecido aproximadamente 10 veces por año en los últimos años. Siguiendo esta ruta, la mejora de la IA no solo provendría de que un modelo individual se vuelva más fuerte, sino también de la expansión colectiva de capacidades resultante de más instancias, un razonamiento más rápido y una colaboración a mayor escala.
Ruta 2: Evolución continua de los algoritmos, incluso con un nuevo cambio de paradigma
El equipo de investigación señala que contextos más largos, aprendizaje continuo, aumento por recuperación (RAG), uso de herramientas, toma de decisiones robusta en interacción con el entorno, modelos del mundo, etc., son extensiones del paradigma actual; mientras que nuevas arquitecturas, objetivos de entrenamiento o mecanismos de aprendizaje se acercan más a un verdadero cambio de paradigma. El equipo no predice cuál será el próximo cambio de paradigma, pero considera que aún podría ser una fuente importante de progreso continuo de la IA después de la AGI.
Ruta 3: Mejora recursiva automática
Una IA más poderosa puede ayudar a desarrollar la siguiente generación de IA aún más poderosa, formando un bucle de retroalimentación positiva. El equipo menciona que este mecanismo puede manifestarse en la mejora de algoritmos y código, diseño de hardware, generación y filtrado de datos, y eficiencia en la división del trabajo. Ejemplos como AlphaZero, que primero usa búsqueda para mejorar la salida y luego destila los resultados de vuelta al modelo, son casos relevantes. Lo más importante es hasta qué punto esta retroalimentación positiva puede desarrollarse en la realidad.
Ruta 4: Coordinación multi-agente e inteligencia de enjambre
Esta ruta no se centra en cuán fuerte se vuelve un modelo individual, sino en que una gran cantidad de sistemas AGI, mediante división del trabajo y colaboración, formen una inteligencia colectiva que supere el límite individual. El equipo considera que sistemas como empresas automatizadas, organizaciones de investigación y sistemas económicos virtuales son posibles formas que podría tomar esta ruta. Según esta visión, la ASI no tiene por qué ser un modelo monolítico extremadamente poderoso, sino también podría ser un colectivo de IA altamente coordinado.
El equipo también advierte que el camino hacia la ASI no es simplemente cuestión de más capacidad computacional. La expansión computacional es importante, pero pronto topará con límites de recursos, y dependerá de nuevas ideas algorítmicas, incluso de nuevos paradigmas. Más notablemente, incluso si una AGI individual solo se acerca al nivel humano, una gran cantidad de AGI, una vez que puedan dividir el trabajo de manera eficiente y colaborar, podría superar colectivamente a la humanidad.
¿Dónde están las verdaderas dificultades?
Después de discutir las cuatro rutas potenciales, el equipo de investigación también identifica seis tipos de cuellos de botella clave que podrían afectar el fortalecimiento continuo de la IA. Detallados a continuación:
1. Muro de datos
El equipo señala que los datos de alta calidad generados por humanos son limitados, y los datos de texto humano adecuados para el pre-entrenamiento a gran escala podrían acercarse a su límite máximo en esta década. Si los datos sintéticos, los datos de entornos simulados y los datos generados por la interacción de la IA con el mundo real podrán llenar esta brecha con suficiente rapidez, el equipo no saca una conclusión, sino que lo enumera como una de las principales incertidumbres.
2. Presiones económicas y de recursos naturales
Si el progreso de la IA continúa dependiendo principalmente de la expansión de escala, entonces la energía, los chips, los centros de datos, la cadena de suministro y la inversión de capital deben crecer en paralelo. El equipo considera que esta es una restricción real, pero también señala que la IA en sí misma podría aumentar la producción económica, mejorar la eficiencia algorítmica y del hardware, aliviando así estas presiones.
3. El paradigma actual de redes neuronales podría no ser suficiente
El equipo no descarta la posibilidad de que el camino actual lleve a la ASI, pero advierte que este enfoque aún puede tener limitaciones fundamentales en aprendizaje continuo, razonamiento estable, toma de decisiones interactiva, expresión de incertidumbre, así como en problemas de alucinaciones e inyección de prompts.
4. La investigación en sí misma se volverá cada vez más difícil
El equipo señala que, a medida que el campo madura, continuar avanzando a menudo requiere una mayor inversión; si la IA podrá contrarrestar esta tendencia mediante la automatización de la investigación sigue siendo una cuestión pendiente de estudio.
5. Barreras de abstracción
El equipo de investigación considera que si la IA actual aprende principalmente conceptos y sistemas simbólicos ya formados por humanos, quizás sea buena recombinando conceptos existentes, pero no necesariamente sea buena extrayendo autónomamente nuevos conceptos primitivos del mundo crudo. Por ejemplo, si un modelo de lenguaje grande moderno se entrenara solo con conocimientos de la era pre-newtoniana, es casi imposible que dedujera por sí solo la relatividad general o la mecánica cuántica a partir de ese material.
6. Regulación, gobernanza y reacción social
El equipo de investigación considera que los umbrales regulatorios, los sistemas de licencias, los requisitos de reporte de incidentes, así como las reacciones sociales provocadas por accidentes, afectarán el ritmo de expansión de las capacidades de la IA. Detrás de esto no solo hay problemas técnicos, sino también políticas, instituciones, mercados y la percepción pública del riesgo.
Limitaciones y desarrollo futuro
Finalmente, el equipo de investigación plantea una pregunta muy práctica: Si la IA ya supera a los humanos, ¿cómo deberíamos seguir evaluando sus capacidades?
Hoy en día, muchos benchmarks toman como referencia el nivel humano. Una vez que la IA se acerca o supera a los humanos más destacados en exámenes, programación, matemáticas, preguntas y respuestas y pruebas de conocimiento especializado, las métricas de evaluación existentes podrían perder su significado. Por lo tanto, en el futuro será necesario establecer nuevos sistemas de evaluación y predicción para la era posterior a la AGI, incluyendo tareas de competencia y cooperación multi-agente, pruebas generadas automáticamente, tareas de compresión universal, indicadores indirectos como la productividad económica, y mecanismos de evaluación que puedan actualizarse continuamente y no se saturen prematuramente.
Sin embargo, en cuanto al contenido, este no es un artículo experimental, sino más bien un informe técnico centrado en la era posterior a la AGI. El equipo de investigación señala que las direcciones que merecen atención en el futuro incluyen: continuar expandiendo los sistemas AGI existentes, explorar nuevos paradigmas de IA, lograr la mejora recursiva automática de los sistemas, y formar capacidades colectivas más fuertes a través de la colaboración a gran escala de múltiples agentes.
Finalmente, el equipo de investigación señala que la ASI tampoco es un “sistema mágico” omnisciente y todopoderoso; aún está sujeta a restricciones como las leyes físicas, la complejidad computacional, los datos, los recursos, el tiempo experimental y la velocidad de retroalimentación del mundo real. Por qué ruta avanzará la IA y a qué velocidad sigue siendo muy incierto en este momento. En el futuro, aún será necesario establecer mecanismos continuos de evaluación comparativa, predicción e investigación para reducir la incertidumbre en las valoraciones.
Este artículo proviene de la cuenta oficial de WeChat “学术头条” (ID:SciTouTiao), autor: 学术头条
