Los modelos masivos superan todos los exámenes, pero se alejan cada vez más del AGI: ¿qué desnuda este artículo?
"Gran Modelos Linguísticos (LLMs) han superado numerosos exámenes de referencia, pero ¿significa esto que nos acercamos a la Inteligencia Artificial General (AGI)? Un artículo reciente argumenta que en realidad nos estamos alejando, ya que carecemos de una definición clara y medible de la AGI. Frente a un vacío conceptual donde visionarios como Musk o Huang ofrecen predicciones dispares, investigadores como Bennett proponen un nuevo estándar: la AGI debe evaluarse como un 'científico artificial'.
Este criterio exige tres capacidades fundamentales más allá de la mera imitación: 1) **Experimentación activa**: capacidad de interactuar autónomamente con entornos nuevos para obtener información, no solo procesar datos pasivamente. 2) **Comprensión causal**: pasar de identificar correlaciones en los datos a entender relaciones de causa-efecto, esencial para una verdadera adaptación. 3) **Balance entre exploración y explotación**: gestionar recursos limitados para buscar nuevos conocimientos mientras aplica los existentes.
El artículo critica que el camino actual dominante, el 'Scale-maxing' (maximización de escala mediante datos, parámetros y potencia de cálculo), solo produce respuestas aproximadas memorizadas en los pesos del modelo, fallando en tareas fuera de su distribución de entrenamiento (por ejemplo, errores básicos en comparación de números). La verdadera AGI, según Bennett, requerirá una convergencia de múltiples enfoques metodológicos, no solo la ampliación de modelos.
En definitiva, el futuro de la AGI no debe medirse por su habilidad para aprobar exámenes humanos, sino por su capacidad para descubrir nuevo conocimiento de forma autónoma, adaptativa y bajo restricciones prácticas, como lo haría un científico."
marsbit05/28 00:27
