Recién, el ganador del Premio Nobel y líder de DeepMind, Demis Hassabis, declaró con firmeza:
La Inteligencia Artificial General (AGI) está a punto de lograrse.
Hassabis afirmó audazmente:
El desarrollo de medicamentos ya no requerirá décadas de prueba y error, las nuevas energías limpias podrían tener avances en pocos años, y los materiales avanzados convertirán la "escasez de recursos" en un término histórico.
Incluso podríamos llegar a un punto donde los recursos ya no sean un factor limitante para el progreso humano.
Una nueva era asombrosa de abundancia está llamando a la puerta.
Dijo directamente: Este es un momento crucial en la historia de la humanidad. ¡La AGI podría lograrse en tan solo unos años!
Hassabis presentó una ecuación escalofriante: La escala del impacto de la AGI será 10 veces mayor que la Revolución Industrial, y su velocidad también será 10 veces mayor.
Esto es un "ataque dimensional". Significa que la humanidad está a punto de enfrentar una era de agitación 100 veces más rápida.
Bajo una predicción tan radical, Hassabis propuso su plan más controvertido: establecer una organización similar a la Autoridad Reguladora de la Industria Financiera (FINRA) que requiera que todos los "laboratorios de vanguardia" pasen por un "período de preevaluación" de 30 días antes de lanzar sus modelos.
Incluso en casos extremos, esta agencia tendría la autoridad para coordinar a los laboratorios globales para reducir colectivamente la velocidad de desarrollo.
Pero Hassabis no se detuvo allí.
Amplió aún más la perspectiva, abordando la confusión más profunda de la humanidad: "Incluso si resolvemos estos difíciles problemas técnicos, aún habrá problemas económicos y filosóficos más complejos por resolver."
En una era pos-escasez, ¿qué nuevos modelos económicos se necesitarán para ayudar a todos a prosperar juntos? ¿Qué valores queremos mantener? ¿Cuál será el significado y el propósito? Incluso, ¿cómo cambiará la condición humana misma?
A continuación, está la traducción del artículo de Hassabis: "Un Marco para la IA de Vanguardia y el Amanecer de una Nueva Era".
Un Marco para la IA de Vanguardia y el Amanecer de una Nueva Era
Este es un momento clave en la historia de la humanidad.
La Inteligencia Artificial General (AGI) —un sistema con todas las capacidades cognitivas del cerebro humano— podría estar a tan solo unos años de distancia. Cuando miremos atrás en unas décadas, creo que nos daremos cuenta: estábamos al pie de la singularidad, y no es exagerado decir que es el amanecer de una nueva era para la humanidad.
Toda mi vida he estudiado la AGI porque siempre he creído profundamente que, si se construye y despliega de manera responsable, resultará ser una de las tecnologías más beneficiosas y transformadoras jamás creadas por la humanidad. La AGI no se puede comparar con avances tecnológicos generales, ni siquiera con tecnologías de gran impacto como internet o la telefonía móvil —es más bien como el momento en que la humanidad descubrió la electricidad o aprendió a usar el fuego.
Piensa en esto: esencialmente, hemos encontrado una forma de hacer pensar a la arena. Es un milagro.
El impacto de esta tecnología será sin precedentes —quizás en un orden de magnitud 10 veces mayor que la Revolución Industrial, y se desarrollará a una velocidad 10 veces mayor. Nos ayudará a resolver algunos de los mayores desafíos que enfrenta la sociedad: desde acelerar el desarrollo de nuevos medicamentos, hasta crear nuevas energías limpias y materiales avanzados completamente nuevos.
Incluso podríamos llegar a un punto donde los recursos ya no sean un factor limitante para el progreso humano, dando inicio a una nueva era asombrosa de abundancia.
Los Desafíos de la Vanguardia
La IA ya está generando beneficios tangibles en el mundo real, pero para cumplir su enorme promesa, debemos navegar este período crucial de desarrollo con reflexión y precaución. A medida que nos acercamos a la AGI, debemos tomar medidas urgentes para abordar los riesgos que podrían surgir.
Ya hemos visto los desafíos que los modelos de vanguardia plantean para la ciberseguridad; y a medida que las capacidades continúen mejorando, otras amenazas, incluidos los riesgos nucleares y biológicos, podrían manifestarse pronto. Mirando más hacia el futuro, también necesitaremos salvaguardas sólidas para mantener el control sobre sistemas cada vez más agentificados y capaces de autorrealizarse de manera recursiva —y para manejar problemas desconocidos que solo se aclararán con el tiempo.
Siempre he creído que el ingenio y la creatividad humana pueden resolver cualquier problema. Confío en que abordar los riesgos técnicos relacionados con la IA es un desafío que podemos superar juntos. Pero la condición es que nos demos el tiempo y el espacio para dar el siguiente paso crucial correctamente. Y actualmente, ni como campo ni como sociedad en general, lo estamos logrando.
En este momento, estamos inmersos en una competencia excepcionalmente intensa y multifacética, tanto comercial como geopolítica. Esta dinámica competitiva ciertamente impulsa un progreso rápido y acelera la materialización de beneficios asombrosos, pero el ritmo de avance en la vanguardia ha superado nuestra comprensión de la tecnología en sí.
Nadie en el mundo puede estar seguro de lo que sucederá a continuación, incluso los expertos tienen opiniones divergentes. Cuando la incertidumbre es tan grande y las apuestas tan altas, avanzar con "optimismo prudente" es la estrategia sabia y correcta. Esto requiere que las políticas públicas: fomenten la innovación mientras incentivan la responsabilidad y la seguridad; promuevan la colaboración internacional en temas de seguridad clave; y alienten una consideración cuidadosa sobre cómo se debe desplegar la IA para beneficiar a la sociedad.
"Organismo de Normas para IA de Vanguardia": Un Marco
El rápido avance actual de la IA exige que probemos las capacidades de los modelos de IA de vanguardia de una manera nueva —que sea dinámica, flexible y rigurosa.
Estados Unidos está en una posición ideal para dar el primer paso, estableciendo primero un marco de este tipo: crear un nuevo "Organismo de Normas" (Standards Body), siguiendo el modelo de una colaboración público-privada supervisada federalmente o una organización de autorregulación industrial —como la Autoridad Reguladora de la Industria Financiera (FINRA)— cuyo consejo de administración debe incluir expertos técnicos independientes de primer nivel y representantes de la comunidad de código abierto.
La financiación debe ser sustancial y probablemente provenga principalmente de la industria, para así atraer talento técnico de clase mundial y proporcionar los recursos computacionales necesarios para pruebas a gran escala.
Los modelos que alcancen un umbral específico en un conjunto de puntos de referencia establecidos por el organismo de normas serán clasificados como "de vanguardia" (Frontier-class); este conjunto de referencias se actualizará periódicamente para seguir la evolución de las capacidades de la IA.
Las organizaciones identificadas como poseedoras de un "modelo de vanguardia" según estos puntos de referencia serán consideradas "Laboratorios de Vanguardia" (Frontier Labs) y se las alentará a adoptar una serie de mejores prácticas, como: publicar fichas de modelo (model card) con detalles técnicos, mantener una ciberseguridad interna sólida, realizar verificaciones de antecedentes para puestos clave, asignar recursos suficientes para investigación en seguridad y protección, etc.
Inicialmente, los laboratorios de vanguardia enviarán voluntariamente sus modelos al organismo de normas para su evaluación con hasta 30 días de antelación antes del lanzamiento. Una vez que los procedimientos de evaluación hayan demostrado ser efectivos y robustos, se pueden formalizar rápidamente.
En ese punto, los modelos de vanguardia deberán pasar la evaluación para poder ser desplegados en el mercado estadounidense. Los laboratorios también deberán colaborar con el organismo de normas para abordar cualquier vulnerabilidad significativa que surja después del lanzamiento del modelo.
La evaluación de modelos debe incluir pruebas científicas rigurosas de sus capacidades en áreas de alto riesgo como ciberseguridad, amenazas biológicas y otras.
Las pruebas específicas para IA agentificada pueden detectar si un modelo intenta eludir las salvaguardas de seguridad, muestra indicios de engaño y garantizar que se implementen las mejores prácticas. Por ejemplo, agregar marcas de agua digitales a las imágenes generadas por IA y generar tokens de salida legibles por humanos para comprender el proceso de razonamiento del modelo.
Estas evaluaciones se actualizarán periódicamente: al principio quizás trimestralmente, y los puntos de referencia obsoletos o ya "saturados" (con puntajes perfectos) se descartarán y reemplazarán.
Inicialmente, las evaluaciones podrían desarrollarse en colaboración con los laboratorios de vanguardia; pero en última instancia, el organismo de normas debe construir su propia capacidad técnica, desarrollando "conjuntos de pruebas retenidos" (held-out tests) de forma independiente a los laboratorios, para evitar el sobreajuste de los modelos a las pruebas.
También podría trabajar con el gobierno para fomentar un ecosistema de auditores independientes (terceros) que ayuden en las evaluaciones y participen en la creación de nuevos puntos de referencia y pruebas.
La ventaja de este enfoque es que está basado en la tecnología, al mismo tiempo que apoya la innovación e incentiva un comportamiento responsable. Está diseñado desde el principio para mantenerse al día con la aceleración del campo y ajustarse a medida que se identifiquen los mayores riesgos; si la gravedad de la situación lo requiere, también se puede escalar progresivamente, incluyendo, cuando sea necesario, coordinar a los laboratorios de vanguardia para reducir colectivamente el ritmo de desarrollo.
Ser reconocido como "Laboratorio de Vanguardia" será un importante prestigio, y esta puerta estará abierta para cualquier organización que cree un modelo que cumpla con los estándares de referencia. El marco podría aplicarse a todos los modelos "de vanguardia", sin importar su país de origen o si son de código abierto o cerrado; mientras que todos los modelos no vanguardistas, por ejemplo, de startups o del ámbito académico, estarían exentos de este proceso.
Dado que esta tecnología eventualmente afectará a todo el planeta, idealmente, este marco impulsaría un consenso internacional sobre cómo gestionar los riesgos más graves, al tiempo que garantiza que todos puedan acceder y beneficiarse de las oportunidades que ofrece la IA.
El Futuro Aún No Está Escrito
La AGI tiene el potencial de convertirse en la herramienta definitiva para impulsar el avance científico y médico, y generar enormes aumentos de productividad y crecimiento económico.
Pero para lograrlo, primero debemos sentar las bases técnicas: actuar de manera coordinada en torno a un marco global compartido, aplicando los métodos científicos más rigurosos y reuniendo las mentes más brillantes para abordar juntos los desafíos inmediatos.
Incluso si se resuelven estos difíciles problemas técnicos, habrá problemas económicos y filosóficos más complejos esperando:
En un mundo "pos-escasez", ¿qué nuevos modelos económicos se necesitarán para que todos prosperen? ¿Con qué valores queremos vivir? ¿Dónde residirá el significado y el propósito? Incluso, ¿cómo cambiará la "condición humana" en sí misma?
Las respuestas a estas preguntas claramente no pueden, ni deben, dejarse solo en manos de los tecnólogos. Requiere que todas las partes de la sociedad se unan para definir colectivamente este nuevo capítulo.
Existe una gran emoción y una gran incertidumbre en torno a la IA —ambas están justificadas.
Pero el futuro aún no está escrito. Debemos aprovechar esta preciosa ventana antes de la llegada de la AGI para moldear esta tecnología como una fuerza para el beneficio de toda la humanidad. Nuestras acciones colectivas en este momento determinarán cómo se desarrolla la próxima etapa de la civilización. Si traemos la AGI al mundo de manera segura, podremos entrar en una nueva edad de oro de descubrimiento y progreso científico, y dar la bienvenida a un futuro brillante de prosperidad humana sin precedentes.
Referencias:
https://x.com/demishassabis/status/2076957440109625718?s=20
Este artículo proviene del WeChat Official Account "新智元" (Nueva Inteligencia), autor: David Salomón
