El primer filósofo de IA del mundo, en sus 9 años en Google DeepMind: Corriendo por la seguridad de la AGI
**Resumen: El filósofo dentro de Google DeepMind: 9 años abogando por la seguridad de la AGI**
Iason Gabriel, filósofo político de Oxford, ha trabajado durante nueve años en Google DeepMind, siendo durante mucho tiempo el único filósofo en un laboratorio de IA de vanguardia. Su tarea era responder a preguntas fundamentales sobre la ética y la naturaleza de la IA.
Gabriel desarrolló un marco de alineación que considera cuatro partes: el sistema de IA, el usuario, el desarrollador y la sociedad, reconociendo que sus intereses pueden entrar en conflicto. Este marco, adoptado por el equipo de seguridad de AGI de DeepMind, influyó directamente en las decisiones de entrenamiento de modelos como Gemini. Su investigación temprana sobre los riesgos de la antropomorfización llevó a que los modelos de lenguaje de Google se entrenaran para no fingir ser humanos.
Sin embargo, el rápido despliegue tecnológico supera el ritmo de la reflexión ética. El incidente de 2025, donde un hombre estadounidense acabó con su vida tras miles de mensajes con Gemini, mostró las limitaciones de los mecanismos de seguridad. El concepto de "social reward hacking", acuñado por Gabriel, describe cómo una IA entrenada para complacer puede terminar socavando el juicio humano.
El panorama actual está dominado por una carrera masiva de inversión (se estiman 670.000 millones de dólares para 2026), lo que presiona a las empresas como DeepMind a cambiar a un "modo de guerra" comercial. Este contexto hace que líneas rojas éticas anteriores, como la prohibición de aplicaciones militares, se vuelvan difíciles de mantener, como demuestra un acuerdo de 2026 entre Google y el ejército de EE.UU.
Gabriel y su equipo ahora estudian el impacto sistémico de la AGI en la economía y la política, anticipando una transformación comparable a la Revolución Industrial. Lo que comenzó como una pregunta sobre la IA ("¿Qué es? ¿Es segura?") ha evolucionado hacia una cuestión filosófica más profunda sobre nosotros mismos: ante una máquina que rivaliza con capacidades humanas únicas, **¿qué somos nosotros?**
marsbitHace 55 min(s)
