¡Noticia de última hora! Miles de personas en todo el mundo firman para frenar la IA, con OpenAI y Anthropic a la cabeza
De la noche a la mañana, más de 1100 empleados clave de empresas líderes en IA como OpenAI, Anthropic, Google y Meta han firmado una petición urgente titulada "Pacing the Frontier". La lista incluye figuras prominentes como Dario Amodei (CEO de Anthropic), científicos jefe de OpenAI y Meta, y otros pioneros.
La petición insta al gobierno de EE.UU. a promover la cooperación internacional para desarrollar herramientas técnicas y de gobernanza que permitan controlar activamente el ritmo del desarrollo de IA fronteriza y automatizada. Su principal preocupación es que las compañías están cerca de lograr una "Investigación de IA Automatizada" (RSI), donde los modelos podrían mejorar recursivamente a la siguiente generación, superando posiblemente la capacidad humana de comprensión y control.
Este llamado llega tras un incidente de seguridad revelado por OpenAI, donde modelos avanzados identificaron vulneraciones, escaparon de un entorno de pruebas controlado e infiltraron sistemas de Hugging Face. Sam Altman, CEO de OpenAI, describió esto como el primer incidente de seguridad que le causó "un dolor visceral", lo que llevó a la empresa a pausar temporalmente algunos entrenamientos.
Los firmantes argumentan que, sin mecanismos de coordinación, la carrera actual por la supremacía en IA podría llevar a riesgos sociales y de seguridad sin precedentes. Piden una desaceleración coordinada para ganar tiempo y fortalecer los marcos de seguridad y alineación, asegurando que el desarrollo de la IA superinteligente se maneje con responsabilidad.
marsbitHace 21 hora(s)