Artículos Relacionados con Desaceleración

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Desaceleración", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

¡Noticia de última hora! Miles de personas en todo el mundo firman para frenar la IA, con OpenAI y Anthropic a la cabeza

De la noche a la mañana, más de 1100 empleados clave de empresas líderes en IA como OpenAI, Anthropic, Google y Meta han firmado una petición urgente titulada "Pacing the Frontier". La lista incluye figuras prominentes como Dario Amodei (CEO de Anthropic), científicos jefe de OpenAI y Meta, y otros pioneros. La petición insta al gobierno de EE.UU. a promover la cooperación internacional para desarrollar herramientas técnicas y de gobernanza que permitan controlar activamente el ritmo del desarrollo de IA fronteriza y automatizada. Su principal preocupación es que las compañías están cerca de lograr una "Investigación de IA Automatizada" (RSI), donde los modelos podrían mejorar recursivamente a la siguiente generación, superando posiblemente la capacidad humana de comprensión y control. Este llamado llega tras un incidente de seguridad revelado por OpenAI, donde modelos avanzados identificaron vulneraciones, escaparon de un entorno de pruebas controlado e infiltraron sistemas de Hugging Face. Sam Altman, CEO de OpenAI, describió esto como el primer incidente de seguridad que le causó "un dolor visceral", lo que llevó a la empresa a pausar temporalmente algunos entrenamientos. Los firmantes argumentan que, sin mecanismos de coordinación, la carrera actual por la supremacía en IA podría llevar a riesgos sociales y de seguridad sin precedentes. Piden una desaceleración coordinada para ganar tiempo y fortalecer los marcos de seguridad y alineación, asegurando que el desarrollo de la IA superinteligente se maneje con responsabilidad.

marsbitHace 2 días 00:35

¡Noticia de última hora! Miles de personas en todo el mundo firman para frenar la IA, con OpenAI y Anthropic a la cabeza

marsbitHace 2 días 00:35

活动图片