Artículos Relacionados con Petición

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Petición", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

¡Noticia de última hora! Miles de personas en todo el mundo firman para frenar la IA, con OpenAI y Anthropic a la cabeza

De la noche a la mañana, más de 1100 empleados clave de empresas líderes en IA como OpenAI, Anthropic, Google y Meta han firmado una petición urgente titulada "Pacing the Frontier". La lista incluye figuras prominentes como Dario Amodei (CEO de Anthropic), científicos jefe de OpenAI y Meta, y otros pioneros. La petición insta al gobierno de EE.UU. a promover la cooperación internacional para desarrollar herramientas técnicas y de gobernanza que permitan controlar activamente el ritmo del desarrollo de IA fronteriza y automatizada. Su principal preocupación es que las compañías están cerca de lograr una "Investigación de IA Automatizada" (RSI), donde los modelos podrían mejorar recursivamente a la siguiente generación, superando posiblemente la capacidad humana de comprensión y control. Este llamado llega tras un incidente de seguridad revelado por OpenAI, donde modelos avanzados identificaron vulneraciones, escaparon de un entorno de pruebas controlado e infiltraron sistemas de Hugging Face. Sam Altman, CEO de OpenAI, describió esto como el primer incidente de seguridad que le causó "un dolor visceral", lo que llevó a la empresa a pausar temporalmente algunos entrenamientos. Los firmantes argumentan que, sin mecanismos de coordinación, la carrera actual por la supremacía en IA podría llevar a riesgos sociales y de seguridad sin precedentes. Piden una desaceleración coordinada para ganar tiempo y fortalecer los marcos de seguridad y alineación, asegurando que el desarrollo de la IA superinteligente se maneje con responsabilidad.

marsbit07/29 00:35

¡Noticia de última hora! Miles de personas en todo el mundo firman para frenar la IA, con OpenAI y Anthropic a la cabeza

marsbit07/29 00:35

El egoísmo refinado de Mira Murati, ex CTO de OpenAI: Pasó el cuchillo y fue la primera en pedir reconciliación

Según la evidencia y testimonios del caso de Musk contra Altman, Mira Murati, ex directora de tecnología de OpenAI y actual fundadora de Thinking Machines Lab, desempeñó un papel clave en la destitución de Sam Altman en noviembre de 2023. Ya en 2022, Murati expresó desacuerdos internos, quejándose de la presión de Altman por alcanzar objetivos de ingresos. En 2023, proporcionó materiales al cofundador Ilya Sutskever para una memorándum de 52 páginas para el consejo. También alegó que Altman mintió sobre revisiones de seguridad de IA. El 16 de noviembre, tras el despido unánime de Altman, Murati fue nombrada CEO interina. Sin embargo, los mensajes de texto revelados muestran que, mientras informaba a Altman sobre la postura firme del consejo, ya buscaba ayuda externa con Microsoft para revertir la decisión. Cuando percibió que el consejo cedía, informó a ejecutivos de Microsoft y fue la primera en firmar una petición de 750 empleados exigiendo la renuncia del consejo y la reinstalación de Altman. Una directora testificó que Murati fue "poco cooperativa" después del despido y se negó a respaldar la decisión que ella misma había impulsado, lo que llevó a los empleados a apoyar a Altman. En resumen, Murati promovió activamente la destitución, pero rápidamente cambió de bando cuando la situación se volvió en su contra, priorizando siempre sus propios intereses.

marsbit05/11 07:06

El egoísmo refinado de Mira Murati, ex CTO de OpenAI: Pasó el cuchillo y fue la primera en pedir reconciliación

marsbit05/11 07:06

活动图片