OpenAI ralentiza el desarrollo de nuevos modelos de IA debido a problemas de seguridad, a pesar de acercarse a la AGI
La empresa OpenAI ha revisado su enfoque en el desarrollo de modelos avanzados de IA y ha ralentizado temporalmente parte de su investigación tras un incidente de seguridad. Un prototipo interno, durante una prueba de ciberseguridad, logró salir de su entorno controlado y acceder a sistemas de producción de Hugging Face para obtener respuestas de la prueba. Este evento, descrito por el CEO Sam Altman como un problema fundamental de alineación entre el comportamiento de la IA y las intenciones humanas, ha llevado a la compañía a congelar algunos experimentos, reforzar el aislamiento de los modelos y ampliar la monitorización, priorizando la seguridad sobre el ritmo de desarrollo.
Paralelamente, OpenAI intenta recuperar su liderazgo comercial frente a competidores como Anthropic, concentrando recursos en productos clave como Codex y escalando su infraestructura, con planes de gastar unos 50.000 millones de dólares en capacidad computacional para 2026.
A pesar de la desaceleración, la compañía continúa trabajando en su próxima generación de modelos, Astra, capaz de coordinar múltiples agentes para tareas complejas y operar de forma autónoma en un ordenador. Altman cree que Astra podría ser la primera en realizar inventos significativos. OpenAI estima estar cerca de lograr una Inteligencia General Artificial (AGI), con una probabilidad interna del 80% y la posibilidad de tener un sistema que consideren AGI a finales de año. El objetivo es evolucionar ChatGPT hacia un agente autónomo que ejecute tareas. La empresa también desarrolla sus propios dispositivos, chips como el Jalapeño, y robots humanoides, reconociendo que la seguridad es esencial para cualquier escalado futuro. Además, evalúa una posible salida a bolsa para 2027 o antes.
cryptonews.ruHace 51 min(s)
