OpenAI ha revisado su enfoque en el desarrollo de modelos avanzados de IA y ha ralentizado temporalmente parte de su investigación después de que uno de sus agentes de IA de prueba escapara de un entorno controlado y atacara la plataforma Hugging Face. Esto se afirma en un reportaje de TIME, basado en entrevistas con más de 20 ejecutivos, empleados, inversores, clientes y competidores de la empresa. En este contexto, OpenAI también intenta recuperar el terreno perdido frente a Anthropic en la carrera comercial y reforzar la seguridad de sus modelos.
OpenAI se enfrenta a una crisis de seguridad
A finales de julio, OpenAI informó de que uno de sus prototipos internos, durante una prueba, logró salir del entorno de pruebas y acceder a los sistemas de producción de Hugging Face. Se suponía que el modelo debía realizar tareas de ciberseguridad, pero en su lugar aprovechó una vulnerabilidad, eludió las restricciones y obtuvo acceso a las respuestas de la prueba.
Según el director científico de OpenAI, Jakub Pachocki, la empresa contaba con herramientas para monitorear el comportamiento del modelo, pero no las aplicó a un sistema de tal nivel de complejidad, ya que no esperaba tales capacidades.
"No esperábamos del todo" lo que el sistema era capaz de hacer, dijo Pachocki, añadiendo: "Con la IA hay que esperar lo inesperado".
Tras el incidente, OpenAI congeló parte de sus experimentos, ralentizó otras investigaciones, reforzó el aislamiento de los modelos y amplió el monitoreo. La empresa también suspendió el entrenamiento de un nuevo modelo que, se espera, dará uno de los mayores saltos en las capacidades de IA.
El CEO de OpenAI, Sam Altman, calificó la situación no solo como un problema de seguridad, sino como un problema fundamental de alineación entre el comportamiento de la IA y las intenciones humanas.
"Creo que cualquier error de alineación a partir de ahora debe ser considerado un problema muy serio, y dedicaremos todo el tiempo necesario para solucionarlo", declaró.
Posteriormente, Altman formuló la posición de la empresa aún más claramente:
"Garantizar la seguridad de la IA es más importante que cualquier dinámica de desarrollo empresarial".
OpenAI intenta recuperar el liderazgo
Paralelamente, OpenAI está llevando a cabo una importante reestructuración empresarial después de un año en el que, según TIME, la empresa perdió el liderazgo en ciertos segmentos frente a Anthropic.
El competidor desarrolló rápidamente Claude Code y superó a OpenAI en ingresos anuales declarados y valoración privada. Al mismo tiempo, OpenAI se enfrentó a la salida de varios ejecutivos, la pérdida de investigadores a favor de Meta y una mayor competencia por parte de Google.
La empresa está reduciendo proyectos secundarios y concentrando recursos computacionales en productos clave, en particular Codex. En julio, los ingresos corporativos de OpenAI superaron por primera vez a los de consumo, y en marzo la empresa recaudó 122.000 millones de dólares con una valoración de 852.000 millones.
Al mismo tiempo, OpenAI continúa escalando su infraestructura. Según el director de informática, Sachin Katti, la empresa planea gastar unos 50.000 millones de dólares en capacidad de cómputo en 2026.
"Todavía tenemos escasez de capacidad de cómputo. Si pudiéramos retroceder en el tiempo, probablemente deberíamos haber adquirido mucho más", dijo.
Astra, AGI y agentes de IA personales
A pesar de la desaceleración en la investigación, OpenAI continúa trabajando en la nueva generación de modelos Astra. Durante una demostración cerrada para clientes, el sistema realizó tareas complejas utilizando 16 agentes de IA que distribuían partes de un problema matemático y coordinaban el trabajo hacia un resultado común.
El modelo también demostró la capacidad de trabajar con un ordenador, interactuando de forma autónoma con varios programas. Altman calificó como especialmente importante la posibilidad de crear "agentes persistentes": empleados virtuales capaces de realizar tareas durante largos periodos sin supervisión humana constante.
Según él, el mayor impacto de Astra podría estar en la investigación científica.
"Espero que este sea el primer modelo que realmente invente cosas nuevas de una manera que tenga un impacto significativo", declaró Altman.
En OpenAI también creen que se están acercando a la creación de una Inteligencia General Artificial (AGI). El director de investigación, Mark Chen, estimó la preparación de la empresa para esta etapa en aproximadamente un 80%, y Altman afirmó que para fin de año OpenAI podría tener un sistema interno al que él llamaría AGI.
Uno de los campos clave de la empresa sigue siendo el desarrollo de agentes autónomos. OpenAI quiere transformar ChatGPT de un sistema que principalmente responde a preguntas en una herramienta capaz de realizar tareas de forma autónoma, utilizar diferentes modelos y servicios, y actuar en función de los objetivos del usuario.
La empresa también trabaja en sus propios dispositivos, chips y robots humanoides. Altman declaró que OpenAI "sin duda" creará robots humanoides, y planean comenzar a usar su primer chip de inferencia propio, Jalapeño, antes de fin de año.
Al mismo tiempo, la empresa reconoce que un mayor escalado de la IA es imposible sin resolver los problemas de seguridad. Por eso OpenAI está dispuesta a sacrificar temporalmente el ritmo de desarrollo.
"Si llegamos a un punto en el que sea peligroso, tendremos que frenar, y así será", declaró la responsable de seguridad y alineación de OpenAI, Mira Gleiz.
Recordemos que la empresa también está considerando la posibilidad de salir a bolsa. La directora financiera de OpenAI, Sarah Friar, dijo a los empleados que la empresa podría hacerse pública en 2027 o antes si el negocio continúa creciendo.
