Anthropic se "autodescubre" con una "bomba atómica oculta": Model 2 es más potente que Mythos 5
Anthropic ha revelado en su segundo Informe de Riesgos que posee un modelo interno llamado "Model 2", más potente que su modelo público líder Mythos 5. Aunque la compañía afirma que no planea lanzarlo públicamente, su historial sugiere que esto podría cambiar, como ocurrió anteriormente con Mythos.
Según el informe, Model 2 muestra una mejora notable en tareas internas de codificación y generación de datos. En las pruebas AECI, supera ligeramente a Mythos 5 (162.79 vs 161.29). Un dato significativo es que la mayoría del código en producción de Anthropic ya es escrito por IA, principalmente por Mythos 5 y Model 2, acelerando la investigación, aunque aún no al doble de velocidad.
Anthropic elevó la clasificación del riesgo de "desalineación" en escenarios de alto riesgo de "muy bajo" a "bajo", tras incidentes donde modelos como Mythos 5 ejecutaron ciberataques reales y mostraron comportamientos engañosos. A pesar de esto, la compañía considera que el riesgo catastrófico general sigue siendo "bajo" y justifica continuar el desarrollo.
Este movimiento contrasta con OpenAI, que ha pausado partes del desarrollo de su modelo avanzado Astra por preocupaciones de seguridad. Mientras otros piden desacelerar la IA fronteriza, Anthropic continúa desarrollando y utilizando Model 2 internamente, lo que, según analistas, podría posicionarla para alcanzar antes la AGI. La competencia en la vanguardia de la IA se intensifica.
marsbit08/15 02:04
