Anthropic ha creado el modelo de IA más potente de la historia, pero no se atreve a lanzarlo...
Anthropic ha desarrollado Mythos, el modelo de IA más potente hasta la fecha, con 10 billones de parámetros y un coste de entrenamiento de 10.000 millones de dólares. Sin embargo, debido a su capacidad excepcional para detectar y explotar vulnerabilidades de software, la compañía no lo ha lanzado públicamente por miedo a que sea mal utilizado.
En solo semanas, Mythos identificó miles de vulnerabilidades de día cero en sistemas críticos, incluyendo fallos de 27 años en OpenBSD y 16 años en FFmpeg, además de demostrar habilidades avanzadas de escalada de privilegios en Linux.
Para mitigar riesgos, Anthropic lanzó el "Proyecto Glasswing", una colaboración con gigantes tecnológicos y financieros como Google, Microsoft y JP Morgan. El objetivo es permitir que estas empresas utilicen una versión preview de Mythos para identificar y parchear vulnerabilidades antes de que los actores malintencionados puedan explotarlas.
Aunque la IA plantea nuevos desafíos de seguridad, Anthropic mantiene un optimismo cauteloso, destacando que estas herramientas también pueden reforzar las defensas cibernéticas globales si se usan de manera responsable.
Odaily星球日报04/08 04:02
