Autor: Sam Altman
Compilación: Deep Tide TechFlow
Guía de Deep Tide: Alguien lanzó un cóctel molotov a la casa de Sam Altman a las 3:45 de la madrugada. Él raramente hizo pública una foto familiar, esperando que esto pueda disuadir a la siguiente persona de actuar. Este artículo no solo es una denuncia del ataque, sino que también expone por primera vez de manera completa su creencia en la IA: la IA debe democratizarse, unos pocos laboratorios no deberían decidir el futuro de la humanidad, y la tentación de "una vez que ves la AGI no puedes dejar de verla" llena este campo de conflictos dramáticos al estilo de Shakespeare.
Esta es una foto de mi familia. Los amo más que a nada.
Espero que la imagen tenga fuerza. Normalmente mantenemos bastante privacidad, pero en este caso comparto una foto con la esperanza de que pueda disuadir a la siguiente persona de lanzar un cóctel molotov a nuestra casa, sin importar lo que piensen de mí.
La primera persona lo hizo anoche, a las 3:45 de la madrugada. Afortunadamente, rebotó en la casa y nadie resultó herido.
Las palabras también tienen fuerza. Hace unos días hubo un artículo incendiario sobre mí. Ayer alguien me dijo que creía que este artículo, apareciendo en un momento de gran ansiedad sobre la IA, ponía mi situación en mayor peligro. En ese momento no le di importancia.
Ahora estoy despierto en medio de la noche, enojado, y pienso que subestimé el poder de las palabras y las narrativas. Parece un buen momento para hablar de algunas cosas.
Primero, mis creencias.
Trabajar por la prosperidad de todos, empoderar a todas las personas, avanzar en la ciencia y la tecnología, para mí son obligaciones morales.
La IA será la herramienta más poderosa para expandir las capacidades y el potencial humano. La demanda de esta herramienta es básicamente ilimitada, la gente hará cosas increíbles con ella. El mundo debería tener una gran cantidad de IA, y debemos descubrir cómo lograrlo.
No todo saldrá bien. El miedo y la ansiedad hacia la IA son razonables; estamos presenciando el mayor cambio social en mucho tiempo, quizás el mayor de la historia. Debemos hacer bien la seguridad, esto no es solo alinear un modelo—urgentemente necesitamos una respuesta de toda la sociedad para enfrentar las nuevas amenazas. Esto incluye nuevas políticas para ayudar a superar la difícil transición económica y llegar a un futuro mejor.
La IA debe democratizarse; el poder no puede estar demasiado concentrado. El control del futuro pertenece a todas las personas y sus instituciones. La IA necesita empoderar a los individuos, y necesitamos decidir colectivamente nuestro futuro y las nuevas reglas. No creo que sea correcto que unos pocos laboratorios de IA tomen las decisiones más importantes sobre nuestra forma futura.
La capacidad de adaptación es crucial. Todos estamos aprendiendo cosas nuevas muy rápidamente; algunas de nuestras creencias serán correctas, otras estarán equivocadas, y a veces necesitaremos cambiar de opinión rápidamente a medida que la tecnología se desarrolle y la sociedad evolucione. Nadie entiende aún los impactos de la superinteligencia, pero serán enormes.
En segundo lugar, algunas reflexiones personales.
Cuando repaso mi trabajo en la primera década de OpenAI, puedo señalar muchas cosas de las que estoy orgulloso y un montón de errores.
Estoy pensando en nuestro próximo juicio con Elon y recuerdo cuánto me resistí a aceptar el control unilateral que él quería sobre OpenAI. Estoy orgulloso de eso, orgulloso del camino estrecho que recorrimos entonces, que permitió que OpenAI continuara existiendo, y todos los logros posteriores.
No estoy orgulloso de haber evitado el conflicto, lo que me causó a mí y a OpenAI un gran dolor. No estoy orgulloso de cómo manejé mal el conflicto con la junta anterior, que causó una gran confusión en la empresa. En la trayectoria loca de OpenAI cometí muchos otros errores; soy una persona imperfecta, en el centro de una situación anormalmente compleja, tratando de mejorar un poco cada año, siempre trabajando por la misión. Comenzamos sabiendo cuán grandes eran los riesgos de la IA y cómo las divergencias personales entre personas de buena fe que me importan se amplificarían enormemente. Pero experimentar estos conflictos intensos y tener que arbitrar con frecuencia es otra cosa, el costo es grave. Lamento a las personas a las que he herido y desearía haber aprendido más rápido.
También soy muy consciente de que OpenAI es ahora una plataforma principal, no una pequeña startup, y ahora necesitamos operar de una manera más predecible. Los últimos años han sido extremadamente tensos, caóticos y de alta presión.
Sin embargo, de lo que estoy más orgulloso es de que estamos logrando nuestra misión, lo que al principio parecía extremadamente improbable. Superando todas las dificultades, descubrimos cómo construir una IA muy poderosa, cómo acumular suficiente capital para construir la infraestructura para entregarla, cómo establecer una empresa de productos y un negocio, cómo entregar servicios bastante seguros y robustos a gran escala, y más. Muchas empresas dicen que van a cambiar el mundo; nosotros realmente lo hicimos.
Tercero, algunas ideas sobre esta industria.
Mi aprendizaje personal de los últimos años, y mi opinión sobre por qué hay tanto drama shakespeariano entre las empresas de nuestro campo, se reduce a esto: "una vez que ves la AGI no puedes dejar de verla". Tiene una dinámica real de "anillo de poder" que hace que la gente haga locuras. No digo que la AGI en sí sea el anillo, sino la filosofía totalitaria de "ser la persona que controla la AGI".
La única solución en la que puedo pensar es avanzar hacia compartir ampliamente la tecnología con las personas, y que nadie posea el anillo. Las dos formas obvias de hacer esto son el empoderamiento individual y asegurar que los sistemas democráticos mantengan el control.
Es importante que el proceso democrático se mantenga más fuerte que las empresas. Las leyes y normas cambiarán, pero debemos trabajar dentro del proceso democrático, incluso si es desordenado y más lento de lo que deseamos. Queremos ser una voz y una parte interesada, pero no poseer todo el poder.
Muchas de las críticas a nuestra industria provienen de una sincera preocupación por los riesgos extremadamente altos de esta tecnología. Esto es muy razonable, y damos la bienvenida a las críticas y debates de buena fe. Simpatizo con el sentimiento anti-tecnología, obviamente la tecnología no siempre es buena para todos. Pero en general, creo que el progreso tecnológico puede hacer que el futuro sea increíblemente bueno, para tu familia y la mía.
Mientras tenemos ese debate, deberíamos rebajar la retórica y las tácticas, y tratar de que haya menos explosiones en menos hogares, tanto metafórica como literalmente.
