Anthropic, Dario Amodei, y la «última empresa privada»
Sobre Dario Amodei, fundador de Anthropic, circulan dos narrativas opuestas pero plausibles: es el vigilante más lúcido de la era que advierte sobre los peligros de la IA superinteligente, o el hombre de mayor ambición en Silicon Valley que acelera hacia ese mismo futuro.
Él ve la IA como la herramienta definitiva para acelerar el progreso científico, inspirado por la pérdida de su padre, que no pudo esperar a una cura. En OpenAI, aprendió que construir modelos no equivale a controlar su destino, lo que lo llevó a fundar Anthropic con una misión: desarrollar la IA más avanzada, pero de forma "segura y responsable".
Anthropic busca definir los estándares de seguridad, desde la "IA Constitucional" que programa valores en los modelos, hasta políticas de expansión responsable. Sin embargo, esto concentra un poder sin precedentes: la empresa actúa como jugador, árbitro y regulador, decidiendo qué es seguro, ético y cómo debe distribuirse el beneficio de la IA.
Amodei argumenta que este poder es necesario. En su visión, la IA traerá una revolución biomédica, pero también debe asegurar la supremacía tecnológica de EE.UU. y sus aliados, controlando el acceso a chips y capacidad de cómputo. Así, su promesa de un futuro beneficioso para todos está condicionada a un orden mundial unipolar liderado por Occidente.
Critica abiertamente los riesgos del poder corporativo en IA, pero cada solución que propone termina otorgando más influencia a Anthropic. Una reciente controversia surgió con la afirmación de que Amodei habría dicho que Anthropic podría convertirse en "la última empresa privada del mundo", una visión de concentración extrema de poder que él no negó directamente, sino que respondió enfatizando la necesidad de que la IA cumpla su gran promesa: curar enfermedades como el cáncer.
La paradoja final persiste: el hombre que más claramente ve los peligros de la IA superinteligente está, según su propia lógica, destinado a ser el único lo suficientemente confiable para controlarla, acelerando hacia el futuro que advierte para decidir cuándo y cómo detenerse.
marsbit08/18 06:52
