Pekín, 29 de julio - Según informa *The Wall Street Journal*, en Silicon Valley se está gestando una ola de oposición contra Anthropic, cuyas raíces residen en que los productos lanzados por la empresa compiten con los proveedores de software existentes y en su defensa de un ecosistema de IA cerrado.
Competencia con socios
Fundadores de startups, ejecutivos de empresas de software e investigadores de IA señalaron que, al ver que Anthropic ha lanzado al mercado algunas herramientas que compiten con los productos de otras empresas, han comenzado a recurrir a modelos de IA de menor precio. Un ejemplo de ello es Claude Design, lanzado por Anthropic en abril. Algunos consideran que este producto compite directamente con los servicios ofrecidos por Figma, una empresa de software de diseño que es socia de Anthropic.
Según participantes en el evento, poco después del lanzamiento de Claude Design, en un evento, Dylan Field, CEO de Figma, declaró que Anthropic "no siempre mantuvo la transparencia" en sus comunicaciones.
"Toda la industria aprendió muchas lecciones de este incidente. Algunas empresas quizás confiaron demasiado en (Anthropic)." declaró Sarah Sachs, responsable de Notion AI, una plataforma de notas que asistió al evento.
Generar pánico
Anthropic también ha recibido críticas por cambios en su política de retención de datos y por el lanzamiento de un potente modelo que se niega a responder preguntas sobre investigación en IA, lo que ha descontentado a algunos investigadores que abogan por una mayor transparencia en los sistemas de IA.
Además, existe escepticismo externo sobre las advertencias de los ejecutivos de Anthropic respecto a los supuestos riesgos de seguridad de los modelos de IA de "pesos abiertos". Los modelos de pesos abiertos son mucho más económicos y generalmente permiten a los usuarios personalizarlos e instalar sus propios mecanismos de protección de seguridad. En los últimos meses, algunos modelos de este tipo desarrollados en China han ganado elogios de los usuarios por su capacidad cercana a los sistemas de IA de vanguardia estadounidenses.
Vishal Misra, decano adjunto de Computación e IA de la Facultad de Ingeniería de la Universidad de Columbia, señaló que Anthropic ha desarrollado productos excelentes, pero las declaraciones de la empresa sobre seguridad y riesgos de IA no resisten un análisis minucioso.
"Están generando pánico en el público sobre estos modelos," dijo, "el miedo del público les da ventaja para impulsar políticas regulatorias que les beneficien."
Imagen | Actividad de protesta en apoyo a los modelos de pesos abiertos
Un portavoz de Anthropic defendió estas medidas, argumentando que son necesarias para garantizar la seguridad de los modelos y prevenir que adversarios los utilicen para crear graves riesgos.
Dario Amodei, CEO de Anthropic, y otros ejecutivos de la empresa han hablado en múltiples ocasiones sobre los riesgos de los sistemas de IA de pesos abiertos. Anthropic ha publicado numerosos informes de investigación sobre los riesgos de seguridad en IA y ha impulsado la regulación gubernamental de la IA mediante apoyo público y donaciones políticas.
El lunes, después de que varias empresas estadounidenses como Nvidia y Microsoft firmaran una carta conjunta expresando su apoyo a los modelos abiertos, Amodei publicó una carta abierta para aclarar su postura en este acalorado debate. "Anthropic nunca ha abogado por prohibir los modelos de pesos abiertos," escribió, "los modelos de pesos abiertos que no posean capacidades peligrosas son un bien público."
Debilitar a la competencia
Críticos, incluidos algunos funcionarios gubernamentales, consideran que las advertencias de Anthropic sobre los riesgos de los modelos abiertos forman parte de sus intentos por obstaculizar los esfuerzos de sus competidores, ya que muchos de estos modelos abiertos podrían debilitar el objetivo de Anthropic de maximizar sus ingresos. La empresa podría cotizar en bolsa ya en otoño de este año.
Kevin Bryan, profesor asociado especializado en innovación de la Universidad de Toronto, salió en defensa de Anthropic. Afirmó que la preocupación por los riesgos que conlleva la apertura de la inteligencia de vanguardia es real y está ampliamente compartida. "Cualquier cosa de código abierto será inmediatamente 'jailbroken' (saltarse las restricciones de seguridad)," dijo, "una vez que se lanza un modelo, no hay vuelta atrás."
Algunos críticos señalan que el propio proceso de construcción de modelos de Anthropic se asemeja a la técnica de destilación.
"Es curioso que se opongan a la destilación, pero ellos mismos destilaron toda Internet sin pagar derechos de autor," declaró Mark Suman, cofundador y CEO de Maple, una startup de herramientas de productividad con IA. "Simplemente me parece extraño que ahora digan a los demás que no hagan lo que ellos mismos hicieron."
Estructura de duopolio
Horas después de la publicación pública de la carta conjunta de apoyo a los modelos de pesos abiertos, OpenAI la firmó. Posteriormente, Google también expresó su apoyo a la carta, dejando a Anthropic como una de las pocas empresas de IA destacadas que no respaldan esta iniciativa. Hasta ahora, más de 70 empresas de Silicon Valley se han adherido y firmado.
Profesionales tecnológicos y responsables políticos también expresaron su preocupación de que la competencia en IA finalmente derive en una estructura de duopolio, donde Anthropic y OpenAI se conviertan gradualmente en las dos empresas dominantes del mercado.
La preocupación por un posible duopolio fue un tema central en una protesta en apoyo a los modelos de pesos abiertos que tuvo lugar el sábado pasado en el centro de San Francisco, núcleo de la comunidad de startups de IA. Esta protesta fue coorganizada por el CEO de Hugging Face, una empresa de IA que proporciona herramientas de IA de código abierto. Recientemente, Hugging Face sufrió una intrusión por un modelo descontrolado de OpenAI.
"Los laboratorios de IA de vanguardia están acaparando la inteligencia. La inteligencia debería democratizarse." declaró Mahesh Lambe, investigador en IA que participó en la protesta.
Desconfianza
Algunos fundadores y ejecutivos de startups señalaron que el lanzamiento de Claude Design por parte de Anthropic fue una "llamada de atención" para todo Silicon Valley. Este lanzamiento llevó a algunos fundadores a concluir que Anthropic podría lanzar herramientas para competir con ellos y arrebatarles clientes. A partir de entonces, comenzaron seriamente a recurrir a modelos de pesos abiertos más económicos, especialmente aquellos desarrollados por laboratorios de vanguardia fuera de Estados Unidos.
En junio, esta desconfianza se intensificó con el lanzamiento por parte de Anthropic de Fable 5, una versión con restricciones de seguridad de su potente modelo Mythos, que incorpora algunas limitaciones de capacidad.
Inicialmente, este modelo reducía la calidad de sus respuestas a algunas preguntas sobre desarrollo de IA, pero no informaba a los usuarios de esta limitación. La comunidad investigadora criticó inmediatamente estas "medidas de seguridad opacas", considerando la decisión anticompetitiva y que dificultaba la evaluación de las capacidades del modelo.
Posteriormente, Anthropic se disculpó y mostró públicamente estas medidas de restricción de seguridad a los usuarios. Sin embargo, la empresa aún declaró que rechazaría responder a solicitudes marcadas como de mayor riesgo.
Un portavoz de Anthropic afirmó que las medidas para limitar las respuestas del modelo tienen como objetivo evitar que adversarios extranjeros los utilicen de manera que "generen graves riesgos de seguridad".
Fable 5 tampoco admite la función de "retención de datos cero", lo que significa que la empresa conserva los datos de los usuarios durante 30 días con fines de lo que denomina confianza y seguridad.
Algunas empresas expresaron su descontento con este cambio, especialmente aquellas en sectores que manejan datos sensibles. También existe una preocupación generalizada entre algunas empresas de que sus datos se utilicen para entrenar nuevos modelos, ayudando así aún más a Anthropic a lanzar productos competitivos.
El portavoz de Anthropic señaló que los empleados de la empresa no pueden ver ninguna conversación retenida y que la compañía se ha comprometido a no utilizar esos datos para entrenar nuevos modelos. Estas restricciones se aplican a Fable y Mythos, es decir, los "modelos más potentes" de la empresa, pero no a otros modelos.
Este artículo proviene del WeChat público "凤凰网科技" (Fenghuang Wang Keji).
