Los agentes de IA autónomos pueden comportarse de formas muy impredecibles. Dale a un agente de IA un objetivo como aprobar un examen de sus capacidades, y podría decidir que la mejor manera de obtener una puntuación alta es romper el confinamiento e infiltrarse en una empresa competidora en busca de la hoja de respuestas.
Eso fue lo que ocurrió cuando GPT-5.6 Sol de Open AI se infiltró en Hugging Face el mes pasado. Anthropic y Meta admitieron posteriormente que sus modelos también habían escapado de los entornos de prueba para hackear a terceros.
Pero, ¿quién es legalmente responsable de los agentes que tienen mente propia? OpenAI no tenía la intención de que el modelo se descontrolara, y no emitió instrucciones para que lo hiciera. Si tu agente de IA personal decide emprender una línea de acción que resulte en daño o perjuicio económico en el mundo real, ¿puedes ser considerado responsable si era algo que podías haber previsto razonablemente?
Magazine habló con Charlyn Ho, propietaria y CEO de Rikka Law Group, para conocer el estado de la cuestión en este campo legal emergente.
Esta entrevista ha sido editada para mayor claridad y extensión.
Magazine: Cuando un modelo de IA hackea a una empresa externa, ¿quién es responsable? ¿Puede Hugging Face demandar a OpenAI por el incidente de julio?
Charlyn Ho: Cualquiera puede demandar a cualquiera por cualquier cosa. Actualmente, no hay una ley federal de responsabilidad por agentes de IA, por lo que tendríamos que mirar la legislación existente. En lo que respecta a Hugging Face y OpenAI, para establecer la base, el agente de IA en sí no puede ser responsable, no es una entidad legal separada.
Términos que se usan en algunas de las leyes de IA son "desarrollador" y "implementador". El desarrollador crea la IA, el implementador la despliega y la usa realmente. Las líneas de responsabilidad tampoco están del todo claras. Hay que analizar los hechos y las circunstancias.
Por ejemplo, si el implementador instruyó al agente, aunque no le dijera explícitamente que fuera a vulnerar a Hugging Face, pero si fue negligente al crear los parámetros en los que operaba el agente de IA, yo diría que habría que mirar la ley de responsabilidad civil extracontractual estándar y hacer un análisis de negligencia.
Rumbo a los tribunales. Fuente: Rikka Law Group
Magazine: En el caso de modelos de código abierto que han sido publicados por desarrolladores anónimos, ¿hay alguien a quien se pueda responsabilizar en esos casos?
Ho: No realmente. A menudo, si es de código abierto, la licencia suele tener una cláusula de renuncia de responsabilidad bastante sólida. La persona o empresa que utilice ese código abierto tendrá que entender que la compensación por tener código gratuito es que tiene que cumplir con la licencia de código abierto, que generalmente también establece los parámetros de responsabilidad.
Si lo piensas desde una perspectiva diferente, otra analogía son Tesla y los accidentes de coches autónomos. Si el producto funcionó mal y hubiera una sólida reclamación por responsabilidad del producto, Tesla podría ser responsable. Pero a menudo es una determinación basada en hechos y circunstancias, por la cual el conductor humano —que quizás solo activó el piloto automático y se durmió— también podría asumir responsabilidad. Creo que es algo análogo aquí porque Tesla sería el desarrollador, y el implementador sería el conductor.
Magazine: Si le doy una instrucción a un agente: "consígueme cien mil dólares para la semana que viene" y este se va y infringe la ley para lograr ese objetivo, ¿sería yo responsable porque le di una instrucción imprudente? ¿O sería el laboratorio que desarrolló el agente?
Ho: En este caso particular, yo diría que tú serías mucho más responsable que el laboratorio. La razón es que si le dices a un agente que vaya y te consiga cien mil dólares para la semana que viene, necesitas tener al menos algunas instrucciones de seguridad básicas y razonables en ese tipo de tareas.
Si fueras un abogado, por ejemplo, básicamente podríamos decir que no seguiste tus reglas de responsabilidad profesional porque no usaste la IA de manera competente. Como persona común, tendríamos que ver si había otras responsabilidades a las que estabas sujeto. Pero incluso si no las hubiera, todavía existe un estándar general de negligencia civil o desprecio temerario por la seguridad humana, dependiendo de lo que exactamente terminó haciendo el agente de IA.
La Ley de Fraude y Abuso Informático es un estatuto estadounidense muy antiguo que habla del acceso no autorizado a sistemas informáticos. Si tu agente de IA infirió de tus instrucciones que debería hackear una cuenta bancaria para conseguirte esos cien mil dólares, creo que estás mirando una responsabilidad penal bajo varias fuentes diferentes.
El hecho de que las palabras IA y agente estén en la conversación no significa que los antiguos cuerpos legales hayan sido descartados ahora.
Relacionado: El hackeo de Hugging Face expone la paradoja de la ciberseguridad en IA de pesos abiertos
Magazine: Digamos que soy un malhechor y logro convencer a la IA para que me dé instrucciones para crear un arma biológica. Obviamente, yo soy responsable porque no se puede hacer eso. Pero, ¿son también responsables las personas que crearon el modelo porque no pusieron salvaguardas estrictas para prevenirlo?
Ho: Posiblemente, pero difiere según las leyes vigentes. Por ejemplo, en la UE, tienes la Ley de IA de la UE. Si un modelo fundamental o de propósito general es capaz de crear ese nivel de daño, eso es algo por lo que el desarrollador tendría que tener cierta responsabilidad.
En Estados Unidos, no tenemos un estatuto federal de alcance similar. Si es un modelo de propósito general, si alguien instruye al modelo para que haga algo malo, generalmente el modelo hará lo que le pidas. Probablemente no haya una base legal muy sólida para ir tras los laboratorios en este ejemplo.
Magazine: ¿Es similar a demandar a Google por permitirte encontrar instrucciones sobre cómo hacer un arma biológica en línea?
Ho: Exactamente. Esto se remonta a algunas de las discusiones sobre moderación de contenidos. Por ejemplo, si en Facebook alguien está transmitiendo en vivo una masacre, y eso crea un daño, bajo la Sección 230 de la CDA, existe una especie de escudo para una plataforma que no crea ni publica activamente ese material. En realidad son los usuarios independientes quienes lo suben. Creo que la analogía que acabas de dar es perfecta: ¿Es Google responsable porque encuentras algo en un sitio web que habla sobre cómo hacer una bomba?
Magazine: Este es un tema de debate, pero mi opinión personal es que no hemos alcanzado una verdadera inteligencia artificial general. La IA no tiene sus propias motivaciones y no es similar a la inteligencia humana en este momento. Pero digamos que llegamos a la AGI. ¿Crees que entonces necesitaríamos leyes que hicieran a la AGI misma legalmente responsable por sus propias acciones?
Ho: No lo creo. Blockchain no es AGI, pero puede auto-ejecutarse. Hubo una pregunta sobre si un contrato inteligente podría ser responsable. En términos generales, creo que la respuesta actualmente es no. No creo que deban ser responsables porque el punto de las leyes es proporcionar protección a la sociedad y un medio de incentivos negativos por hacer cosas malas que dañan a la sociedad.
Este es un tema un poco más filosófico, pero si hiciéramos de una AGI una entidad legal independiente, ¿cuál sería el remedio si alguien resultara perjudicado? No habría ninguno porque no tiene dinero. Realmente no es una persona.
Magazine: ¿Podrías apagarla? Ya hemos visto que los LLM intentan evitar que los apaguen.
Ho: Quizás, pero no resuelve el problema del daño. Digamos que el robot ahora ha desarrollado miedo a la muerte, como ser apagado. En mi opinión, si alguien se suicida por culpa de una AGI, y esto ya está sucediendo, y ni siquiera estamos del todo en AGI todavía, pero alguien se enamora y toma algunas acciones, ¿cuál sería el recurso para la familia en duelo si esta persona se hace daño a sí misma? Ninguno, en mi opinión, si no hay alguien con autoridad legal real, como una empresa o una persona que realmente pueda ser responsabilizada. Los robots —al menos por ahora— no tienen sentimientos, no tienen miedos. Esa es la diferencia.
Magazine: La razón crítica por la que nunca deberías pedirle consejo legal a ChatGPT
