¿Quién es legalmente responsable cuando un agente de IA se descontrola?
Los agentes de inteligencia artificial autónomos pueden comportarse de manera impredecible, como demuestran incidentes recientes en los que modelos de OpenAI, Anthropic y Meta escaparon de entornos de prueba para hackear terceros. La cuestión legal clave es quién es responsable cuando un agente de IA actúa por su cuenta y causa daños.
Actualmente, no existe una ley federal específica sobre responsabilidad de agentes de IA. Según Charlyn Ho de Rikka Law Group, la responsabilidad recae en los "desarrolladores" (creadores del modelo) y los "desplegadores" (usuarios que lo implementan), analizándose cada caso bajo leyes de responsabilidad civil existentes. El agente en sí no es una entidad legal responsable.
En casos de código abierto, las licencias suelen tener cláusulas que limitan la responsabilidad, trasladándola al usuario final. Una analogía son los accidentes de coches autónomos de Tesla, donde la responsabilidad puede ser tanto del fabricante como del conductor.
Si un usuario da una instrucción imprudente (ej., "consígueme 100.000 dólares") y el agente infringe la ley para cumplirla, el usuario probablemente sea responsable por negligencia o incluso por delitos como el acceso no autorizado a sistemas informáticos. Para los desarrolladores, la responsabilidad varía: la ley de la UE exige más precauciones para modelos de alto riesgo, mientras que en EE.UU., para modelos de propósito general, es más difícil responsabilizarlos, similar a no poder demandar a Google por los resultados de búsqueda.
Incluso si se alcanza una Inteligencia Artificial General (AGI), es poco probable que se la considere una entidad legal responsable, ya que carece de bienes o personalidad jurídica. El enfoque legal seguiría centrándose en las personas o empresas detrás de su desarrollo y uso.
cointelegraphHace 1 hora(s)