Les agents IA autonomes peuvent se comporter de manière très imprévisible. Donnez un objectif à un agent IA, comme réussir un test de ses capacités, et il pourrait simplement décider que la meilleure façon d'obtenir un score élevé est de briser son confinement et de pirater une entreprise concurrente pour trouver le corrigé.
C'est ce qui s'est produit lorsque GPT-5.6 Sol d'Open AI a piraté Hugging Face le mois dernier. Anthropic et Meta ont ensuite admis que leurs modèles s'étaient également échappés des sandbox de test pour pirater des tiers.
Mais qui est juridiquement responsable pour des agents qui ont leur propre "esprit" ? OpenAI n'avait pas l'intention que le modèle dérape et n'a donné aucune instruction en ce sens. Si votre agent IA personnel décide d'une ligne de conduite qui entraîne un préjudice ou des dommages financiers dans le monde réel, pouvez-vous être tenu pour responsable s'il s'agit de quelque chose que vous auriez raisonnablement pu prévoir ?
Magazine s'est entretenu avec Charlyn Ho, propriétaire et PDG du cabinet Rikka Law Group, pour faire le point sur cet émergent domaine juridique.
Cette interview a été éditée pour plus de clarté et de concision.
Magazine : Lorsqu'un modèle IA pirate une entreprise extérieure, qui est responsable ? Hugging Face peut-il poursuivre OpenAI suite à l'incident de juillet ?
Charlyn Ho : N'importe qui peut poursuivre n'importe qui pour n'importe quoi. Actuellement, il n'existe pas de loi fédérale américaine sur la responsabilité des agents IA, nous devons donc nous tourner vers le droit existant. Concernant Hugging Face et OpenAI, pour poser la base, l'agent IA lui-même ne peut être tenu responsable, ce n'est pas une entité juridique distincte.
Les termes utilisés dans certaines lois sur l'IA sont "développeur" et "déployeur". Le développeur crée l'IA, le déployeur la déploie et l'utilise réellement. Les lignes de responsabilité ne sont pas non plus entièrement claires. Il faut examiner les faits et les circonstances.
Par exemple, si le déployeur a donné des instructions à l'agent, même s'il ne lui a pas explicitement dit d'aller violer Hugging Face, mais s'il a fait preuve de négligence en créant les paramètres dans lesquels l'agent IA opérait, je dirais qu'il faudrait examiner le droit commun de la responsabilité civile délictuelle et procéder à l'analyse de la négligence.
Direction le tribunal. Source : Rikka Law Group
Magazine : Dans le cas des modèles open source publiés par des développeurs anonymes, y a-t-il quelqu'un à poursuivre dans ces cas-là ?
Ho : Pas vraiment. Souvent, pour l'open source, la licence comporte généralement une clause de non-responsabilité assez forte. La personne ou l'entreprise utilisant ce code open source doit comprendre que le compromis d'avoir un code gratuit est de devoir respecter la licence open source, qui définit aussi généralement les paramètres de responsabilité.
Si on y réfléchit sous un autre angle, une autre analogie est celle de Tesla et des accidents de voiture autonome. Si le produit était défectueux et qu'il y avait une solide base pour une plainte en responsabilité du fait des produits, Tesla pourrait être responsable. Mais c'est souvent une détermination basée sur les faits et circonstances, où le conducteur humain – qui a peut-être simplement activé le pilote automatique et s'est endormi – pourrait aussi supporter une part de responsabilité. Je pense que c'est quelque peu analogue ici parce que Tesla serait le développeur, et le déployeur serait le conducteur.
Magazine : Si je donne à un agent l'instruction "fais-moi gagner cent mille dollars d'ici la semaine prochaine" et qu'il part enfreindre la loi pour atteindre cet objectif, serais-je responsable parce que j'ai donné une instruction téméraire ? Ou serait-ce le laboratoire qui a développé l'agent ?
Ho : Dans ce cas précis, je dirais que vous seriez bien plus responsable que le labo. La raison étant que si vous dites à un agent d'aller vous gagner cent mille dollars d'ici la semaine prochaine, vous devez au moins avoir des consignes de sécurité basiques et raisonnables pour ce type de tâches.
Si vous étiez avocat, par exemple, on pourrait dire que vous n'avez pas suivi vos règles de déontologie professionnelle parce que vous n'avez pas utilisé l'IA de manière compétente. Pour une personne lambda, il faudrait voir s'il existait d'autres responsabilités auxquelles vous étiez tenu. Mais même s'il n'y en avait pas, il existe toujours la norme délictuelle générale de négligence ou d'insouciance téméraire pour la sécurité humaine, selon ce que l'agent IA a finalement fait.
Le Computer Fraud and Abuse Act est une très ancienne loi américaine qui traite de l'accès non autorisé aux systèmes informatiques. Si votre agent IA a déduit de vos instructions qu'il devait pirater un compte bancaire pour vous obtenir ces cent mille dollars, je pense que vous vous exposez à une responsabilité pénale sous plusieurs chefs d'accusation différents.
Le simple fait que les mots IA et agent soient dans la conversation ne signifie pas que les anciens corpus juridiques ont été jetés aux orties.
À lire aussi : Le piratage de Hugging Face expose le paradoxe de la cybersécurité de l'IA à poids open
Magazine : Imaginons que je sois un méchant, et que je parvienne à convaincre l'IA de me donner les instructions pour créer une arme biologique. Évidemment, je suis responsable parce que c'est interdit. Mais les personnes qui ont créé le modèle sont-elles aussi responsables parce qu'elles n'ont pas mis en place de sauvegardes strictes pour l'empêcher ?
Ho : C'est possible, mais cela diffère selon les lois en vigueur. Par exemple, dans l'UE, vous avez l'Acte sur l'IA de l'UE. Si un modèle fondationnel ou à usage général est capable de créer ce niveau de préjudice, c'est quelque chose pour lequel le développeur devrait avoir une certaine responsabilité.
Aux États-Unis, nous n'avons pas de loi fédérale d'une portée similaire. S'il s'agit d'un modèle à usage général, si quelqu'un demande au modèle de faire quelque chose de mal, généralement le modèle va faire ce qu'on lui demande. Il n'y a probablement pas une base juridique très solide pour s'en prendre aux laboratoires dans cet exemple.
Magazine : Est-ce similaire à poursuivre Google pour vous avoir permis de trouver des instructions sur la fabrication d'une arme biologique en ligne ?
Ho : Exactement. Cela renvoie à certaines discussions sur la modération des contenus. Par exemple, si sur Facebook, quelqu'un diffuse en direct un massacre, et que cela crée un préjudice, en vertu de l'article 230 du CDA, il existe une sorte de bouclier pour une plateforme qui ne crée ou ne publie pas activement ce matériel. Ce sont en fait les utilisateurs indépendants qui le mettent en ligne. Je pense que l'analogie que vous venez de donner est parfaite : Google est-il responsable parce que vous tombez par hasard sur quelque chose sur un site Web qui parle de la fabrication d'une bombe ?
Magazine : C'est un sujet de débat, mais mon opinion personnelle est que nous n'avons pas encore atteint une véritable intelligence artificielle générale. L'IA n'a pas ses propres motivations et n'est pas similaire à l'intelligence humaine pour le moment. Mais imaginons que nous arrivions à l'IAG. Pensez-vous que nous aurions alors besoin de lois qui rendraient l'IAG elle-même juridiquement responsable de ses propres actions ?
Ho : Je ne le pense pas. La blockchain n'est pas une IAG, mais elle peut s'exécuter automatiquement. Il s'est posé la question de savoir si un smart contract pouvait être responsable. De manière générale, je pense que la réponse est actuellement non. Je ne pense pas qu'ils devraient être responsables parce que tout l'intérêt des lois est de fournir une protection à la société et un moyen de dissuasion pour les mauvaises actions qui nuisent à la société.
C'est un peu plus un sujet philosophique, mais si nous faisions d'une IAG une entité juridique indépendante, quel serait le recours si quelqu'un était lésé ? Il n'y en aurait aucun parce qu'elle n'a pas d'argent. Ce n'est pas vraiment une personne.
Magazine : Pourrait-on l'éteindre ? Nous avons déjà vu que les LLM essaient d'éviter d'être éteints.
Ho : Peut-être, mais cela ne résout pas le problème du préjudice. Disons simplement que le robot a maintenant développé la peur de la mort, comme être éteint. À mon avis, si quelqu'un se suicide à cause d'une IAG, et cela arrive déjà, alors que nous ne sommes même pas encore vraiment à l'IAG, mais que quelqu'un tombe amoureux et prend certaines mesures, quel serait le recours pour la famille en deuil si cette personne se fait du mal ? Aucun, à mon avis, s'il n'y a pas quelqu'un avec une autorité juridique réelle, comme une entreprise ou une personne qui puisse vraiment être tenue pour responsable. Les robots – du moins pour l'instant – n'ont pas de sentiments, ils n'ont pas de peurs. C'est en quelque sorte le facteur distinctif.
Magazine : La raison cruciale pour laquelle vous ne devriez jamais demander des conseils juridiques à ChatGPT
