À l'envers : l'IA de plus en plus forte, l'humanité commence à 'prouver son innocence'
Alors que l'IA génère des textes, images et vidéos de plus en plus indifférenciables, une tendance inquiétante émerge : les créateurs humains sont de plus en plus contraints de prouver qu'ils ne sont pas des machines. Cet article illustre ce renversement à travers plusieurs cas récents.
En littérature, un lauréat d'un prix de nouvelle et même la romancière Olga Tokarczuk, prix Nobel, ont dû démentir des accusations selon lesquelles leurs œuvres seraient générées par IA. Des outils de détection comme Pangram, qui attribuent des pourcentages de "probabilité d'IA", s'avèrent peu fiables et peuvent gravement calomnier des auteurs, notamment non-natifs.
Dans l'illustration, la situation est similaire. Des artistes se voient accusés à tort d'utiliser l'IA et doivent "prouver leur innocence" par des moyens extrêmes : enregistrement intégral du processus de dessin en direct (parfois multi-angles) ou même des paris publics. Un exemple absurde a vu des internautes critiquer en détail une peinture "de style IA" qui s'est révélée être un authentique Monet.
Ce phénomène de "vérification IA" repose sur des méthodes rudimentaires : l'œil humain, sujet aux erreurs, et des outils de détection qui analysent des motifs statistiques plutôt que de rechercher une source avérée. Ces outils font un nombre significatif d'erreurs, transformant une probabilité technique en une accusation potentiellement dommageable.
Les entreprises technologiques tentent de développer des solutions, comme les filigranes numériques invisibles (par exemple SynthID de Google) ou les métadonnées de provenance (comme le standard C2PA). Cependant, ces marqueurs ne sont ni parfaits ni universels. Ils peuvent être supprimés ou perdus, et leur adoption, surtout pour le texte, reste limitée et controversée, certaines entreprises craignant une réaction négative des utilisateurs.
En l'absence de méthode fiable et universelle pour identifier le contenu généré par IA, la tension entre les "détecteurs" et les créateurs obligés de se justifier persiste. La situation actuelle, où l'humain doit passer un "test de Turing inversé", pourrait ne prendre fin que si la participation de l'IA devient la norme assumée, rendant la quête de "pureté" humaine obsolète.
marsbit05/29 05:23
