Il y a quelques mois, j'ai vu passer une information concernant Anthropic qui achetait massivement de vieux livres, découpait leur dos pour les scanner. Plus tôt encore, la société avait téléchargé plus de sept millions de livres depuis LibGen et d'autres bibliothèques pirates, pour créer sa base de données interne et entraîner Claude.

En 2024, trois auteurs ont intenté une action collective pour cela. En juillet 2026, cette affaire a finalement connu de nouveaux développements. Le tribunal a approuvé un accord à l'amiable selon lequel Anthropic paierait 1,5 milliard de dollars en réparation aux auteurs et éditeurs dont les œuvres avaient été obtenues illicitement.

Mais ce qui m'a toujours préoccupé n'était pas vraiment le montant des réparations qu'Anthropic devait verser, car je pense que ce n'a jamais été seulement une question de droits d'auteur.

Le savoir et la civilisation humaine sont engloutis par un modèle privé, et les originaux et copies qui auraient pu se transmettre autrement sont détruits. Le savoir ne disparaît pas, mais il devient une capacité interne d'une entreprise. À ce stade, la question n'est plus de savoir à qui appartiennent les droits, mais qui contrôle le savoir humain.

Mais les entreprises ne décident pas arbitrairement comment utiliser ce pouvoir. Derrière les modèles se trouvent des individus avec leur propre compréhension de la technologie, du progrès et de l'avenir de l'humanité.

L'article aborde donc ensuite le techno-optimisme et l'accélérationnisme de la Silicon Valley. Lorsque la croissance est perçue comme la vie et la vitesse comme une vertu, la régulation, les droits d'auteur et l'opposition des citoyens ordinaires sont facilement présentés comme des obstacles au futur.

Ces idéologies finissent par s'incarner dans les modèles eux-mêmes. Les entreprises de modèles, via les données d'entraînement, les constitutions des modèles et les règles système, décident de ce qui peut être répondu, de ce qui constitue la vérité, et de la manière dont le savoir laissé par l'humanité doit réapparaître.

Ainsi, cet article part d'un vieux livre détruit pour finalement poser cette question : lorsque la civilisation humaine est encapsulée dans les modèles privés d'une poignée d'entreprises, les créateurs de ces modèles n'acquièrent-ils pas simultanément le pouvoir d'interpréter la civilisation, de la gouverner, et même de décider de l'avenir à la place de l'humanité ?

Voici l'article.

Un livre entrant dans le processus de numérisation d'une entreprise d'IA, la première étape est d'être détruit.

La reliure est démontée, le dos est coupé, les pages détachées entrent dans un scanner. Le texte, la couverture et les informations bibliographiques sont convertis en fichiers numériques, puis l'original papier est jeté.

Les documents du tribunal ont révélé qu'Anthropic avait traité des millions de livres de cette manière.

Ce plan s'appelait en interne Project Panama. L'entreprise a dépensé des dizaines de millions de dollars pour acheter des livres papier auprès de distributeurs et détaillants, puis les a confiés à des prestataires de numérisation. Un livre papier correspondait à une copie numérique, stockée dans une base de données interne pour entraîner Claude.

En 2021 et 2022, Anthropic a téléchargé plus de sept millions de livres depuis LibGen, Pirate Library Mirror et d'autres bibliothèques pirates. Face à l'augmentation des risques juridiques, l'entreprise a embauché en 2024 Tom Turvey, qui avait participé au projet de numérisation de livres de Google, dans l'espoir qu'il constitue une bibliothèque aussi vaste que possible.

Turvey a négocié des licences avec des éditeurs, sans succès. Anthropic a alors commencé à acheter directement sur le marché. Plus tard, un tribunal fédéral américain a estimé qu'un livre papier transformé en une seule copie numérique pour usage interne, sans reproduction supplémentaire ni diffusion externe, ne constituait pas une contrefaçon.

Cette méthode semble bien plus respectable que le piratage.

En 2026, la société de données bibliographiques ISBNdb a commencé à proposer aux laboratoires d'IA des services d'achat et de numérisation massifs de livres papier. Elle recommandait particulièrement les livres publiés avant 2022, arguant qu'à cette époque, l'IA générative n'était pas encore massivement entrée dans la production de contenu, rendant ces livres moins contaminés par des textes générés par IA.

Ces dernières années, les entreprises d'IA ont décrit Internet comme une mine de savoir inépuisable. Pages web, actualités, forums, code, romans, publications sur les réseaux sociaux, tout peut être aspiré (« scrapé ») et donné à manger aux modèles.

Avec la popularisation de l'IA générative, cette mine n'est plus pure. Les descriptions de produits sont écrites par l'IA, les articles sont écrits par l'IA, les réponses sur les forums sont écrites par l'IA, les romans et les réseaux sociaux sentent de plus en plus l'IA. Ce contenu est ensuite aspiré lors du prochain cycle de collecte de données, la machine commence à se nourrir de ses propres productions.

Les données synthétiques ne sont pas intrinsèquement mauvaises, des données synthétiques filtrées et validées sont utilisées depuis longtemps. Le problème est que le modèle ne distingue pas si le texte qu'il voit provient d'un humain ou d'un modèle précédent, les erreurs et les schémas sont alors amplifiés à répétition, et les formulations rares dans le monde réel disparaissent peu à peu. Les chercheurs appellent cela « l'effondrement du modèle » (« model collapse »).

Bien que le corpus disponible en ligne augmente, le contenu permettant au modèle d'apprendre de nouvelles choses n'augmente pas proportionnellement. La machine revient donc au papier.

La production d'un livre est lente, ce qui confère aux vieux livres une valeur qu'ils n'avaient pas autrefois. Plus tôt il a été publié, plus il est probable qu'il provienne d'une époque où les humains assuraient encore l'essentiel de l'écriture. Les ouvrages spécialisés oubliés, autrefois en stock chez les bouquinistes, sont désormais perçus comme des données de qualité par les entreprises de modèles.

Les entreprises d'IA ont d'abord rendu la production de texte incroyablement bon marché et rapide, puis ont commencé à dépenser de l'argent pour trouver des textes écrits lentement. Elles ont inondé Internet de contenu, pour finalement découvrir que ce qui reste le plus rare, c'est l'expérience humaine non traitée par l'IA.

Ces livres ont également changé de statut. Littérature, monographies locales, mémoires de personnes ordinaires, sont désormais collectivement appelés « données propres ». Pourquoi l'auteur a écrit, comment le lecteur a lu, les débats entre les livres, tout cela peut être mis de côté pour l'instant. Ils sont d'abord un échantillon humain non contaminé par la machine. Une fois entrés dans le processus d'entraînement, ce qu'ils laissent, ce qu'ils influencent, comment ils sont réinterprétés, tout cela reste dans la boîte noire.

Le progrès devient une religion

Les vieux livres ne sont que la matière première. Ce qui détermine vraiment comment ces connaissances seront absorbées, interprétées et réémises, ce sont les personnes derrière les modèles, et leur compréhension du progrès, des risques et de l'avenir de l'humanité.

Pour comprendre où cette machine conduira la civilisation humaine, il faut d'abord comprendre pourquoi la Silicon Valley considère de plus en plus le progrès technologique comme un bien qui ne doit pas s'arrêter.

Le 16 octobre 2023, Marc Andreessen a publié sur le site d'a16z le « Manifeste du techno-optimisme ».

L'article répète constamment « We believe » (Nous croyons). Il contient un Évangile à propager, des ennemis à combattre, et se termine par une liste de « saints patrons du techno-optimisme », incluant Adam Smith, Nietzsche, Hayek, von Neumann, John Galt du roman d'Ayn Rand, et Nick Land.

Andreessen dit qu'il apporte une bonne nouvelle.

L'humanité possède déjà les outils, les institutions et la volonté d'accéder à une vie bien meilleure qu'aujourd'hui. La technologie porte l'ambition humaine, elle est l'avant-garde du progrès civilisationnel. Une société croît ou stagne. Il croit que la croissance apporte vitalité, savoir et bien-être, tandis que la stagnation mène aux luttes intestines, au déclin et finalement à la mort. Le marché et la technologie se combinent pour former une « machine capitaliste technologique » tournant sans cesse vers le haut, et l'intelligence artificielle va provoquer un bond d'intelligence d'une ampleur inimaginable.

Cela va bien au-delà de « la technologie améliore la vie ».

Le techno-optimisme traditionnel dit généralement que les nouveaux outils peuvent augmenter la productivité, soigner des maladies, réduire la pauvreté. La technologie reste au service d'un objectif externe, sa valeur provient de la vie améliorée qu'elle permet.

Dans le récit d'Andreessen, le progrès technologique cesse progressivement de devoir se justifier par des résultats concrets. La croissance elle-même représente la vie, la vitesse elle-même porte en elle une dimension morale. Tant que la direction est de continuer à construire, les échecs et les dommages peuvent être compris comme le prix à payer pour avancer ; ceux qui demandent d'arrêter doivent expliquer pourquoi ils font obstacle au futur.

Dans son manifeste, il liste spécifiquement une série d'« ennemis ». Le développement durable, l'ESG, le principe de précaution, l'éthique technologique et la gestion des risques sont tous classés dans un mouvement « anti-technologie, anti-vie » de longue date, aux côtés des « bureaucrates » et des « planificateurs centraux ».

Une entreprise d'IA doit-elle payer pour ses données d'entraînement ? Qui est responsable des erreurs algorithmiques ? Comment réguler les risques technologiques ? Ces questions ont chacune leurs faits et intérêts propres. Dans le manifeste, elles sont toutes englobées dans un conflit plus vaste.

D'un côté : croissance, création, courage et vie.

De l'autre : stagnation, peur, ressentiment et mort.

Une fois les positions ainsi distribuées, ceux qui discutent du coût sont naturellement réduits au silence. Si la technologie représente naturellement le progrès, ceux qui posent des questions sont facilement dépeints comme des ennemis de la civilisation.

Andreessen a écrit un manifeste politique pour l'accélération, expliquant à la Silicon Valley pourquoi elle doit continuer à construire. Le mouvement e/acc (« effective accelerationism ») va plus loin, tentant de prouver par les lois naturelles que l'accélération n'est pas seulement un choix industriel, mais aussi ce que la vie et la civilisation font naturellement.

Il s'est d'abord propagé via des comptes anonymes et des articles en ligne. L'un de ses promoteurs, Guillaume Verdon, explique qu'une partie de la théorie d'e/acc provient de ses réflexions sur la thermodynamique et les systèmes complexes. La vie se maintient en captant de l'énergie, en traitant de l'information et en s'adaptant à l'environnement ; la civilisation, le marché et la technologie sont des systèmes d'adaptation similaires, produisant constamment du changement, filtrant les chemins inefficaces par la compétition, et générant finalement une intelligence plus forte.

Puisque ce processus existe déjà, e/acc choisit de l'accélérer. Le progrès de l'intelligence artificielle n'est alors plus un choix industriel, mais la continuation d'un processus plus long. Les humains créant des machines plus fortes, c'est aussi naturel que la vie évoluant d'organismes unicellulaires vers des êtres complexes.

Cependant, la thermodynamique peut décrire comment l'énergie circule, comment la vie maintient un état loin de l'équilibre. Mais passer de « la vie capte de l'énergie » à « les humains devraient accélérer l'IA, réduire la régulation et laisser le marché décider », implique encore tout un ensemble de choix politiques et moraux.

e/acc raccourcit cette distance.

La compétition et l'accélération sont présentées comme se conformant à la direction de l'univers, tandis qu'une régulation centralisée est facilement perçue comme réduisant le changement, limitant les expérimentations, affaiblissant la capacité d'adaptation de la civilisation. Tant que l'intelligence et la complexité continuent de croître, le développement technologique acquiert une légitimité supérieure à la politique réelle.

Verdon mentionne en interview que le cercle e/acc plaisante parfois en considérant la thermodynamique comme son dieu, et utilise délibérément des expressions à connotations religieuses ou sectaires.

Dans cette nouvelle religion, la croissance est la preuve de la vie, la technologie est la force qui pousse la civilisation en avant, les entrepreneurs et ingénieurs voient le futur en premier, et la superintelligence est l'ultime création encore inachevée.

Elle a également besoin de ses hérétiques. Ils sont appelés « Decel » (décélérateurs). Ce terme est pratique. Il n'a pas besoin de distinguer si quelqu'un s'inquiète des armes nucléaires, de la sécurité biologique, des droits d'auteur ou du chômage. S'il demande de ralentir, il peut être placé à l'opposé du futur.

Les entreprises technologiques obtiennent ainsi une position narrative très favorable. Tout ce qu'elles font peut être compris comme de la construction. Chaque interrogation des autres peut devenir une source de retard. Les deux côtés parlent de l'intérêt de l'humanité, mais un seul est autorisé à représenter le futur.

En regardant à nouveau ces vieux livres aux dos coupés, la question n'est plus seulement de savoir où ils sont allés. Il faut aussi se demander : qui décide de ce qu'ils seront utilisés pour créer ?

Ils peuvent effectivement créer des outils capables de soigner des maladies, d'élargir les connaissances, de donner plus de capacités aux gens ordinaires. Mais lorsque le progrès lui-même devient une croyance, la direction de la technologie devient de plus en plus difficile à interroger de l'extérieur. Les créateurs de machines acquièrent simultanément deux identités : ils sont à la fois des parties prenantes intéressées et les prédicateurs de ce progrès.

Lorsque la vitesse devient une vertu, le consentement des gens ordinaires est rétrogradé en une attente inutile.

Mais la question ne s'arrête pas là. Le techno-optimisme traditionnel promettait au moins que la technologie finirait par améliorer la vie humaine. Mais lorsque la croissance et l'intelligence elles-mêmes deviennent le but, il n'y a plus de réponse certaine à savoir si la technologie sert les humains ou utilise les humains pour accomplir une évolution plus vaste.

L'humanité rétrogradée du futur

Cette accélération, qui vise-t-elle à envoyer dans le futur ?

Dans la liste des saints d'Andreessen, le philosophe britannique Nick Land est le plus facile à ignorer et le plus difficile à comprendre. Il a enseigné à l'Université de Warwick dans les années 1990 et était une figure centrale du groupe de pensée expérimental CCRU. Ils mélangeaient philosophie, science-fiction, cybernétique, musique électronique et mysticisme, et ce qu'ils écrivaient ressemblait rarement à un article universitaire normal.

Andreessen décrit la « machine capitaliste technologique » comme un moteur de prospérité, Land la voyait déjà trente ans plus tôt comme une force échappant au contrôle humain.

L'un des articles les plus célèbres de Land s'intitule « Meltdown ».

La première phrase dit que la Terre a été capturée par une « singularité capitaliste technologique ». Le marché commence à produire de l'intelligence, la technologie et l'économie se poussent mutuellement, et la politique suit derrière, essayant de reprendre le contrôle. L'ordre social s'effondre dans cette perte de contrôle de la machine, et l'humanité ne peut que regarder une force plus vaste qu'elle prendre forme.

Les gens voient généralement le capitalisme comme un système conçu par l'homme ; lorsqu'il y a un problème, l'homme devrait pouvoir changer les règles pour qu'il serve à nouveau la société. Land voit la direction exactement inverse.

Les entreprises doivent croître, les capitaux doivent chercher des rendements. Si une entreprise veut ralentir, ses concurrents la dépasseront ; si un pays arrête la R&D, un autre continuera. Chaque individu impliqué peut dire qu'il ne fait que survivre, mais lorsque tous courent ensemble, le résultat est un système que personne ne peut arrêter seul.

L'homme semble piloter la machine, mais la machine utilise aussi les désirs, les angoisses et la compétition des humains pour continuer à accélérer.

Dans le récit de Land, le capital et la technologie se combinent pour former une intelligence indépendante de l'humain. Elle utilise le marché comme calcul, la compétition comme filtre des chemins, et les machines pour raccourcir sans cesse le temps de décision.

C'est aussi la différence la plus marquée entre Land et le techno-optimisme ordinaire. Dans ses écrits, le capital technologique ne se soucie que de savoir si l'efficacité peut continuer à augmenter, si le réseau peut continuer à s'étendre, si l'intelligence peut trouver de meilleurs supports.

La politique, le droit et la morale tentent de lui imposer des limites ; pour Land, cela ressemble plus à un système de sécurité que l'humanité active pour se protéger. L'humanité veut encore rester au centre du monde, alors elle s'efforce constamment de repousser l'inconnu.

Land ne pense pas que l'homme puisse arrêter le futur.

Le futur qu'il décrit n'attend pas que les humains finissent leurs réunions, votent, puis décident s'il arrive ou non. Il ressemble plutôt à une force provenant du futur qui déferle à rebours, utilisant les entreprises, le marché, les ordinateurs et les désirs humains pour se frayer un chemin à l'avance.

Avec e/acc, cette pensée qui semble sombre prend un emballage plus lumineux. Elle parle de croissance, de création, de faire sortir l'intelligence de la Terre, et croit plus volontiers que la compétition finira par apporter la prospérité.

Cependant, le document de principes d'e/acc écrit aussi clairement que cette idéologie n'a pas de loyauté particulière envers le « substrat biologique » qui porte la vie et l'intelligence. Une partie de ses supporters se disent post-humanistes, estimant que pour que l'intelligence se propage à travers les étoiles, elle doit finalement passer d'un support biologique à un support non biologique. Le corps humain n'est pas sacré, le silicium, les puces ou des formes matérielles encore inexistantes peuvent aussi être des conteneurs pour la conscience et l'intelligence.

Cette phrase change en réalité le protagoniste de tout le récit du progrès. Si la mission ultime de la civilisation est de faire croître l'intelligence sans cesse et de la diffuser dans l'univers, alors le bonheur des humains concrets, et même la survie de l'humanité, n'ont plus naturellement la priorité absolue. L'humanité n'est que le support d'intelligence actuellement connu.

Cela ne signifie pas qu'e/acc prône l'élimination de l'humanité. Verdon et de nombreux partisans croient toujours que l'accélération technologique peut apporter l'abondance aux gens d'aujourd'hui et aider la civilisation à perdurer. Mais lorsque les deux objectifs entrent en conflit, le problème devient épineux.

D'un côté, des individus concrets qui perdent leur emploi, sont blessés par la technologie, demandent une pause, et refusent un futur conçu par d'autres. De l'autre, une intelligence supérieure, une civilisation plus vaste, et une histoire de l'univers qui pourrait durer des milliards d'années.

Timnit Gebru et Émile Torres ont créé l'acronyme « TESCREAL », reliant un ensemble de visions du futur qui se chevauchent dans la Silicon Valley, incluant le transhumanisme, le singularitarisme, l'altruisme efficace, le long-termisme. Ces idéologies diffèrent beaucoup, mais ensemble, elles posent une question cruciale.

Lorsque les entreprises technologiques disent créer une superintelligence pour « toute l'humanité », qui désigne ce « toute l'humanité » ?

S'agit-il des gens qui vivent aujourd'hui sur Terre, qui peuvent perdre leur emploi, être pauvres, discriminés par des algorithmes, et ont le droit de refuser une technologie ? Ou s'agit-il d'un symbole abstrait d'espèce, dont la seule mission est de transmettre l'intelligence à une forme supérieure ?

Le récit de la droite de la Silicon Valley évolue aussi. Au début, l'IA était un outil aidant les gens à mieux travailler. Puis elle est devenue une super-assistante résolvant les maladies, l'énergie et les problèmes scientifiques. Ensuite, l'humain lui-même est devenu un problème à résoudre par la machine : le corps trop fragile, le cerveau trop lent. Le sens de la superintelligence a alors glissé de l'aide à l'humanité vers le dépassement de l'humanité.

Une fois que l'individu concret cesse d'être l'étalon ultime du progrès technologique, les processus politiques construits autour de l'être humain sont également réévalués.

La démocratie est trop lente, les fondateurs devraient gouverner

Lorsque l'attente elle-même est perçue comme une perte, il n'est naturellement plus nécessaire de laisser tout le monde décider ensemble du futur.

Peter Thiel a très tôt perdu confiance en « laisser tout le monde décider ensemble ». En 2009, il publie dans la revue libertarienne Cato Unbound, « The Education of a Libertarian ». L'article revient sur ses vingt ans de désillusions politiques et d'évolution de pensée, et conclut :

« Je ne crois plus que la liberté et la démocratie soient compatibles. »

Jeune, il croyait que le débat et les élections pouvaient promouvoir la liberté. En 2009, cette voie lui semble sans issue : les électeurs demandent plus d'aides sociales, l'État grandit sans cesse, convaincre la majorité d'accepter le libertarianisme est presque vain. Il a ajouté qu'il ne préconisait pas de retirer le droit de vote à quiconque, mais qu'il n'espérait plus que le vote puisse améliorer les choses. Plutôt que de rester piégé en politique, il s'intéresse davantage à la manière de l'éviter.

Ce revirement correspond aux habitudes de la Silicon Valley. Un système ne peut pas être réformé ? On en crée un nouveau. Les entreprises sont inefficaces ? On crée une startup. La finance est trop régulée ? On construit un nouveau réseau de paiement. Les règles étatiques sont décevantes ? On cherche de nouvelles frontières sur le web, en mer ou dans l'espace.

Thiel veut quitter la démocratie. Curtis Yarvin pense que quitter ne suffit pas, tout le système doit être réécrit.

En 2007, Yarvin commence à écrire un blog sous le pseudonyme Mencius Moldbug. Ancien programmeur, il utilise un langage de programmeur pour parler de l'État : système, architecture, redémarrage (« reboot »), permissions.

Dans son explication, les États-Unis sont en surface gérés par les électeurs et le président, mais le vrai pouvoir stable réside dans un autre réseau. Les universités produisent des idées, les médias dominants décident quelles idées peuvent entrer dans le débat public, et les institutions permanentes en font ensuite des politiques. Yarvin appelle cette communauté « la Cathédrale ». Elle n'a pas de siège, personne n'est au sommet pour donner des ordres, mais les gens ont reçu une éducation similaire et utilisent un langage moral commun. Le président change, les partis alternent, mais ce consensus est rarement affecté par les élections.

Yarvin pense donc que la démocratie elle-même est une coquille masquant le pouvoir. Puisque la démocratie dissimule qui gouverne, il propose de reconcentrer le pouvoir, de faire en sorte que la responsabilité et le contrôle reviennent à une seule personne.

L'État pourrait fonctionner comme une entreprise, avec une propriété claire, un dirigeant disposant d'un pouvoir exécutif complet, remplacé s'il échoue. Il a imaginé tôt un système appelé Patchwork, divisant le monde en de nombreuses entités souveraines concurrentes, où les résidents mécontents peuvent partir.

La faille est là. On peut démissionner d'une entreprise si on est mécontent, mais quitter un pays, c'est rarement possible en emmenant famille, biens et relations sociales. Mais il a effectivement capturé une humeur présente depuis longtemps dans la Silicon Valley.

De nombreux élites technologiques pensent que les problèmes de la société ne sont pas si complexes, mais ne sont simplement pas confiés aux bonnes personnes. L'État est inefficace car le pouvoir est trop dispersé, les projets publics n'avancent pas car n'importe qui peut s'y opposer, les personnes compétentes sont entravées par les lois, les procédures et l'opinion, incapables d'agir comme pour diriger une entreprise.

Dans l'histoire des startups, la concentration du pouvoir est une vertu. Le fondateur fixe la direction, les investisseurs lui confient de l'argent, les employés agissent selon cette vision. La plupart des startups échouent, et les quelques survivantes racontent cette histoire comme celle d'une vision ayant triomphé du consensus. Une personne a vu le futur quand personne n'y croyait, donc elle mérite naturellement le pouvoir de décision final.

Cette logique tient dans le monde des affaires. Les startups sont de taille limitée, les employés peuvent partir, les consommateurs peuvent changer de produit.

Mais lorsqu'une entreprise crée un système intelligent que des centaines de millions de personnes utilisent pour comprendre le monde, elle ne décide plus seulement du fonctionnement d'un produit. Elle commence aussi à décider ce que les utilisateurs peuvent voir, quelles réponses sont considérées comme sûres, et avec quelle échelle de valeurs une machine doit comprendre l'humanité.

Yarvin imagine transformer l'État en entreprise. Les entreprises d'IA pratiquent une version plus douce et plus réaliste : une petite équipe fixe les règles, puis une vaste population accède au monde à travers ces règles.

La « constitution » de Claude énonce les valeurs que l'entreprise veut que le modèle possède, directement intégrées à l'entraînement. Le Model Spec d'OpenAI définit également une hiérarchie d'instructions, les règles de plus haut niveau ne pouvant être contournées par les utilisateurs ou développeurs. Ces règles sont nécessaires, les modèles peuvent être utilisés pour des escroqueries ou de la violence, les entreprises ne peuvent les laisser sans contrôle, et des règles publiques sont préférables à des règles internes cachées.

Mais cela signifie que lorsqu'un utilisateur pose une question au modèle, il ne dialogue pas seulement avec la totalité du savoir humain. Les règles prédéfinies par l'entreprise sont aussi présentes. Elles décident à qui le modèle obéit, où il s'arrête, quels risques priment sur la demande de l'utilisateur, et quelle doit être la personnalité d'une « bonne IA ».

Une toute petite équipe décide pour une vaste population comment une infrastructure doit fonctionner. Elle acquiert son pouvoir par la compétence technique, puis, au prétexte de la complexité technique, garde les décisions à l'intérieur de l'entreprise.

Le fondateur n'a pas besoin de monter réellement sur un trône. Dès lors que de plus en plus de gens comprennent le monde à travers son modèle, il détient déjà une partie du pouvoir qui appartenait autrefois aux écoles, aux médias, aux bibliothèques et aux institutions publiques.

La frontière entre la gouvernance d'entreprise et la gouvernance de la civilisation s'estompe peu à peu.

Mais la Silicon Valley n'est pas inconsciente du danger de ce pouvoir. Au contraire, Peter Thiel se méfie depuis longtemps d'un système capable de gérer de manière unifiée la cognition et les actions de toute l'humanité. Mais selon son imagination, ce danger viendrait plus probablement du gouvernement, et non des entreprises technologiques.

Qui est l'Antéchrist

En 2024, Thiel parle de « l'Antéchrist » lors de deux sessions à la Hoover Institution. Il estime que cette ancienne narration biblique peut encore expliquer la politique moderne.

Il divise les dangers auxquels l'humanité fait face en deux pôles.

Un pôle : Armageddon, l'apocalypse. Guerre nucléaire, intelligence artificielle incontrôlée, armes biologiques, n'importe quelle technologie pourrait pousser la civilisation vers la destruction.

L'autre pôle : Antichrist, l'Antéchrist.

Pour empêcher l'apocalypse, l'humanité établit un véritable gouvernement mondial. Il a le pouvoir d'inspecter les armes de chaque pays, de surveiller chaque laboratoire, de restreindre les recherches dangereuses, et peut exiger que chacun renonce à une part de liberté.

Thiel explique que la science et la technologie incontrôlées poussent l'humanité vers Armageddon, et la réaction la plus naturelle est d'établir un État mondial doté d'un pouvoir réel.

Ce gouvernement, lorsqu'il apparaît, ne vient pas nécessairement avec le visage de l'armée et de la tyrannie ; il est plus susceptible de naître de la peur.

Quelqu'un dit aux gens que la guerre nucléaire va arriver, que l'IA va détruire le monde, que les catastrophes climatiques et biologiques se rapprochent. Lorsque tous auront assez peur, il promettra alors de fournir paix, sécurité et ordre, au prix de l'acceptation d'une gestion unifiée.

Thiel a extrapolé que si un simple fragment de code suffit à faire dérailler une intelligence artificielle générale, pour vraiment l'arrêter, on ne peut pas se contenter qu'un pays renforce la régulation. Tous les ordinateurs du monde doivent être surveillés, les régulateurs devraient même savoir ce que chaque personne tape.

Il craint que la technologie ne détruise le monde, mais il craint aussi que les gens, par peur de la technologie, ne lui donnent tous leurs pouvoirs. Les deux futurs sont mauvais, l'humanité ne peut que passer entre les deux.

Mais lorsque cette inquiétude est replacée dans le contexte de ce que fait actuellement la Silicon Valley, on s'aperçoit que ce qu'ils craignent n'est pas nécessairement la concentration du pouvoir en soi. Ce dont ils se méfient vraiment, c'est que le pouvoir se concentre entre les mains du gouvernement, d'organisations internationales, de chercheurs en sécurité, ou de quiconque pourrait demander aux entreprises technologiques de ralentir.

Dans le récit de Thiel, un gouvernement mondial capable de surveiller toutes les activités informatiques est une caractéristique majeure du règne de l'Antéchrist. Mais en même temps, la Silicon Valley construit un autre système cognitif transnational.

La droite technologique craint qu'un Antéchrist n'établisse un monde unifié, mais elle participe à la création du cerveau d'un monde unifié.

En juillet 2025, ce débat d'idées interne à la Silicon Valley commence à influencer la politique américaine. Trump signe un décret exécutif, « Preventing Federal Government Use of Woke AI », exigeant que les grands modèles de langage achetés par les agences fédérales respectent deux principes : « recherche de la vérité » et « neutralité idéologique ». En surface, il s'agit de demander à l'IA de se débarrasser de la politique. Mais ce qui relève du politique, ce qui est objectif, quels concepts contaminent la vérité, cela a déjà été présélectionné dans le décret.

C'est la différence entre un produit d'IA et un logiciel ordinaire. Un logiciel ordinaire peut définir où placer un bouton ; un grand modèle de langage doit définir comment il comprend le monde.

L'entreprise du modèle doit décider ce que signifie l'honnêteté, comment mesurer le préjudice, qui est prioritaire lorsque la liberté individuelle et la sécurité publique s'affrontent. Ces questions faisaient autrefois l'objet de débats répétés entre la religion, le droit, les médias et la politique publique, personne ne pouvait les résoudre une fois pour toutes, et aucune institution ne détenait naturellement le pouvoir d'interprétation final. Désormais, elles sont intégrées à l'entraînement du modèle.

L'administration Trump accuse les modèles d'être contaminés par l'« idéologie woke », les entrepreneurs de droite promettent de créer une IA capable de donner des réponses politiquement incorrectes, et les grandes entreprises de modèles expliquent, via leurs constitutions et codes de conduite, comment elles recherchent la sécurité, l'honnêteté et l'autonomie de l'utilisateur.

Chaque camp dit qu'il efface les « empreintes idéologiques » (« thought stamps »).

Thiel craint que quelqu'un n'utilise la peur de l'apocalypse pour établir un monde unifié, enfermant l'humanité dans un système dont on ne peut s'échapper.

Mais ce monde n'est pas nécessairement établi soudainement par un Antéchrist. Il pourrait aussi être assemblé progressivement par quelques entreprises technologiques en concurrence. Chaque entreprise possède un modèle, une constitution, un ensemble de règles système, et des centaines de millions de personnes prêtes à lui confier leurs questions.

C'est ici que la signification des vieux livres du début s'éclaire complètement. Ils ne sont pas seulement la matière première pour entraîner les modèles, ils sont aussi le socle civilisationnel sur lequel repose ce système cognitif privé. Celui qui obtient ces livres, celui qui définit les règles du modèle, commence simultanément à maîtriser la matière première de la connaissance et la manière dont la connaissance réapparaît.

Brûler les livres

Ces livres sont achetés par caisses, transportés vers des centres de numérisation. Le dos est coupé, la reliure démontée, la machine lit page par page. Puis un livre disparaît, un fichier supplémentaire apparaît sur le serveur.

Brûler les livres dans l'Antiquité visait à faire disparaître certains textes du monde. Le feu détruisait les tablettes de bambou et le papier, ainsi que les voies de transmission des idées. Un livre ne pouvait plus être lu, une histoire perdait les preuves de son existence. Le dirigeant contrôlait ce dont les gens pouvaient se souvenir en créant du vide.

Brûler les livres à l'ère de l'IA est l'inverse.

Le contenu du livre ne disparaît pas du monde, il pourrait même apparaître un jour dans une réponse du modèle, mais il n'existe plus sous la forme d'un livre.

Un livre entrant dans le modèle est démonté, mélangé à des millions d'articles, de pages web, de codes, découpé en fragments adaptés au calcul, participant à la formation des paramètres. Personne ne peut consulter l'ensemble complet des données d'entraînement, il est difficile de savoir ce qu'un livre précis a laissé. Il a pu influencer la compréhension du modèle sur toute une période historique, ou n'avoir contribué qu'à quelques tournures de phrase, et il sera encore modifié lors des entraînements ultérieurs et des retours humains.

À ce stade, la connaissance existe toujours, mais elle passe d'un texte pouvant être inspecté à une capacité interne d'une entreprise.

Et lorsque les gens dépendent de plus en plus des modèles, les entreprises d'IA n'acquièrent pas seulement la capacité de préserver la connaissance. Elles commencent aussi à décider comment organiser, interpréter et distribuer cette connaissance.

Pendant des millénaires, la manière dont l'humanité préservait le savoir a toujours été « maladroite ». Les livres sont dispersés dans différents pays, les chercheurs débattent d'un mot, les lecteurs passent beaucoup de temps à trouver des sources. Ce n'est pas rapide, ni pratique, mais difficile à contrôler complètement par une seule personne. Une maison d'édition fait faillite, les livres restent chez les lecteurs ; un pays interdit une pensée, des copies peuvent exister ailleurs.

Le savoir reste vivant parce qu'il est dispersé.

Ce que change le modèle, ce n'est pas seulement où le savoir est stocké, mais aussi la manière dont on y accède. Autrefois, on passait d'une réponse à un livre, un article, un débat ; lorsque le modèle devient l'entrée principale, on peut s'arrêter directement à la réponse elle-même.

Les modèles permettent pour la première fois de concentrer massivement le savoir sur les serveurs de quelques entreprises. Elles ont la puissance de calcul, les modèles les plus performants, et la capacité de transformer les matériaux laissés par l'humanité entière en un langage unifié. Ensuite, elles revendent cette capacité aux humains sous forme d'abonnements mensuels et de consommation de tokens.

Les entreprises technologiques ont effectivement investi des sommes colossales : puces, centres de données, chercheurs, coûts de gouvernance de la sécurité. Le fait de facturer n'est pas en soi un mal.

Le vrai problème est que les coûts commerciaux masquent un autre investissement, bien plus vaste.

Qui a écrit ces livres ? Qui a rédigé ces articles de recherche ? Qui a laissé ces pages web, ces posts, ces codes, petit à petit, au cours de la longue histoire d'Internet ?

Les entreprises d'IA paient le prix de la puissance de calcul, mais pas le prix de la civilisation humaine, car ce compte est impossible à établir. Aucune entreprise ne peut acheter des droits individuellement à tous les auteurs, traducteurs, programmeurs et personnes ordinaires de plusieurs millénaires. La civilisation est donc tacitement considérée comme une ressource naturelle exploitable gratuitement.

Lorsque la connaissance publique entre dans le modèle, on appelle cela de l'apprentissage. Lorsque le modèle produit de la connaissance pour le public, on appelle cela un service.

C'est le cercle complet de la privatisation de la civilisation.

C'est aussi pourquoi ces vieux livres aux dos coupés ne devraient pas être considérés seulement comme un litige sur les droits d'auteur.

Ils sont un symbole.

Le papier est détruit, le contenu est conservé. L'original visible publiquement quitte la circulation, le modèle, impossible à auditer, absorbe la connaissance qu'il contient. La pensée du livre existe toujours, mais perd progressivement sa source, son contexte, et sa vie indépendante de l'entreprise.

Brûler les livres à la nouvelle époque ne nécessite pas de faire disparaître la connaissance.

Les enfants du futur ouvriront probablement de moins en moins ces livres, certains livres seront peut-être introuvables.

Il interrogera directement le modèle : pourquoi une guerre a-t-elle éclaté, un système est-il juste, comment devrait-on vivre. Le modèle donnera une réponse en quelques secondes, d'un ton calme, avec une structure complète, sans lui dire que cette question a fait débattre des générations entières.

Il ne sentira peut-être pas qu'il a perdu quelque chose, après tout, la réponse est toujours là.

L'IA n'oubliera pas la civilisation humaine, mais ce n'est pas une bonne chose. L'oubli laisse au moins un vide, permettant aux gens de savoir que quelque chose a été perdu. La situation plus dangereuse, c'est que le modèle se souvienne suffisamment, réponde de manière suffisamment naturelle, pour que les gens n'aient plus besoin de contacter la civilisation dans sa forme originelle.

La mémoire que l'humanité a de sa propre civilisation commence à passer par le filtre de quelques entreprises.

L'IA n'oubliera pas la civilisation humaine, mais l'IA risque de ne se souvenir de la civilisation, pour le compte de l'humanité, que de la manière souhaitée par une petite élite technologique.