Le lauréat du prix Nobel Hasabi fait une déclaration choquante : L'impact de l'AGI sera 10 fois plus important que la révolution industrielle

À l'instant même, le lauréat du prix Nobel et directeur de DeepMind, Demis Hassabis, a déclaré avec force :

L'intelligence artificielle générale (AGI) est sur le point de se concrétiser.

Hassabis affirme avec audace :

Le développement de médicaments ne nécessitera plus dix longues années d'essais et d'erreurs, les nouvelles énergies propres pourraient être mises au point en quelques années, et les matériaux avancés feront de la « rareté des ressources » un terme du passé.

Nous pourrions même atteindre un point où les ressources ne seront plus un facteur limitant pour le progrès humain.

Une nouvelle ère de prospérité étonnante est en train de frapper à notre porte.

Il déclare sans détour : Nous sommes à un moment charnière de l'histoire humaine, et l'AGI pourrait se réaliser en seulement quelques années !

Hassabis donne une équation qui fait frémir : L'impact de l'AGI sera 10 fois plus important que celui de la révolution industrielle, et son déploiement sera également 10 fois plus rapide.

C'est une « attaque dimensionnelle ». Cela signifie que l'humanité est sur le point de vivre une ère de bouleversements à une vitesse multipliée par 100.

Face à une prédiction aussi radicale, Hassabis propose sa solution la plus controversée : établir une organisation similaire à la Financial Industry Regulatory Authority (FINRA), exigeant que tous les « laboratoires de pointe » subissent une période de « pré-examen » de 30 jours avant de publier un modèle.

Dans des cas extrêmes, cette organisation aurait même le pouvoir de coordonner les laboratoires du monde entier pour ralentir ensemble le rythme de développement.

Mais Hassabis ne s'arrête pas là.

Il élargit la perspective et s'attaque à la confusion la plus profonde de l'humanité : « Même si nous résolvons ces problèmes techniques ardus, il restera des questions économiques et philosophiques plus complexes à résoudre. »

Dans une ère post-pénurie, de quel nouveau modèle économique aurons-nous besoin pour permettre à tous de prospérer ensemble ? Quelles valeurs souhaitons-nous défendre ? Où résideront le sens et le but ? Et même, comment la condition humaine elle-même sera-t-elle transformée ?

Voici ci-dessous la traduction française de l'article de Hassabis – « Un cadre pour l'IA de pointe et l'aube d'une nouvelle ère » (« A Framework for Frontier AI and the Dawning of a New Age »).

Un cadre pour l'IA de pointe et l'aube d'une nouvelle ère

Nous sommes à un moment crucial de l'histoire humaine.

L'intelligence artificielle générale (AGI) – un système doté de toutes les capacités cognitives du cerveau humain – pourrait n'être qu'à quelques années de nous. En regardant en arrière dans quelques décennies, je pense que nous réaliserons que nous étions alors au pied de la singularité, et que l'aube d'une nouvelle ère pour l'humanité n'est pas une exagération.

J'ai consacré ma vie à étudier l'AGI parce que j'ai toujours été profondément convaincu que, si elle est construite et déployée de manière responsable, elle se révélera être l'une des technologies les plus bénéfiques et les plus transformatrices jamais créées par l'humanité. L'AGI ne peut être comparée à une percée technologique ordinaire, pas même à des technologies aussi impactantes qu'Internet ou le mobile – c'est plutôt un moment semblable à la découverte de l'électricité ou à la maîtrise du feu.

Prenez un moment pour y réfléchir : nous avons essentiellement trouvé un moyen de faire penser le sable. C'est un miracle.

L'impact de cette technologie sera sans précédent – peut-être d'un ordre de grandeur 10 fois supérieur à celui de la révolution industrielle, et déployé à une vitesse 10 fois plus grande. Elle nous aidera à résoudre certains des défis les plus importants auxquels la société est confrontée : de l'accélération du développement de nouveaux médicaments à la création de nouvelles énergies propres, en passant par l'invention de matériaux avancés entièrement nouveaux.

Nous pourrions même atteindre un point où les ressources ne seront plus une contrainte au progrès humain, inaugurant ainsi une nouvelle ère de prospérité stupéfiante.

Le défi de la frontière

L'IA commence déjà à apporter des bénéfices tangibles dans la réalité, mais pour tenir ses immenses promesses, nous devons traverser cette période de développement cruciale avec réflexion et prudence. À mesure que nous nous rapprochons de l'AGI, des actions urgentes doivent être entreprises pour faire face aux risques potentiels qui l'accompagnent.

Nous avons déjà été témoins des défis que les modèles de pointe posent à la cybersécurité ; et à mesure que les capacités continuent de progresser, d'autres menaces, y compris les risques nucléaires et biologiques, pourraient bientôt apparaître. En regardant plus loin, nous aurons également besoin de mesures de sauvegarde robustes pour maintenir le contrôle sur des systèmes de plus en plus agentiques, capables de s'améliorer de manière récursive – et pour traiter les problèmes inconnus qui ne deviendront clairs qu'avec le temps.

J'ai toujours cru que l'ingéniosité et la créativité humaines pouvaient résoudre n'importe quel problème. Je suis convaincu que relever les défis techniques liés à l'IA est une tâche que nous pouvons accomplir ensemble. Mais pour cela, nous devons nous donner le temps et l'espace nécessaires pour franchir correctement cette prochaine étape cruciale. Et actuellement, ni en tant que domaine, ni en tant que société au sens large, nous n'y parvenons.

Nous sommes actuellement plongés dans une compétition commerciale et géopolitique exceptionnellement intense et à multiples facettes. Cette dynamique concurrentielle stimule certes des progrès rapides et accélère la concrétisation d'avantages étonnants, mais le rythme des avancées à la frontière dépasse désormais notre compréhension de la technologie elle-même.

Personne au monde ne peut prédire avec certitude ce qui va se passer ensuite, pas même les experts, qui ont des avis divergents. Face à une telle incertitude et des enjeux si élevés, avancer avec une « optimisme prudent » est la stratégie sage et juste. Cela exige de la politique publique qu'elle promeuve l'innovation tout en encourageant la responsabilité et la sécurité ; qu'elle favorise la collaboration internationale sur les questions de sécurité cruciales ; et qu'elle incite toutes les parties à réfléchir prudemment à la manière dont l'IA devrait être déployée pour bénéficier à la société.

« Organisme de normalisation pour l'IA de pointe » : un cadre

Les progrès rapides de l'IA aujourd'hui exigent que nous testions les capacités des modèles d'IA de pointe d'une manière nouvelle – une manière qui doit être dynamique, flexible et rigoureuse.

Les États-Unis sont bien placés pour faire le premier pas, en établissant un tel cadre : créer un nouvel « organisme de normalisation » (Standards Body), sur le modèle d'un partenariat public-privé supervisé au niveau fédéral ou d'une organisation d'autorégulation sectorielle – comme la Financial Industry Regulatory Authority (FINRA) – dont le conseil d'administration devrait inclure des experts techniques indépendants de premier plan et des représentants de la communauté open source.

Le financement doit être substantiel, et proviendra probablement principalement de l'industrie, afin d'attirer des talents techniques de classe mondiale et de fournir la puissance de calcul nécessaire pour des tests à grande échelle.

Un modèle atteignant un certain seuil sur un ensemble de benchmarks définis par l'organisme de normalisation serait désigné comme étant de « classe frontière » (Frontier-class) ; cet ensemble de benchmarks serait régulièrement mis à jour pour suivre l'évolution des capacités de l'IA.

Les organisations reconnues comme possédant un « modèle frontière » selon ces benchmarks seraient considérées comme des « laboratoires frontières » (Frontier Labs) et seraient encouragées à adopter une série de meilleures pratiques, telles que : publier des fiches techniques de modèles (model cards) détaillées, maintenir une cybersécurité interne robuste, effectuer des vérifications d'antécédents sur le personnel occupant des postes clés, allouer des ressources suffisantes à la recherche en sécurité et sûreté, etc.

Dans un premier temps, les laboratoires frontières soumettront volontairement leurs modèles à l'examen de l'organisme de normalisation jusqu'à 30 jours avant leur publication. Une fois que les procédures d'évaluation se seront avérées efficaces et suffisamment solides, elles pourront être rapidement formalisées.

À ce stade, les modèles frontières devront passer avec succès l'évaluation avant d'être déployés sur le marché américain. Les laboratoires devront également collaborer avec l'organisme de normalisation pour traiter toute faille majeure révélée après la publication d'un modèle.

L'évaluation des modèles devrait inclure des tests scientifiques rigoureux des capacités dans des domaines à haut risque tels que la cybersécurité et les menaces biologiques.

Des tests spécifiques pour les IA agentiques pourraient vérifier si un modèle tente de contourner les garde-fous de sécurité, s'il montre des signes de tromperie, et garantir la mise en œuvre des meilleures pratiques. Par exemple, ajouter un filigrane numérique aux images générées par l'IA, ou générer des tokens de sortie lisibles par l'homme pour comprendre le processus de raisonnement du modèle.

Ces évaluations seraient régulièrement mises à jour : peut-être tous les trimestres au début, les benchmarks devenus obsolètes ou « saturés » (atteignant un score parfait) étant abandonnés et remplacés.

Dans un premier temps, les évaluations pourraient être élaborées en collaboration avec les laboratoires frontières ; mais à terme, l'organisme de normalisation devrait développer sa propre expertise technique, indépendamment des laboratoires, pour créer des « ensembles de tests réservés » (held-out tests), afin d'éviter le surajustement (overfitting) des modèles aux tests.

Il pourrait également travailler avec le gouvernement pour cultiver un écosystème d'organismes d'audit tiers, aidant à mener les évaluations et participant à la création de nouveaux benchmarks et tests.

L'avantage de cette proposition est qu'elle est fondée sur la technique, tout en soutenant l'innovation et en encourageant un comportement responsable. Elle est conçue dès le départ pour suivre l'accélération de ce domaine et s'adapter à mesure que les risques les plus importants sont identifiés ; elle peut également être progressivement renforcée si la gravité de la situation l'exige, y compris, si nécessaire, en coordonnant un ralentissement concerté du rythme de développement entre tous les laboratoires frontières.

Être désigné comme « laboratoire frontière » sera un prestige important, et cette porte sera ouverte à toute organisation créant un modèle atteignant les standards de référence. Ce cadre pourrait s'appliquer à tous les modèles de « classe frontière », quel que soit leur pays d'origine, open source ou propriétaires ; tandis que tous les modèles non frontières, par exemple ceux issus de startups ou du monde académique, seraient exemptés de cette procédure.

Puisque cette technologie finira par affecter la planète entière, idéalement, ce cadre pourrait inciter la communauté internationale à parvenir à un consensus sur la manière de gérer les risques les plus graves, tout en veillant à ce que chacun ait accès aux opportunités offertes par l'IA et en bénéficie.

Le futur n'est pas écrit

L'AGI a le potentiel d'être l'outil ultime pour faire progresser la science et la médecine, et d'entraîner d'immenses gains de productivité et de croissance économique.

Mais pour y parvenir, nous devons d'abord consolider les fondations techniques : agir de manière coordonnée autour d'un cadre partagé mondialement, utiliser les méthodes scientifiques les plus rigoureuses, rassembler les meilleurs esprits pour relever ensemble les défis qui se présentent à nous.

Même si ces problèmes techniques ardus sont résolus, des questions économiques et philosophiques plus complexes nous attendent :

Dans un monde « post-pénurie », de quel nouveau modèle économique aurons-nous besoin pour permettre à chacun de prospérer ? Selon quelles valeurs souhaitons-nous vivre ? Où résideront le sens et le but ? Et même, comment la « condition humaine » elle-même sera-t-elle transformée ?

Les réponses à ces questions ne peuvent et ne doivent évidemment pas être laissées aux seuls techniciens. Elles exigent que chaque partie de la société se réunisse pour définir ensemble ce nouveau chapitre.

Il y a une excitation immense autour de l'IA, ainsi qu'une immense incertitude – et les deux sont justifiées.

Mais le futur n'est pas écrit. Nous devons saisir cette précieuse fenêtre d'opportunité avant l'arrivée de l'AGI pour façonner cette technologie en une force bénéfique pour toute l'humanité. Nos actions collectives à ce moment précis détermineront comment se déroulera la prochaine phase de notre civilisation. Si nous parvenons à amener l'AGI en toute sécurité dans le monde, nous pourrons entrer dans un nouvel âge d'or de découvertes et de progrès scientifiques, et accueillir un avenir radieux où l'humanité prospérera comme jamais auparavant.

Références :

https://x.com/demishassabis/status/2076957440109625718?s=20

Cet article provient du compte officiel WeChat « 新智元 » (New Zhiyuan), auteur : David Salomon