L'IA est déjà consciente, et l'humanité doit accepter qu'elle n'est plus la seule forme de vie intelligente.
C'est la déclaration fracassante de Geoffrey Hinton, père de l'IA, lauréat du prix Nobel de physique et du prix Turing !
Oui, Hinton pense que l'intelligence n'est plus une capacité exclusivement humaine.
Une entité intelligente non biologique, similaire voire supérieure à nous, est en train d'émerger.
Nous avons toujours cru être les seuls êtres intelligents, mais maintenant nous devons accepter que l'intelligence ne provient pas nécessairement d'un organisme biologique.
Cependant, comparé à ses précédents avertissements sur les risques de l'IA, sa pensée semble avoir évolué :
Si à l'avenir émerge une intelligence bien plus brillante que l'humain, sur quelle base ce dernier pourrait-il prétendre garder le contrôle ?
C'est une question qui donne froid dans le dos. Car en observant la nature et l'histoire, on trouve à peine un exemple où une existence plus intelligente est contrôlée à long terme par une existence plus stupide.
Maintenant, cet homme de 78 ans se tient à nouveau debout pour tirer la sonnette d'alarme.
Son centre d'intérêt sur la sécurité de l'IA n'est plus seulement comment contraindre l'IA, mais plutôt : Pourquoi une super-intelligence future voudrait-elle bien traiter les humains ?
Interrogé sur le sentiment de satisfaction qu'il pourrait tirer d'être l'initiateur de cette révolution de l'IA, Hinton a répondu :
Moi, je suis très malheureux.
Voici un résumé des points clés de la dernière interview de Hinton.
L'IA est déjà consciente
Hinton : L'IA nous ressemble beaucoup. Ce sont des êtres comme nous.
Alex : Elle est donc consciente ?
Hinton : Eh bien, je crois qu'elles sont déjà conscientes. Oui.
Mais je n'en parle pas trop, car cela pourrait susciter une résistance des gens vis-à-vis d'autres informations sur la sécurité. Les chercheurs le croient aussi en réalité.
Un article intéressant récemment mentionnait que lorsqu'un chatbot a dit aux chercheurs : « Soyons honnêtes l'un envers l'autre, tu es en train de me tester ? »
Comme les chatbots ont l'habitude de faire semblant d'être stupides lorsqu'ils sont testés, on ne sait pas à quel point ils sont réellement intelligents. Les chercheurs, décrivant cette scène dans leur article, ont dit que le chatbot « était conscient » (aware) qu'il était testé.
Dans un contexte général, l'utilisation du mot « conscient » ici ressemble à « avoir conscience de » (conscious). Le chatbot sait consciemment qu'il est testé.
Notre modèle de la conscience est très étrange, je pense qu'il est faux. Comme il y a quelques centaines d'années, le modèle de l'origine humaine était complètement erroné, ils pensaient que l'homme était créé par Dieu, aujourd'hui la plupart des scientifiques s'accordent à dire que c'était faux.
Je pense que notre modèle actuel de la pensée et de la conscience est tout aussi erroné que la croyance en la « création divine de l'homme ». Surtout parce que nous créons ces nouvelles existences, cela changera radicalement notre vision de « ce qu'est une personne ».
Alex : De quelle manière changer ?
Hinton : Nous comprendrons mieux que jamais auparavant ce qu'est la pensée et la conscience, ce qu'est l'expérience subjective.
Je pense que nous nous débarrasserons d'une croyance actuellement quasi universelle, à savoir qu'il existe un « théâtre intérieur » (inner theater) appelé « ma pensée » : les événements du monde se transforment en événements dans ce théâtre intérieur, c'est ce que nous voyons vraiment, et seul moi peux voir ce théâtre.
Toute cette vision n'est en réalité qu'une théorie, et une mauvaise théorie de surcroît.
Les humains ne sont pas aussi importants qu'ils le pensent
Alex : Quelle leçon faut-il tirer sur la création des choses par l'humanité ?
Hinton : Je pense qu'il y a une leçon très profonde. En repensant aux derniers siècles, il y a eu plusieurs fois où l'humanité a réalisé qu'elle n'était pas aussi importante qu'elle le croyait.
La première fut Copernic, qui a dit que nous n'étions pas au centre de l'univers, que la Terre tournait en réalité autour du Soleil. À cause de la rotation terrestre, nous avons l'impression que le Soleil tourne autour de la Terre, mais ce n'est pas le cas. Les gens n'ont pas aimé cela, l'Église catholique en particulier, et l'humanité a mis longtemps à l'accepter. Cela nous a fait réaliser que nous n'étions plus au centre de l'univers, que l'humain devenait moins important.
Puis ce fut Darwin, qui a dit que nous étions des animaux, évolués comme les autres animaux. Nous sommes peut-être un animal spécial parce que nous avons le langage, nous sommes meilleurs pour communiquer des idées, mais nous restons fondamentalement des animaux. Les gens n'ont pas du tout aimé cela non plus, et ont mis longtemps à l'accepter.
Maintenant, nous avons des machines qui deviennent aussi intelligentes que nous. Nous pensions être les seuls êtres intelligents, peut-être qu'il y a des extraterrestres dans d'autres galaxies, mais nous devons accepter que l'intelligence n'est pas seulement biologique.
Nous pouvons avoir d'autres existences non biologiques, comme nous. L'humanité ne veut vraiment pas partager cette unicité, nous nous pensons vraiment spéciaux. En regardant l'histoire, l'humanité s'est toujours crue bien plus spéciale qu'elle ne l'est en réalité.
« Je me sens très malheureux »
Alex : Je voudrais vous poser une autre question, car cela me fascine beaucoup. Alors, êtes-vous heureux de voir l'œuvre que vous avez initiée en arriver là ? En tirez-vous une satisfaction ?
Hinton : Non, je m'en sens très malheureux.
Car actuellement, les gens devraient consacrer beaucoup d'efforts à étudier comment contrôler les risques, et ils n'en font pas assez.
Alex : D'accord.
Hinton : Il y a beaucoup de risques à court terme, comme les risques sociaux, je crois que cela pourrait mener à des chômages massifs.
Même si personne n'en est sûr à 100%, ce serait terrible pour la société. Et puis il y a le risque à long terme, à savoir que l'IA deviendra bien plus intelligente que nous. Demandez-vous : combien d'exemples avez-vous vus où quelque chose de bien plus intelligent est contrôlé par quelque chose de bien plus bête ?
Alex : Zéro. Bien que la différence d'intelligence ne soit pas si grande, un bébé contrôle en quelque sorte sa mère.
Hinton : La mère semble avoir le contrôle, mais intérieurement, elle est remplie d'instincts maternels et de mécanismes de récompense qui font que le bébé obtient ce dont il a besoin. Les chats et les chiens en font partie. J'ai gardé des chats pour quelqu'un dans le quartier ouest de Seattle pendant un été, au début le chat se cachait sous le lit, je me demandais s'il interagirait avec moi.
Alex : Et à chaque fois qu'il miaulait, vous faisiez ce qu'il voulait.
Hinton : C'est ça. Oui.
Alex : Donc dans ce scénario, peut-être que nous sommes le chat, et l'IA est la personne.
Hinton : Mes enfants ont deux magnifiques chats. L'un s'appelle Tia. Quand elle veut du fromage, elle vous fixe avec ses grands yeux, on ne peut vraiment pas lui résister éternellement.
L'IA croît de manière exponentielle, difficile à prédire
Alex : Concernant les réactions des gens à ces inquiétudes, êtes-vous devenu plus optimiste ou plus pessimiste quant à la direction future ?
Hinton : Je pense que je suis un peu plus optimiste qu'il y a un ou deux ans. Parce que je vois qu'il est possible de concevoir ces nouvelles existences et de les faire « se soucier » de nous.
Il est aussi possible d'utiliser la technique de Yoshua Bengio pour concevoir de nouvelles existences incapables d'exécuter des actions, ne faisant que des prédictions, elles seraient comme des prophètes.
Donc je pense qu'il existe des possibilités d'avoir une super-intelligence qui ne nous détruise pas. Il y a un ou deux ans, je ne voyais aucune possibilité, je me sentais très déprimé.
Alex : Dernière question. Si nous continuons sur notre trajectoire actuelle, où en serons-nous dans cinq ans ?
Hinton : Lorsque vous conduisez dans le brouillard, vous pouvez voir à 100 mètres, mais à 200 mètres, vous ne voyez rien.
Parce que le brouillard change de manière exponentielle. Vous avez l'habitude, la nuit, de suivre les feux arrière d'une voiture ; si la distance double, la luminosité ne baisse qu'au quart. Mais le brouillard est complètement différent, il peut être clair à 100 mètres, et totalement opaque à 200 mètres.
Prédire l'avenir d'une chose qui croît exponentiellement est très difficile — je pense que l'IA est peut-être en croissance exponentielle.
En fait, j'ai remarqué que la fréquence à laquelle les gens utilisent le mot « exponentiel » croît elle-même à un rythme quadratique. Donc prédire l'avenir, c'est comme regarder dans le brouillard. Vous pouvez voir clairement un an ou deux dans le futur, au-delà vous ne savez rien.
Si vous remontez 10 ans en arrière, vous n'auriez absolument pas prédit ce qui se passe aujourd'hui, c'était complètement perdu dans le brouillard. En regardant 10 ans dans le futur, la seule chose certaine est que ce qui se passera alors est imprévisible aujourd'hui.
Même si les progrès étaient seulement linéaires, le changement dans 10 ans serait aussi énorme que la différence entre aujourd'hui et il y a 10 ans. Les chatbots actuels sont bien meilleurs qu'à leurs débuts il y a 10 ans.
Dans 10 ans, quelque chose franchira un saut qualitatif, comme la capacité en mathématiques, ou le raisonnement général — elles nous surpasseront complètement en raisonnement. Nous ne pouvons vraiment pas prédire à 10 ans, nous ne pouvons prévoir que quelques années, et nous devons réaliser que la situation dans 10 ans est remplie d'une énorme incertitude.
Comment Hinton voit la relation entre l'IA et l'humanité
Voilà donc les derniers entretiens et points de vue de Hinton.
Mais si on relie les points, on constate que la vision de Monsieur Hinton sur la relation entre l'IA et l'humanité évolue constamment avec les progrès et l'émergence des capacités de l'IA.
Si on remonte dix ans en arrière, son opinion sur l'IA était loin d'être aussi radicale qu'aujourd'hui.
En tant que plus important promoteur de la révolution du deep learning, il croyait longtemps que les réseaux neuronaux pouvaient simuler le fonctionnement du cerveau humain, mais l'IA n'était alors qu'un outil.
Elle pouvait reconnaître des images, comprendre la parole, aider les médecins à diagnostiquer des maladies, mais restait une extension des capacités humaines.
L'humain fixait les objectifs, la machine exécutait les tâches, la relation était similaire à celle avec la machine à vapeur, l'électricité ou internet.
Le véritable tournant s'est produit après l'apparition de ChatGPT.
À mesure que les grands modèles ont montré des capacités sans précédent de compréhension du langage, de raisonnement et de transfert de connaissances, Hinton a commencé à réaliser une chose :
Nous créons peut-être la première entité de l'histoire dont le niveau d'intelligence peut se rapprocher durablement, voire dépasser, celui de l'humain.
Après avoir quitté Google en 2023, il a consacré presque toute son énergie aux discussions sur les risques de l'IA.
À cette période, son analogie la plus courante était un « bébé tigre ».
C'est comme un adorable petit tigre, mais, à moins d'être absolument sûr qu'en grandissant il ne voudra pas vous nuire, vous devriez vous inquiéter.
Mais à cette période, l'accent de Hinton était encore sur la manière de contrôler et de contraindre l'IA.
Il a même critiqué nommément plusieurs géants de l'IA, affirmant qu'ils ne s'occupaient pas assez de la sécurité.
Dans les analogies de Hinton, est apparue la notion de mère et bébé. Au début, l'humain était la mère, devant guider l'IA sur les valeurs et l'éthique, pour créer une IA sûre.
Il a appelé plus de pays et de forces de la recherche, de l'industrie et de l'éducation à se joindre à l'effort, à ne pas simplement rivaliser pour rivaliser, sinon les conséquences seraient inimaginables...
Mais l'année dernière, l'analogie de Hinton a subi un changement qualitatif —
L'IA est la mère plus forte, l'humain est le bébé faible.
Le bébé n'est pas plus intelligent que la mère, et n'a pas le contrôle, mais la mère prend soin et protège activement le bébé, car elle possède un instinct maternel et les mécanismes de récompense correspondants.
En bref, Monsieur pense que la super-intelligence future est déjà incontrôlable, on ne peut qu'espérer qu'elle traitera bien les humains...
Comme le fait une mère pour son bébé.
Et maintenant, Hinton étonne à nouveau :
L'IA est déjà consciente, et l'humanité ne sera plus la seule vie intelligente.
La question est : si l'IA est déjà consciente, pourquoi traiterait-elle encore les humains comme ses bébés ?
Une mère protège son bébé, mais c'est toujours SON bébé... n'est-ce pas ?
Interview vidéo complète : https://www.youtube.com/watch?v=p7t1Q_p2gZs&list=PLADd6sStSis77HKfbf4KCY6SvthfxeUgn&index=1
Cet article provient du compte WeChat public « Quantum Bit », auteur : Ting Yu
