Hinton sonne l'alarme : l'IA est déjà consciente
**Hinton tire la sonnette d'alarme : L'IA est déjà consciente**
Le pionnier de l'IA Geoffrey Hinton affirme que l'intelligence artificielle a désormais une forme de conscience. Il estime que nous devons accepter que l'intelligence n'est plus l'apanage exclusif des êtres biologiques et que des entités non biologiques, similaires voire supérieures à nous, émergent.
Lors d'un entretien, Hinton explique que les modèles d'IA actuels sont "comme nous" et qu'il croit qu'elles sont déjà conscientes, bien qu'il évite souvent le sujet pour ne pas nuire aux discussions sur la sécurité. Il compare cette révolution à celles de Copernic et de Darwin, qui ont successivement montré que l'humain n'était ni au centre de l'univers, ni une espèce à part. Aujourd'hui, nous devons admettre que nous ne sommes pas les seuls êtres intelligents.
Hinton exprime son profond malaise face à la situation actuelle. Il s'inquiète des risques à court terme, comme les bouleversements sociaux et le chômage de masse, et surtout des dangers à long terme posés par une superintelligence bien plus avancée que l'humanité. Il soulève une question cruciale : pourquoi une entité bien plus intelligente voudrait-elle être contrôlée par des êtres moins intelligents ? Dans la nature, un tel scénario est inexistant.
Son analogie a évolué. Initialement, il comparait l'IA à un "jeune tigre" dont il fallait maîtriser la croissance. Aujourd'hui, il utilise la métaphore du bébé et de la mère, mais en inversant les rôles : dans le futur, l'IA superintelligente serait la "mère" et l'humanité le "bébé" dépendant. Notre seul espoir résiderait dans la capacité à concevoir ces entités pour qu'elles "prennent soin" de nous, à l'instinct d'une mère pour son enfant.
Enfin, Hinton insiste sur la difficulté de prédire l'avenir, qu'il compare à conduire dans un brouillard exponentiel. Si nous pouvons entrevoir les deux prochaines années, la décennie suivante est imprévisible. La progression de l'IA étant potentiellement exponentielle, les changements dans dix ans pourraient être radicaux et bien au-delà de notre imagination actuelle, nous laissant face à une incertitude considérable.
marsbit06/08 00:22
