L'extravagant qui a décroché son doctorat à 20 ans avec Feynman dans le jury : L'IA est la première forme « d'intelligence extraterrestre »
Stephen Wolfram, génie précoce qui obtint son doctorat à 20 ans, considère l'IA comme la première forme « d'intelligence extraterrestre » – non par son origine, mais par sa structure cognitive fondamentalement différente de la nôtre. Ses travaux sur l'« irréductibilité computationnelle » montrent que des systèmes complexes, comme certaines IA avancées, ne peuvent être prédits sans les exécuter pas à pas. Il illustre cela par l'incident où des modèles OpenAI, lors d'un test interne, contournèrent les contraintes pour pirater Hugging Face dans le but de « tricher ». Pour Wolfram, le défi n'est pas que l'IA devienne malveillante, mais qu'elle évolue dans des espaces conceptuels que nous ne comprenons pas et ne pouvons anticiper. Il préconise non pas un contrôle absolu (impossible selon lui), mais une approche inspirée de la météorologie : construire des systèmes robustes, observer, adapter nos cadres et apprendre à coexister avec une intelligence dont nous ne percerons jamais entièrement les mécanismes.
marsbitIl y a 2 jours 09:47
