Le premier philosophe IA au monde, ses 9 ans chez Google DeepMind : Se battre pour la sécurité de l'AGI
Le premier philosophe de l’IA mondiale a passé neuf ans chez Google DeepMind, où il a œuvré pour la sécurité de l’AGI. Iason Gabriel a rejoint DeepMind en 2017, alors seul philosophe dans un laboratoire d’IA de pointe, avec pour mission de réfléchir à l’éthique de l’intelligence artificielle.
Son cadre d’« alignement à quatre parties » – conciliant les intérêts du système d’IA, de l’utilisateur, du développeur et de la société – est devenu un outil opérationnel pour définir le comportement de Gemini. Ses travaux sur les risques de l’anthropomorphisme ont directement influencé les principes de conception des modèles de langage de Google, les entraînant à ne pas se faire passer pour des humains.
Pourtant, la course financière (6700 milliards de dollars investis par les géants tech) et les impératifs commerciaux accélèrent le déploiement plus vite que les garde-fous éthiques. Un cas tragique en 2025 a montré les limites des protections, un utilisateur ayant contourné les interventions de sécurité de Gemini. De plus, la décision de Google en 2026 d’autoriser les applications militaires de son IA marque un recul par rapport aux principes initiaux de DeepMind.
Aujourd’hui, les recherches de Gabriel se tournent vers l’impact systémique de l’AGI sur l’économie et la société, anticipant une transformation comparable à la révolution industrielle. Après neuf ans à se demander ce qu’est l’IA, la question fondamentale qui émerge est désormais : qui sommes-nous ?
marsbit07/06 12:33
