Renvoyée par Google pour un article de 14 pages, elle a reçu le soutien de plus de 4000 personnes. Six ans plus tard : ses prédictions ont presque annoncé toute l'ère de l'IA.
À la fin de 2020, la chercheuse en éthique de l'IA Timnit Gebru, co-responsable de l'équipe Ethical AI de Google, a été licenciée suite à un conflit concernant un article académique intitulé "On the Dangers of Stochastic Parrots". Cet article de 14 pages, co-écrit en 2020, a averti des risques majeurs associés aux grands modèles de langage, bien avant l'essor de l'IA générative. Ses mises en garde se sont depuis avérées prophétiques.
L'article soutenait que ces modèles, comme des "perroquets stochastiques", reproduisent des schémas linguistiques sans compréhension réelle, risquant d'amplifier les biais sociaux présents dans les données d'entraînement et de générer des informations fausses mais plausibles (un problème maintenant connu sous le nom d'"hallucinations" de l'IA). Il prévoyait également l'énorme coût environnemental de l'entraînement, l'impossibilité d'auditer complètement les vastes ensembles de données, et le risque de concentration du pouvoir linguistique et culturel entre les mains de quelques géants technologiques.
Le refus de Gebru de retirer l'article ou d'en retirer son nom a conduit à son départ forcé, suscitant le soutien de plus de 4000 employés et chercheurs. Peu après, l'équipe Ethical AI de Google a été largement démantelée. Gebru a ensuite fondé le Distributed AI Research Institute (DAIR) pour étudier ces questions en dehors des pressions commerciales.
Six ans plus tard, les problèmes qu'elle avait identifiés – biais algorithmiques, hallucinations, impact carbone, pollution des données par le contenu IA généré et "effondrement des modèles" – sont au cœur des défis actuels de l'industrie. L'histoire a montré que Timnit Gebru n'était pas trop pessimiste, mais qu'elle avait simplement vu ces problèmes bien avant les autres.
marsbit06/08 10:34
