Rencontre avec Alex Hanna, la chercheuse qui a quitté Google pour sauver l'IA

Rencontre avec Alex Hanna, la chercheuse qui a quitté Google pour sauver l'IA © RYAN YOUNG

Par MIT Technology Review

Publié le 23 octobre 2022 à 08h00.

Lecture : 2 min

Réservé aux abonnés

"Je démissionne car je suis épuisée". Voici ce qu'a écrit Alex Hanna le 2 février dernier, soit lors de son dernier jour au sein de l'équipe Ethical AI de Google. Elle estimait que l'entreprise, et l'industrie technologique dans son ensemble, ne faisait pas grand-chose pour promouvoir la diversité ou atténuer les préjudices que ses produits avaient causés aux personnes appartenant à des minorités. "En quelques mots, la tech a un problème de blanchitude", a-t-elle également écrit dans son post sur Medium. "Google n'est pas seulement une organisation technologique. Google est une organisation technologique blanche".

Après avoir quitté son emploi, Alex Hanna n'a pas eu le temps de se reposer. Le 3 février, elle rejoignait le Distributed AI Research Institute (DAIR) en tant que numéro 2 du groupe.

Cette décision a été un tournant dans une période professionnelle compliquée pour Alex Hanna. Fin 2020, sa responsable, Timnit Gebru, avait été licenciée de son poste de coordinatrice de l'équipe "Ethical AI" après avoir rédigé un article remettant en question l'éthique des grands modèles de langage (y compris ceux de Google). Quelques mois plus tard, c'était au tour de la nouvelle cheffe d'Alex Hanna, Meg Mitchell, d'être mise à la porte.

Le DAIR, qui a été cofondé par Timnit Gebru fin 2021 et qui est financé par diverses organisations philanthropiques, vise à remettre en question la compréhension actuelle de l'intelligence artificielle (IA) à travers une approche de recherche ascendante axée sur la communauté. Le groupe travaille en réseau, à distance, avec des équipes basées à Berlin et en Afrique du Sud.

"Nous voulions trouver une nouvelle manière de produire de l'IA, une manière qui ne soit pas soumise aux mêmes contraintes institutionnelles que les entreprises et la plupart des recherches universitaires", explique Alex Hanna qui est devenue la directrice de recherche du groupe. Bien que ce type d'enquêtes soit plus lent, souligne-t-elle, "cela permet de faire de la recherche pour les membres de la communauté - ce sont différents types de connaissances qui sont respectées, rémunérées et utilisées pour le travail communautaire".

Après moins d'un an d'existence, le DAIR est encore en train de définir son approche, confie Alex Hanna. Toutefois, les travaux de recherche sont bien engagés. L'Institut dénombre trois employés à temps plein et cinq membres affiliés - un mélange d'universitaires, d'activistes et de praticiens qui viennent avec leurs propres programmes de recherche. Ils aident également à développer les programmes de l'institut. Raesetje Sefala, l'une des ces membres affiliées de la DAIR, utilise l'imagerie par satellite et la vision par ordinateur pour étudier les changements de voisinage dans l'Afrique du Sud post-apartheid, par exemple. Concrètement, son projet consiste à analyser l'impact de la fin de la ségrégation et à cartographier les zones à faible revenu. Une autre membre affiliée du DAIR, Milagros Miceli, travaille sur un projet portant sur les asymétries de pouvoir dans le travail externalisé de traitement des données. De nombreux travailleurs de l'information, qui analysent et gèrent de grandes quantités de données provenant des entreprises technologiques, résident dans les pays en voie de développement et sont généralement payés avec des sommes dérisoires.

Pour Alex Hanna, le DAIR était un choix naturel. Celle qui estime avoir eu "un parcours atypique dans le monde de la technologie" a commencé par un doctorat en sociologie et une thèse sur le droit du travail. Durant ses études supérieures, elle a utilisé des outils d'apprentissage automatique pour étudier la manière dont les militants avaient échangés les uns avec les autres pendant la révolution de 2008 en Egypte, pays d'origine de ses parents. "Les gens disaient que [la révolution] s'était produite sur Facebook et Twitter mais on ne peut pas créer un mouvement à partir de rien", explique-t-elle. "J'ai commencé à interviewer des militants et à comprendre ce qu'ils font sur le terrain en dehors de leurs activités en ligne".

Le DAIR vise un changement structurel important en utilisant la recherche pour mettre la lumière sur des questions qui n'auraient pas été explorées autrement et pour diffuser des connaissances qui n'auraient pas été valorisées autrement. "Dans ma lettre de démission à destination de Google, j'ai insisté sur le fait que les organisations technologiques incarnaient beaucoup de valeurs et de pratiques suprématistes blanches", indique Alex Hanna. "Pour les combattre, il faut s'interroger sur ces perspectives et trouver le moyen de stopper ces pratiques organisationnelles". Voici l'objectif, dit-elle, que le DAIR défend.

Article de Anmol Irfan, traduit de l'anglais par Kozi Pastakia.