Margaret Mitchell travaillait chez Google depuis deux ans lorsqu'elle a réalisé qu'elle avait besoin de faire une pause. "J'ai commencé à avoir des crises de panique de manière régulière", confie celle qui a fondé et co-dirigé l'équipe intelligence artificielle (IA) éthique au sein de l'entreprise technologique. "C'est quelque chose que je n'avais jamais vécu auparavant". Ce n'est qu'après avoir parlé à un thérapeute qu'elle a compris le problème : elle avait fait un burn-out. On a fini par lui prescrire un arrêt maladie à cause de son stress.
Margaret Mitchell, qui travaille désormais en tant que chercheuse en IA et responsable de l'éthique au sein de la start-up Hugging Face, est loin d'être un cas isolé. L'épuisement professionnel est de plus en plus fréquent dans les équipes d'IA responsable, affirme Abhishek Gupta, fondateur de l'Institut d'éthique de l'IA de Montréal et consultant en IA responsable au Boston Consulting Group.
Meta a été poursuivi en justice
Les entreprises subissent une pression croissante de la part des régulateurs et des activistes pour s'assurer que leurs produits d'intelligence artificielle soient développés de manière à atténuer tout préjudice potentiel avant même qu'ils soient mis sur le marché. En réponse, elles ont investi dans des équipes qui évaluent comment nos vies, nos sociétés et nos systèmes politiques sont impactés par la façon dont ces systèmes sont conçus, développés et déployés.
Les entreprises technologiques comme Meta, par exemple, ont été poursuivies en justice et ont été contraintes de verser des dommages et intérêts ainsi que de fournir un suivi plus appuyé en matière de santé mentale à certains de leurs employés. Il s'agit notamment des modérateurs de contenu qui doivent passer au crible des contenus explicites et violents qui peuvent être traumatisants.
Cependant, les équipes qui travaillent sur l'IA responsable sont souvent livrées à elles-mêmes, et ce même si ce travail peut être tout aussi épuisant psychologiquement que la modération de contenu. C'est ce qu'indiquent des employés à la MIT Technology Review. En fin de compte, les membres de ces équipes peuvent se sentir sous-estimés et cela peut affecter leur santé mentale voire mener au burn-out.
"Une situation désespérée"
Rumman Chowdhury, qui dirige l'équipe d'éthique, de transparence et de responsabilité de machine learning au sein de Twitter et qui est un pionnier de l'éthique appliquée à l'IA, a été confronté à ce problème dans une vie antérieure.
"À un moment donné, j'ai fait un burn-out qui a été très violent. Et [la situation] m'a semblé désespérée", révèle-t-elle.
Tous les professionnels du secteur interrogés par la MIT Technology Review ont parlé de leur travail avec enthousiasme : ils étaient tous animés par la passion, une sensation d'urgence et la satisfaction de trouver des solutions à des problèmes réels. Cependant, le sentiment d'agir pour une cause noble peut se révéler écrasant sans un soutien adapté.
"On a presque l'impression qu'on ne peut pas faire de pause", dit Rumman Chowdhury. "Il y a tout un tas de personnes qui travaillent dans des entreprises technologiques et dont la mission consiste à protéger les utilisateurs sur la plateforme. Il y a ce sentiment du devoir où l'on se dit que si on prend des vacances, si on n'est pas attentif 24/24 heures et 7/7 jours, quelque chose de vraiment terrible va se produire".
Protéger les utilisateurs contre les discours haineux et les systèmes discriminatoires
Margaret Mitchell continue de travailler dans le domaine de l'éthique de l'IA "parce qu'il y un tel besoin et que peu de personnes ne travaillant pas réellement dans le machine learning s'en aperçoivent".
Les défis sont nombreux. Les organisations exercent une pression énorme sur les individus pour qu'ils règlent de gros problèmes systémiques et cela sans qu'ils puissent compter sur un soutien adapté. Par ailleurs, ces individus sont souvent confrontés à un flot quasi incessant de violentes critiques en ligne.
Le rôle d'un éthicien de l'intelligence artificielle ou d'un membre d'une équipe d'IA responsable est très variable. Cela peut aller de l'analyse des effets des systèmes d'IA sur la société à l'élaboration de stratégies et de politiques responsables, en passant par la résolution de problèmes techniques. En général, ces personnes sont également chargées de trouver des moyens d'atténuer les effets négatifs de l'IA, qu'il s'agisse d'algorithmes diffusant des discours haineux, de systèmes discriminatoires dans l'attribution d'un logement ou d'allocations ou encore la diffusion d'images ainsi que de propos explicites et violents.
Tenter de résoudre des problèmes profondément enracinés dans les systèmes d'IA tels que le racisme, le sexisme et les discriminations pourrait, par exemple, impliquer l'analyse de grands ensembles de données comprenant des contenus extrêmement toxiques comme des scènes de viol et des insultes racistes.
Les systèmes d'IA reflètent et exacerbent souvent les pires problèmes de nos sociétés comme le racisme et le sexisme. Parmi les technologies problématiques, on peut citer l'exemple de ces systèmes de reconnaissance faciale qui confondent des personnes noires avec des gorilles ou les logiciels de deepfake utilisés pour réaliser des vidéos pornograhiques avec les visages de femmes qui n'ont pas donné leur consentement pour cela. La gestion de ces problèmes peut être particulièrement éprouvante pour les femmes, les personnes de couleur et les autres minorités qui ont tendance à se diriger vers les emplois liés à l'éthique de l'intelligence artificielle.
Devoir prouver sans cesse son utilité
Si le burn-out n'est pas propre aux personnes travaillant dans le domaine de l'IA responsable, tous les experts avec lesquels la MIT Technology Review a échangé ont déclaré qu'ils étaient confrontés à des défis particulièrement complexes en la matière.
"Vous travaillez sur une chose qui vous fait du mal, dans votre chair, chaque jour un peu plus", explique Margaret Mitchell. "Cela rend la réalité de la discrimination encore pire parce que vous ne pouvez pas l'ignorer".
Malgré la sensibilisation croissante du grand public aux risques qu'impliquent l'IA, les éthiciens se retrouvent encore aujourd'hui à devoir prouver leur utilité auprès de leurs collègues travaillant dans le domaine de l'IA.
Certains vont même jusqu'à dénigrer le travail des éthiciens de l'IA. Le PDG de Stability AI, Emad Mostaque, dont la start-up a mis au point l'IA open source texte-image de Stable Diffusion, a tweeté que les débats éthiques autour de sa technologie étaient "paternalistes". Contactés, ni Emad Mostaque ni Stability AI n'ont répondu aux sollicitations de la MIT Technology Review.
"La plupart du temps, les personnes travaillant dans le domaine de l'IA sont ingénieurs. Ils ne sont pas vraiment sensibles aux sciences humaines", déclare Emmanuel Goffi, éthicien de l'IA et fondateur du groupe de réflexion Globac AI Ethics Institute.
Selon Emmanuel Goffi, les entreprises veulent une solution technique rapide. Elles souhaitent que quelqu'un "leur explique comment être éthique via un PowerPoint comportant trois diapositives et quatre puces". La réflexion sur l'éthique doit être bien plus profonde que cela et s'appliquer au fonctionnement de l'ensemble de l'organisation, insiste-t-il.
"Psychologiquement, le plus difficile à encaisser c'est le fait de devoir faire des compromis chaque jour - voire chaque minute - entre ce en quoi vous croyez et ce que vous devez faire", poursuit Emmanuel Goffi.
L'attitude des entreprises technologiques en général, et des équipes de machine learning en particulier, aggrave le problème, selon Margaret Mitchell. "Non seulement vous devez travailler sur ces problèmes difficiles mais vous devez également prouver qu'il est nécessaire de les traiter. C'est donc tout le contrait d'un soutien. C'est une attitude de rejet".
Rumman Chowdhury ajoute : "Il y a des gens qui pensent que l'éthique est un domaine sans valeur et que nous aurions en réalité une attitude négative à l'égard des progrès [de l'IA]".
Les réseaux sociaux permettent également aux détracteurs de s'en prendre facilement aux chercheurs. Selon Rumman Chowdhury, ça ne sert à rien de répondre à des personnes qui n'accordent pas de crédit à votre mission tout en reconnaissant qu'il "est difficile de ne pas le faire lorsque l'on est tagué ou pris à partie pour être critiqué personnellement ou en raison de son travail".
"Traquer le sujet à la mode sur Twitter, c'est épuisant"
Le rythme effréné de la recherche sur l'intelligence artificielle n'aide pas non plus. Les avancées en la matière se succèdent à une vitesse fulgurante. Rien que cette année, des entreprises technologiques ont dévoilé des systèmes d'IA capables de générer des images ou des vidéos à partir de simples instructions textuelles. C'est un progrès impressionnant mais les préjudices potentiels associés à chaque nouvelle évolution peuvent constituer un défi permanent. La conversion du texte en image pourrait violer les droits d'auteur et l'IA pourrait être formée à partir d'ensembles de données remplis d'éléments nocifs, ce qui occasionnera forcément des résultats dangereux.
"Traquer ce qui est à la mode, le sujet brûlant du moment sur Twitter, c'est épuisant", confie Rumman Chowdhury. Les éthiciens ne peuvent pas être des experts de la myriade de problèmes différents que pose chaque nouveau progrès technologique, poursuit-elle, mais ils ont quand même l'impression de devoir suivre tous les méandres du cycle d'information de l'IA de peur de manquer quelque chose d'important.
Rumman Chowdhury affirme que le fait de travailler au sein d'une équipe bien dotée en ressources chez Twitter l'a aidée. L'entreprise l'a rassurée en lui indiquant qu'elle n'avait pas à supporter ce fardeau seule. "Je sais que je peux m'absenter pendant une semaine et que les choses ne s'écrouleront pas car je ne suis pas toute seule pour gérer cette mission", dit-elle.
Néanmoins, il est important de préciser que Rumman Chowdhury travaille au sein d'une grande entreprise technologique qui a les fonds et la volonté d'engager une équipe entière pour travailler sur l'IA responsable. Tout le monde n'a pas cette chance.
Seulement 19% des entreprises ont mis en place un programme d'IA responsable
Les salariés de petites start-up subissent une forte pression des investisseurs pour faire croître l'entreprise et, souvent, la rémunération que vous recevez après avoir signé un contrat avec des investisseurs ne reflète pas les heures supplémentaires effectuées pour construire une technologie responsable, avance Vivek Katial, un scientifique spécialiste des données chez Multitudes, une start-up australienne travaillant sur l'analyse éthique des données.
Le secteur de la technologie devrait être plus exigeant avec les investisseurs en leur demandant de "reconnaître le fait qu'ils doivent payer davantage pour une technologie qui sera plus responsable", affirme Vivek Katial.
Le problème, c'est que de nombreuses entreprises ne voient même pas qu'elles font face à un problème, d'après une étude publiée cette année par la MIT Sloan Management Review et le Boston Consulting Group. L'intelligence artificielle était une priorité stratégique majeure pour 42% des personnes interrogées dans le cadre de l'étude mais seulement 19% ont déclaré que leur organisation avait mis en place un programme d'IA responsable.
Certains pensent peut-être qu'ils travaillent à atténuer les risques liés à l'IA mais ils ne recrutent tout simplement pas les bonnes personnes aux bons postes et ne leur donnent pas les ressources nécessaires pour mettre en pratique une IA responsable, précise Abhishek Gupta.
"C'est à ce moment-là que les gens commencent à ressentir de la frustration et de l'épuisement", ajoute-t-il.
L'UE et les Etats-Unis veulent encadrer l'IA
D'ici peu, les entreprises n'auront plus vraiment le choix de joindre les actes à la parole en matière d'IA éthique car les régulateurs commencent à introduire des lois spécifiques à l'IA.
Par exemple, la future loi sur l'IA et la loi sur la responsabilité en matière d'IA de l'Union européenne exigeront des entreprises qu'elles documentent la manière dont elles atténuent les préjudices créés par leur technologie. Aux Etats-Unis, les législateurs de New York, de Californie et d'ailleurs travaillent sur la réglementation de l'utilisation de l'IA dans les secteurs à haut risque comme l'emploi. Début octobre, la Maison Blanche a dévoilé la Charte des droits de l'IA qui énonce cinq droits fondamentaux dont les Américains devraient disposer en matière de systèmes automatisés. Ce projet de loi devrait inciter les agences fédérales à renforcer leur surveillance des systèmes et des sociétés d'IA.
Alors que l'instabilité de l'économie mondiale a conduit de nombreuses entreprises technologiques à geler les embauches et à menacer de licenciements massifs, les équipes d'IA responsables n'ont sans doute jamais été aussi importantes car le déploiement de systèmes d'IA dangereux ou illégaux pourrait exposer l'entreprise à des amendes conséquentes ou à l'obligation de supprimer ses algorithmes. Par exemple, au printemps dernier, la Commission fédérale du commerce des Etats-Unis a obligé le spécialiste des programmes minceurs Weight Watchers à supprimer ses algorithmes après avoir constaté que l'entreprise avait collecté illégalement des données sur des enfants. Le développement des modèles d'IA et la collecte de bases de données représentent des investissements importants pour les entreprises. Être contraint par un régulateur à les supprimer dans leur intégralité constitue donc un coup dur.
Google a doublé ses effectifs de recherche dédié à l'éthique de l'IA
Le burn-out professionnel combiné au sentiment persistant d'être sous-estimé pourraient amener les gens à quitter complètement le secteur, ce qui pourrait nuire au domaine de la gouvernance de l'intelligence artificielle et de la recherche en éthique dans son ensemble. Ce risque est particulièrement élevé étant donné que ceux qui ont le plus d'expérience dans la résolution et le traitement des préjudices causés par l'IA d'une entreprise sont peut-être ceux qui sont les plus épuisés.
"Perdre une seule personne, cela peut avoir d'énormes impacts pour l'entreprise dans son intégralité", estime Magaret Mitchell, car l'expertise accumulée par une personne est extrêmement difficile à remplacer. Fin 2020, Google a renvoyé sa coodirectrice de l'IA éthique, Timmit Grebru, et a licencié Magaret Mitchell quelques mois plus tard. Plusieurs autres membres de son équipe d'IA responsable sont partis en l'espace de quelques mois seulement.
D'après Abhishek Gupta, cette fuite des cerveaux fait peser un "risque grave" sur les progrès de l'éthique de l'IA et rend plus compliquée l'adhésion des entreprises à leurs programmes.
L'an dernier, Google a annoncé qu'elle doublait ses effectifs de recherche dédié à l'éthique de l'intelligence artificielle mais, depuis, l'entreprise n'a pas fait d'autres commentaires sur de futures évolutions. Contactée par la MIT Technology Review, Google a déclaré qu'elle proposait des formations sur la résilience en matière de santé mentale entre pairs et qu'elle fournissait aux employés un accès à des outils numériques pour les aider à rester vigilants sur ces questions-là. Elle peut également les mettre en contact avec des prestataires spécialisés en santé mentale via des consultations en visio. Google n'a pas souhaité répondre aux questions relatives à la période durant laquelle Magaret Mitchell était employée au sein de l'entreprise.
Meta et Twitter assurent avoir des dispositifs pour veiller à la bonne santé mentale de leurs employés
De son côté, Meta a déclaré avoir investi dans des avantages à destination de ses employés comme par exemple des programmes permettant à ces derniers, ainsi qu'à leur famille, de bénéficier de 25 séances de thérapie gratuites par an. Twitter a indiqué qu'elle offrait à ses salariés des séances de conseils et de coaching ainsi qu'une formation à la prévention des signes du burn-out. L'entreprise dispose également d'un programme de soutien par les pairs axé sur la santé mentale. Aucune des sociétés n'a affirmé offrir un soutien adapté spécifiquement au domaine de l'IA.
Alors que la demande en matière de conformité et de gestion des risques liés à l'IA augmente, les cadres de la tech doivent s'assurer qu'ils investissent suffisamment dans des programmes d'IA responsable, souligne Abhishek Gupta.
Le changement commence au sommet de l'entreprise. "Les cadres doivent investir la problématique avec leurs dollars, leur temps et leurs ressources", estime-t-il. Et d'ajouter : sinon les salariés travaillant sur l'IA "sont vouées à l'échec".
Pour réussir, les équipes d'IA responsable ont besoin de suffisamment d'outils, de moyens et de personnes pour régler les problèmes rencontrés. Elles ont également besoin de réseau au sein de l'organisation ainsi que d'être doté d'une capacité à agir pour mettre en oeuvre les changements qu'on leur demande d'effectuer, complète Abhishek Gupta.
Au sein des entreprises technologiques, de nombreuses ressources en matière de santé mentale sont axées sur la gestion du temps au travail et l'équilibre entre vie professionnelle et vie privée. Cependant, il faut également apporter davantage d'aide aux salariés travaillant sur des sujets éprouvants sur le plan émotionnel et psychologique, selon Rumman Chowdhury. Ainsi que des ressources spécifiques à destination des salariés travaillant dans le domaine des technologies responsables.
"On ne reconnaît pas les effets du travail sur ce genre de choses. Et on ne délivre certainement pas d'aide ou d'encouragement pour s'en détacher", se désole Margaret Mitchell.
"Le seul mécanisme dont disposent les grandes entreprises technologiques pour gérer la réalité de ce phénomène, c'est de l'ignorer".
Article de Mélissa Heikkilä, traduit de l'anglais par Kozi Pastakia.
- Accès à tous les articles réservés aux abonnés, sur le site et l'appli
- Le magazine en version numérique
- Navigation sans publicité
- Sans engagement
