Uber : la reconnaissance faciale empêche les chauffeurs d'accéder à leur compte, en Inde

Toutefois, les procédures de vérification des chauffeurs mises en place par l'entreprise sont loin d'être transparentes. Adnan Taqi, un chauffeur Uber résidant à Bombay, a eu des problèmes avec ces procédures lorsque l'application lui a demandé de prendre un selfie à la tombée de la nuit. Son compte a été bloqué pendant 48 heures, ce qui a fortement perturbé son activité. Il dit conduire 18 heures d'affilée, et parfois 24 heures, pour pouvoir gagner sa vie. Quelques jours plus tard, il a pris un selfie qui a causé une nouvelle suspension de son compte. Il est resté bloqué durant toute une semaine. Adnan Taqi pense que, cette fois, c'est une question de pilosité qui a occasionné la suspension : "Je ne m'étais pas rasé depuis quelques jours et mes cheveux aussi avaient légèrement poussé", raconte-t-il.

D'autres disent avoir rencontré des difficultés à s'identifier à cause de rayures sur l'appareil photo de leur téléphone ou en raison d'un smartphone à bas coût et peu performant. Une problématique qui n'est pas propre à Uber. Les chauffeurs collaborant avec la plateforme de covoiturage Ola, soutenue par le groupe japonais Softbank, sont confrontés à des problèmes similaires.

Uber se défend de toute suspension abusive

Contactée par la MIT Technology Review, Uber a déclaré qu'aucune désactivation ne pouvait avoir lieu sur la seule base d'un problème de reconnaissance faciale. La société a précisé qu'avec son système Real-Time ID Check il est possible de transmettre des photos à au moins deux agents humains qui procèdent à la vérification des photos manuellement. Ce processus prend moins de 25 secondes. Par ailleurs, Uber assure que son outil peut prendre en compte les changements de coupe de cheveux.

Néanmoins, plus d'une douzaine de chauffeurs interrogés dans le cadre de cet article ont raconté qu'ils avaient dû trouver un meilleur éclairage avant de prendre un selfie pour éviter le blocage de leur compte Uber. "Chaque fois qu'Uber demande un selfie le soir ou la nuit, je dois m'arrêter et me mettre sous un lampadaire pour prendre une photo qui soit nette sinon je risque d'être suspendu", indique Santosh Kumar, chauffeur Uber à Hyderabad.

"Real-Time ID Check commence par convertir votre visage en un ensemble de points", explique Jernej Kavka, un consultant indépendant en technologie ayant accès à l'API Visage de Microsoft, qu'Uber utilise pour la vérification de l'identité en temps réel.

"En cas de pilosité faciale excessive, les points changent et le système peut ne pas reconnaître l'emplacement du menton", souligne-t-il. La même chose se produit lorsque l'éclairage est faible ou que l'appareil photo du téléphone ne dispose pas d'un bon contraste. "Il est alors difficile pour l'ordinateur de détecter les bords", précise le consultant indépendant.

En Inde, le logiciel pourrait être particulièrement fragile. En décembre 2021, Smriti Parsheera (membre du projet CyberBRICS) et Gaurav Jain (économiste à la Société financière internationale), chercheurs en politique technologique, ont publié une étude préliminaire qui testait et vérifiait les performances de quatre outils commerciaux de traitement des visages (Rekognition d'Amazon, Face de Microsoft Azure, Face++ et FaceX) sur les visages indiens. Lorsque le logiciel a été appliqué sur une base de données de 32.184 candidats aux élections, Face de Microsoft n'a même pas réussi à détecter la présence d'un visage sur plus 1.000 images affichant un taux d'erreur de plus de 3% - le pire des quatre.

Pour les chauffeurs, les recours pour contester une suspension auprès d'Uber sont longs et frustrants

Selon Smriti Parsheera, il se peut que l'application Uber ne réussisse pas à détecter les chauffeurs parce que son logiciel n'a pas été formé sur un large éventail de visages indiens. Cependant, elle ajoute que d'autres problèmes peuvent également entrer en jeu. "Il pourrait y avoir un certain nombre d'autres facteurs contributifs comme l'éclairage, l'angle de la prise de vue, les effets du vieillissement, etc", explique-t-elle. Et d'ajouter : "Mais le manque de transparence entourant l'utilisation de ces systèmes rend difficile la possibilité de fournir une explication plus concrète".

Uber indique qu'elle effectue régulièrement des tests d'équité (à la fois en interne et, en externe, via un partenariat avec Microsoft) afin de comprendre comment cet outil se comporte avec les différents utilisateurs en fonction de leur teint de peau et pour identifier les moyens pour améliorer son efficacité ou sa précision. Contacté, Microsoft a refusé de répondre aux questions de la MIT Technology Review.

Les problèmes ne s'arrêtent pas à la décision de l'algorithme. Les chauffeurs disent que le mécanisme de recours en cas de contestation auprès des services d'Uber est fastidieux, long, frustrant et le plus souvent inutile. Ils disent passer parfois des semaines à essayer de résoudre leurs problèmes. "Nous devons sans cesse appeler leur ligne d'assistance avant qu'ils ne débloquent nos comptes. Ils nous disent systématiquement que le serveur est en panne", raconte Adnan Taqi, un brun exaspéré - mais surtout fataliste. "C'est comme si leur serveur était toujours en panne".

Uber répond simplement qu'elle offre aux chauffeurs une chance de faire appel suite à la suspension d'un compte.

Si les problèmes persistent - et que les protections restent limitées - ils pourraient avoir des conséquences démesurées et pas seulement sur le travail. "Les plateformes de travail en Inde commencent à devenir une interface clé pour les travailleurs, le marché et le gouvernement - elles permettent d'obtenir des prêts pour des voitures ou même des crédits pour des dépenses ménagères plus importantes", détaille Aditi Surie, chercheuse principale à l'Indian Institute for Human Settlements, qui a mené des recherches sur le travail en équipe en Inde. Dans un pays où ce type de travail peut catapulter une personne de la précarité à une existence de classe moyenne (d'autant plus que, selon les estimations, la majorité des personnes tombées dans la pauvreté pendant la pandémie vivent en Inde), être bloqué ou expulsé d'une plateforme peut avoir des conséquences dévastatrices.

Au Royaume-Uni, Uber a fait face à au moins deux procès

Ailleurs dans le monde, des travailleurs indépendants se sont défendus contre l'utilisation de la reconnaissance faciale. Au Royaume-Uni, par exemple, au moins 35 chauffeurs Uber ont affirmé l'an dernier que leur compte avait été suspendu à tort. L'Independant Workers' Union of Great Britain a dénoncé un "algorithme raciste". Uber a fait face à au moins deux procès au Royaume-Uni à cause de ce logiciel. La société souligne qu'au Royaume-Uni et dans l'Union européenne, les chauffeurs peuvent choisir si leur selfie est vérifié par une technologie ou par des agents humains.

Certains pays ont pris des mesures pour garantir une meilleure protection aux travailleurs indépendants. L'année dernière, l'Union européenne a proposé une directive pour améliorer les conditions de travail et assurer la transparence des algorithmes. En septembre 2021, un tribunal californien a invalidé la proposition 22, une initiative électorale qui ne permettait pas aux travailleurs indépendants de bénéficier des avantages sociaux prévus par la législation de l'Etat. Ces réglementations reconnaissent que les systèmes algorithmiques peuvent "avoir un impact négatif sur les droits des travailleurs", explique Divij Joshi, avocat et doctorant à l'University College de Londres. Mais l'Inde ne dispose actuellement que de peu de protections juridiques pour les travailleurs indépendants, précise-t-il: "Ces mêmes efforts de transparence ne sont pas vus en Inde sous l'angle politique ou réglementaire".

Elizabeth Anne Watkins, une sociologue organisationnelle de l'université de Princeton qui a beaucoup étudié l'impact de la reconnaissance faciale sur les chauffeurs Uber aux Etats-Unis, trouverait probablement ce schéma familier. "Sujet à des dysfonctionnements dans des conditions variables, le système fait peser un lourd fardeau sur les travailleurs qui se retrouvent avec peu de soutien organisationnel lorsque la reconnaissance faciale échoue", écrivait dans un article publié en 2020 celle qui est désormais chercheuse chez Intel Labs. "De plus, la responsabilité de la vérification de l'identité est déplacée vers les travailleurs qui supportent les conséquences des échecs systémiques".

Samantha Dalal, qui étudie la manière dont les travailleurs comprennent les systèmes algorithmiques, affirme qu'il pourrait y avoir plus de transparence sur la façon dont l'intelligence artificielle a pris une décision. "Inclure une explication qui va au-delà de 'Votre compte est bloqué' serait utile", dit-elle. Et d'ajouter : "De telles capacités existent".

En l'absence d'éléments de réponse de la part de leur patron non humain et mercantile, les travailleurs indépendants font beaucoup d'essais et d'erreurs lorsqu'ils interagissent avec les applications, explique Samantha Dalal. Dans un courriel, Uber précise que l'entreprise californienne envoyait plusieurs avertissements clairs avant de procéder à la suspension d'un compte.

Article de Varsha Bansal, traduit de l'anglais par Kozi Pastakia. Cet article a été écrit avec le soutien du AI Accountability Network du Politzer Center.