La Maison Blanche dévoile une nouvelle Charte des droits de l'IA

En septembre dernier, l’administration Bident-Harris a annoncé les principes fondamentaux visant à responsabiliser et réformer la tech tels que mettre fin aux décisions algorithmiques discriminatoires, promouvoir la concurrence dans le secteur technologique et mettre en place des protections fédérales en matière de vie privée.

La Charte des droits de l’IA, présentée pour la première fois il y un an par l’Office of Science and Technology Policy (OSTP) – un département du gouvernement américain qui conseille le président en matière de science et de technologie -, consiste en un plan détaillé sur la manière d’atteindre ces objectifs. Il prodigue des conseils pratiques aux agences gouvernementales et appelle les entreprises technologiques, les chercheurs et la société civile à agir pour mettre en place ces protections.

"Ces technologies causent des préjudices réels dans la vie des Américains. Des préjudices qui vont à l’encontre de nos valeurs démocratiques fondamentales, notamment le droit fondamental à la vie privée, la liberté de ne pas être discriminé ainsi que notre dignité élémentaire", a déclaré un haut fonctionnaire de l’administration lors d’une conférence de presse.

L’IA est une technologie puissante qui transforme nos sociétés. Elle a également le potentiel pour causer d’importants dommages qui touchent souvent les minorités de manière disproportionnée. Par exemple, les technologies de reconnaissance faciale utilisées dans le maintien de l’ordre et les algorithmes accordant des avantages sociaux ne sont pas aussi justes avec les minorités ethniques.

Le nouveau plan d’action vise à rétablir l’équilibre. Il stipule que les Américains doivent être protégés contre les systèmes nocifs ou inefficaces, que les algorithmes ne doivent pas être discriminatoires et que les systèmes doivent être utilisés tels qu’ils ont été conçus et de manière équitable. Le texte indique aussi que les citoyens doivent avoir la maîtrise de leurs données et être protégés des pratiques abusives en matière de données grâce à des garanties intégrées. Les citoyens doivent également être mis au courant quand ils ont affaire à un système automatisé et comprendre comment il fonctionne. Enfin, les gens doivent toujours avoir le choix de se retirer des systèmes d’IA en faveur d'une alternative humaine et avoir accès à des recours en cas de problèmes.

"Nous voulons nous assurer de protéger les gens contre les pires inconvénients de cette technologie et ce quel que soit le processus technologique sous-jacent spécifique utilisé", a déclaré un autre haut responsable de l’administration.

La déclaration des droits de l’IA de l’OSTP est "impressionnante", estime Marc Rotenberg, qui dirige le Center for AI and Digital Policy, un organisme à but non lucratif qui suit les politiques en matière d’IA.

"Il s’agit clairement d’un point de départ. Cela ne met pas fin aux discussions sur la manière dont les Etats-Unis doivent mettre en œuvre une IA centrée sur l’humain et digne de confiance", précise-t-il. "Mais c’est un très bon point de départ pour amener les Etats-Unis vers un endroit où ils pourront poursuivre cet engagement".

Willmary Escoto, analyste des politiques américaines pour le groupe de défense des droits numériques Access Now, considère que les lignes directrices soulignent habilement "l’importance de la minimisation des données" tout en "nommant et en abordant les divers préjudices que les gens peuvent subir de la part d’autres technologies basées sur l’IA comme la reconnaissance des émotions".

"La Charte des droits de l’IA peut avoir un impact monumental sur les libertés civiles fondamentales des Noirs et des Latino-Americains à travers la nation", déclare Willmary Escoto.

Le secteur des technologies a salué le fait que la Maison Blanche reconnaissance que l'IA puisse également être utilisée pour faire le bien.

Matt Schruers, président du lobby technologique CCIA, qui compte parmi ses membres des entreprises telles que Google, Amazon et Uber, dit apprécier "l'orientation de l'administration selon laquelle les agences gouvernementales devraient montrer l'exemple en élaborant des principes d'éthique de l'IA, en évitant de tomber dans la discrimination et en développant un cadre de gestion des risques pour les technologues du gouvernement".

Shaundra Watson, directrice des politiques pour l'IA au sein du lobby technologiques BSA, dont les membres comprennent Microsoft et IBM, se félicite de l'accent mis par le texte sur les risques et les évaluations d'impact. "Il sera important de s'assurer que ces principes soient appliqués de manière à augmenter les protections et la fiabilité dans la pratique", souligne Shaundra Watson.

Alors que l'Union européenne (UE) met en place de nouvelles réglementations afin de prévenir des dommages causés par l'IA et tenir pour responsables les entreprises des technologies d'IA nuisibles, et qu'elle dispose d'un régime strict de protection des données, les Etats-Unis se sont montrés réticents à l'idée d'introduire de nouvelles réglementations.

Les nouvelles protections décrites dans la Charte font écho à celles introduites dans l'UE mais le texte n'est pas assez contraignant et ne constitue pas une politique du gouvernement américain car l'OSTP ne peut pas promulguer de lois. Il appartiendra aux législateurs de proposer de nouveaux projets de loi.

Russell Wald, directeur des politiques pour le Stanford Institute for Human-Centered IA, estime que le texte n'est pas assez détaillé ou manque de mécanisme pour être appliqué.

"Il est décourageant de constater l'absence de politique fédérale cohérente pour relever les défis désespérément nécessaires posés par l'IA tels que des actions de surveillance, d'audit et d'examen coordonnées au niveau fédéral afin d'atténuer les risques et préjudices apportés par des modèles de base déployés ou en open source", détaille-t-il.

Marc Rotenberg, lui, préférerait que les Etats-Unis mettent en oeuvre des réglementations telles que l'IA Act de l'UE, une loi à venir qui vise à ajouter des contrôles et des équilibres supplémentaires aux utilisations de l'IA qui ont le plus risque de causer des dommages aux humains.

"Nous aimerions voir des interdictions claires sur les déploiements de l'IA qui ont été les plus controversés comme, par exemple, l'utilisation de la reconnaissance faciale pour la surveillance de masse", explique-t-il.

La Charte des droits de l'IA pourrait ouvrir la voie à de futures législations comme l'adoption de l'Algorithmic Accountability Act ou la création d'une agence chargée de réglementer l'intelligence artificielle, considère Sneha Revanur qui dirige l'Encode Justice, une organisation qui s'intéresse aux jeunes et à l'IA.

"Même si elle est limitée dans sa capacité à s'attaquer aux préjudices du secteur privé, la Charte des droits de l'IA peut tenir ses promesses si elle est appliquée de manière significative et nous espérons que des réglementations avec plus de mordant suivront", conclut-elle.

Article de Melissa Heikkilä, traduit de l'anglais par Kozi Pastakia.