L'Union européenne (UE) est en train de mettre en place de nouvelles règles pour qu'il soit plus facile de poursuivre en justice les entreprises spécialisées dans l'intelligence artificielle (IA) en cas de préjudice. Ce projet de loi qui vient d'être dévoilé - qui devrait être entériné d'ici quelques années - s'inscrit dans le cadre des efforts déployés par l'Europe pour empêcher les développeurs d'IA de proposer des systèmes dangereux. Il ne convainc pas complètement : d'un côté, les entreprises technologiques se plaignent de ce projet de loi qui pourrait avoir un effet dissuasif sur l'innovation. De l'autre, ceux qui luttent pour la défense des consommateurs estiment qu'il ne va pas assez loin.
Les puissantes technologies d'IA façonnent de plus en plus nos vies, nos relations ainsi que nos sociétés et leurs effets néfastes sont bien documentés. Les algorithmes des réseaux sociaux favorisent la désinformation, les systèmes de reconnaissance faciale sont très souvent discriminatoires et les systèmes d'IA prédictifs utilisés pour approuver ou rejeter des demandes de prêts peuvent défavoriser les minorités.
Le nouveau projet de loi baptisé "Directive sur la responsabilité de l'IA" viendra renforcer la loi européenne sur l'intelligence artificielle qui doit bientôt entrer en vigueur. Cette dernière exige des contrôles supplémentaires pour les utilisations "à haut risque" de l'IA, c'est-à-dire celles qui sont les plus susceptibles de nuire aux personnes. Il est notamment question des systèmes utilisés pour le maintien de l'ordre, le recrutement ou les services de santé.
Le nouveau projet de loi vise à donner aux consommateurs et aux entreprises le droit d'intenter des poursuites en justice, pour réclamer des dommages et intérêts, après avoir été lésés par un système d'IA. L'objectif est de responsabiliser les développeurs, producteurs et utilisateurs de ces technologies et de les obliger à expliquer comment leurs systèmes d'IA ont été construits et entraînés. Les entreprises technologiques qui ne respectent pas les règles risquent de faire l'objet de recours collectifs à l'échelle européenne.
Par exemple, des demandeurs d'emploi qui arrivent à prouver qu'ils ont été discriminés par un système d'IA utilisé pour la sélection de CV pourront demander à un tribunal de forcer la société d'IA à leur donner accès aux informations sur le système. Ainsi, ils pourront identifier les responsables et découvrir ce qui a mal fonctionné. Armés de ces informations, ils pourront intenter un procès.
La proposition de loi doit encore passer par le processus législatif de l'Union européenne. Une procédure qui devrait prendre deux ans. D'ici là, la proposition sera modifiée par les membres du Parlement européen et les gouvernements de l'UE. Elle fera aussi probablement l'objet d'un lobbying intense de la part des entreprises technologiques qui affirment, pour leur part, que de telles règles pourraient avoir un effet "paralysant" sur l'innovation.
Qu'elle aboutisse ou non, cette nouvelle législation européenne aura des répercussions sur la manière dont l'IA est réglementée dans le monde
En particulier, le projet de loi pourrait avoir un impact négatif sur le développement de logiciels, selon Mathilde Adjutor, responsable de la politique européenne pour le groupe de lobbying technologique CCIA, qui représente des entreprises telles que Google, Amazon et Uber.
En vertu des nouvelles règles, "les développeurs risquent non seulement d'être tenus responsables des bugs logiciels mais aussi de l'impact potentiel sur la santé mentale des utilisateurs", dit-elle.
De son côté, Imogen Parker, directrice associée des politiques à l'Ada Lovelace Institute, un organisme de recherche sur l'IA, estime que ce projet de loi permettra de déplacer le pouvoir des entreprises vers les consommateurs. C'est une correction qu'elle juge particulièrement importante étant donné le potentiel de discriminations que peut causer l'IA. En outre, le projet de loi garantira qu'il existe - lorsqu'un système d'IA cause un préjudice - un moyen commun de demander réparation dans toute l'UE, explique Thomas Boué, responsable de la politique européenne du lobby technologique BSA, qui compte parmi ses membres Microsoft et IBM.
Toutefois, certaines organisations de défense des droits des consommateurs et certains militants affirment que les propositions ne vont pas assez loin et qu'elles ne facilitent pas assez les démarches pour les consommateurs qui souhaitent porter plainte.
Ursula Pachl, directrice générale adjointe de l'Organisation européenne des consommateurs, estime que la proposition est une "véritable déception" car il incombe aux consommateurs de prouver qu'un système d'IA leur a causé du tort ou qu'un développeur d'IA a été négligent.
"Dans un monde où les systèmes d'IA de type "boîte noire" sont extrêmement complexes et obscurs, il sera pratiquement impossible pour le consommateur d'utiliser les nouvelles règles", estime Ursula Pachl. Par exemple, il sera extrêmement compliqué de prouver que la discrimination raciale à l'encontre d'une personne est due à la façon dont un système d'évaluation de la cote de crédit a été mis en place.
Le projet de loi ne prend pas non plus en compte les préjudices indirects causés par les systèmes d'intelligence artificielle, ajoute Claudia Prettner, représentante de l'UE au Future of Life Institute, une ONG qui se concentre sur les risques existentiels liés à l'iA. Une meilleure version du texte tiendrait les entreprises responsables lorsque leurs actions causent des dommages sans nécessairement exiger une faute, à l'instar des règles qui existent déjà pour les voitures ou les animaux, poursuit-elle.
"Les systèmes d'IA sont souvent construits dans un but donné mais ils entraînent ensuite des préjudices inattendus dans un autre domaine. Les algorithmes des réseaux sociaux, par exemple, ont été conçus pour maximiser le temps passé sur les plateformes mais ils ont malencontreusement favorisé les contenus polarisants", précise-t-elle.
L'UE souhaite que sa loi sur l'IA devienne la référence mondiale en matière de réglementation de l'intelligence artificielle. D'autres nations, comme les Etats-Unis, où des efforts sont en cours pour réglementer cette technologie, observent attentivement la situation. La Commission fédérale du commerce envisage des règles sur la façon dont les entreprises traitent les données et élaborent des algorithmes. Elle a contraint les sociétés qui ont collecté des données illégalement à supprimer leurs algorithmes. Cette année, par exemple, l'agence a forcé la société Weight Watchers, spécialiste des régimes minceurs, à le faire après que cette dernière ait collecté de manière illégale des données sur des enfants.
Qu'elle aboutisse ou non, cette nouvelle législation européenne aura des répercussions sur la manière dont l'IA est réglementée dans le monde. "Il est dans l'intérêt des citoyens, des entreprises et des autorités de réglementation que l'UE règle correctement la question de la responsabilité en matière d'intelligence artificielle. Sans cela, l'IA ne pourra pas être utile aux personnes et à la société", affirme Imogen Parker.
Article de Mélissa Heikkilä, traduit de l'anglais par Kozi Pastakia.
- Accès à tous nos articles pour comprendre l’économie
- Des conseils pratiques et solutions concrètes pour gérer vos finances
- Lecture immersive, publicité limitée
- Sans engagement
