Euthanasie : peut-on laisser l'IA avoir le droit de vie ou de mort sur les humains ?

"Dr Death" pense toutefois avoir trouvé une solution. Exit International travaille sur l'élaboration d'un algorithme qui, espère Philip Nitschke, permettra aux gens d'effectuer une sorte d'auto-évaluation psychiatrique via un ordinateur. En théorie, si une personne réussit ce test en ligne, le programme lui fournira un code à quatre chiffres pour activer le Sarco. "C'est l'objectif", insiste Philip Nitschke avant de concéder : "Cela dit, le projet s'avère très difficile".

La mission de Philip Nitschke peut sembler extrême, voire scandaleuse, et sa foi dans le pouvoir des algorithmes peut paraître exagérée. Néanmoins, il n'est pas le seul à vouloir impliquer la technologie, et l'intelligence artificielle (IA) en particulier, dans des décisions ayant une incidence sur la vie ou la mort.

Alors que Philip Nitschke voit dans l'IA un moyen de donner aux individus le pouvoir de faire eux-mêmes le choix ultime, d'autres se demandent si l'intelligence artificielle ne pourrait pas contribuer à soulager les humains du fardeau de ces choix. Aujourd'hui, l'IA est déjà utilisée pour trier et traiter les patients dans un nombre croissant de domaines relatifs à la santé. Alors que les algorithmes prennent ainsi une part de plus en plus importante dans les soins médicaux, nous devons veiller à ce que leur rôle se limite aux décisions médicales et ne débordent pas sur les décisions morales.

Les soins médicaux constituent une ressource limitée : avant de réaliser des tests ou de recevoir des traitements, les patients doivent faire preuve de patience en attendant leurs rendez-vous. Ceux qui ont besoin d'une greffe d'organe doivent attendre qu'un coeur ou un rein sain et compatible soit disponible. Les vaccins doivent être distribués en priorité aux personnes les plus vulnérables (dans les pays qui en disposent). Au plus fort de la pandémie, lorsque les hôpitaux étaient confrontés à une pénurie de lits et de ventilateurs, les médecins ont dû prendre des décisions rapides afin de déterminer quel patient recevrait des soins immédiats et quel patient n'en recevrait pas. Des décisions qui ont parfois menées à des conséquences tragiques.

La crise du Covid-19 a mis en lumière la nécessité de faire de tels choix et a conduit de nombreuses personnes à se demander si les algorithmes pouvaient être utiles en de pareilles situations. Les hôpitaux du monde entier ont investi dans de nouveaux outils d'IA ou ont coopté des outils existants afin de faciliter le triage. Au Royaume-Uni, par exemple, certains hôpitaux qui avaient étudié l'utilisation d'outils d'IA pour examiner les radiographies pulmonaires ont adopté ces outils comme un moyen rapide et peu onéreux d'identifier les cas d'infection au Covid-19 les plus graves. Les fournisseurs de cette technologie, tels que Qure.ai basé à Mumbai (Inde) et Lunit installé à Séoul (Corée du Sud), ont décroché des contrats en Europe, aux Etats-Unis et en Afrique. Diagnostic Robotics, une entreprise israélienne fournissant des outils de triage basés sur l'intelligence artificielle à des hôpitaux en Israël, en Inde et aux Etats-Unis, a déclaré que la demande pour sa technologie avait été multipliée par sept au cours de la première année de la pandémie. Depuis, les activités liées à l'IA dans le domaine médical sont en plein essor.

Cette ruée vers l'automatisation soulève de grandes questions auxquelles il n'est pas facile de répondre. Dans quelle situation est-il approprié d'utiliser un algorithme avant de prendre une décision ? Comment ces algorithmes doivent-ils être construits ? Et qui à son mot à dire sur leur fonctionnement ?

Rhema Vaithianathan, directrice du Centre for Social Data Analytics et professeure à l'université technologique d'Auckland en Nouvelle-Zélande, qui s'intéresse aux technologies dans le domaine de la santé et de l'aide sociale, estime que les gens ont raison de demander à l'IA de les aider à prendre des décisions importantes. "Nous devrions nous attaquer aux problèmes vraiment difficiles auxquels les cliniciens disent être confrontés", souligne-t-elle.

L'un des projets sur lesquelles Rhema Vaithianathan travaille concerne un service de santé mentale pour adolescents. Les jeunes y sont diagnostiqués et traités pour des comportements d'automutilation. La clinique est très sollicitée et doit donc maintenir un taux de rotation élevé en renvoyant les patients le plus rapidement possible chez eux afin de pouvoir en accueillir d'autres.

Par conséquent, les médecins doivent faire un choix difficile entre garder les patients déjà sur place et en traiter de nouveaux. "Les cliniciens ne laissent pas sortir les gens de peur qu'ils s'automutilent de nouveau à l'extérieur", affirme Rhema Vaithianathan. "C'est un scénario catastrophe qu'ils redoutent".

Chercheurs et régulateurs appellent à la prudence

Rhema Vaithianathan et ses collègues ont essayé de développer un modèle d'apprentissage automatique capable de prédire quels patients sont les plus susceptibles de reproduire un comportement autodestructeur et lesquels ne le sont pas. Ils se sont basés sur un large éventail de données, y compris des dossiers médicaux et des informations démographiques, afin de donner aux médecins une ressource nécessaire supplémentaire dans leur prise de décision. "Je suis toujours à la recherche de ces cas où un clinicien éprouverait des difficultés à prendre une décision et apprécierait l'aide d'un algorithme", dit-elle.

Le projet n'en est qu'à ses débuts mais jusqu'à présent, les chercheurs ont constaté qu'il n'y a peut-être pas assez de données pour former un modèle capable de délivrer des prédictions précises. Ils vont poursuivre leurs efforts. "Il n'est pas nécessaire que le modèle soit parfait pour aider les médecins", juge Rhema Vaithianathan.

Son équipe n'est pas la seule à essayer de prédire le risque à la sortie des patients. Un article publié en 2021 a mis en évidence 43 études de chercheurs, aux Etats-Unis, indiquant utiliser des modèles d'apprentissage automatique pour prédire si les patients risquent d'être admis de nouveau ou de mourrir après avoir quitté l'hôpital. Aucun n'était suffisamment précis pour être utilisée en clinique. Les auteurs attendent avec impatience le moment où ces modèles "amélioreront la qualité des soins et réduiront les coûts en matière de santé".

Néanmoins, même lorsque l'intelligence artificielle semble précise, les universitaires et les régulateurs appellent à la prudence. D'une part, les données suivies par les algorithmes ainsi que la manière dont elles sont suivies, sont des artefacts humains truffés de préjugés. Par exemple, les personnes blanches et de sexe masculin sont sur-représentées dans les données médicales, ce qui fausse leur pouvoir prédictif. Les modèles automatisés donnent l'impression d'être objectifs, ce qui peut conduire les gens à s'en remettre à ces modèles lorsqu'ils sont confrontés à des décisions éthiques préférant faire confiance aveuglement à une machine plutôt qu'à leur esprit critique et remettre en question ses résultats.

Ce problème récurrent est l'un des thèmes abordés par David Robinson dans son nouveau livre intitulé Voices in the Code qui traite de la démocratisation de l'intelligence artificielle. David Robinson, chercheur invité au Social Science Matrix de l'université de Californie à Berkeley et membre de la faculté de l'université d'Apple, raconte l'histoire de Belding Scribner. En 1960, Belding Scribner, néphrologue à Seattle, a inséré un court tube en Téflon appelé "shunt" dans le bras de certains de ses patients. L'objectif était d'empêcher leur sang de coaguler pendant qu'ils suivaient un traitement par dialyse. Cette innovation a permis aux personnes atteintes d'une maladie rénale de rester sous dialyse indéfiniment en transformant l'insuffisance rénale, qui était une maladie mortelle, en une maladie de longue durée.

Lorsque la nouvelle concernant cette innovation s'est répandue, Belding Scribner a croulé sous les demandes de traitement. Or, il ne pouvait pas accueillir tout le monde. Qui devait-il soigner et qui devait-il refuser ? Il s'est vite rendu compte qu'il ne s'agissait pas d'une décision médicale mais d'une décision éthique. Il a mis en place un comité de personnes non-expertes pour décider sur ces cas. Evidemment, leurs choix n'étaient pas parfaits. Les préjugés de l'époque ont conduit le comité à favoriser les hommes mariés, disposant d'un emploi et d'une famille, par exemple.

D'après David Robinson, la leçon à tirer du travail de Belding Scribner est que certains processus - bureaucratiques, techniques et algorithmiques - peuvent faire passer les réponses apportées à des questions difficiles pour neutres et objectives. Ils peuvent masquer les aspects moraux d'un choix et ses conséquences parfois terribles.

"La bureaucratie elle-même peut convertir des problèmes moraux en des problèmes techniques ennuyeux", écrit David Robinson. Ce phénomène est antérieur aux ordinateurs, précise-t-il, "mais les systèmes basés sur des logiciels peuvent accélérer et amplifier cette tendance. La quantification peut être un anesthésiant moral et les ordinateurs rendent cet anesthésiant plus facile à administrer".

Quel que soit le processus, nous devons laisser cet anesthésiant moral se dissiper et examiner les implications douloureuses découlant d'une décision à prendre. Pour Belding Scribner, cela signifiait demander à un panel ouvert formé de non-spécialistes - plutôt qu'à un groupe de médecins ostensiblement objectifs réunis à huit clos - de trancher sur les cas des personnes à sauver. Aujourd'hui, l'audit des algorithmes par des parties indépendantes est davantage un souhait qu'une pratique courante. Or, toujours en utilisant l'exemple des maladies rénales, David Robinson montre comment cela peut être fait.

Dans les années 2000, un algorithme a été développé aux Etats-Unis pour identifier les receveurs de dons de reins. Or, certaines personnes n'étaient pas satisfaites de la manière dont l'algorithme a été conçu. En 2007, Clive Grawe, un patient attendant une greffe de rein et habitant de Los Angeles, a déclaré à une salle remplie d'experts médicaux que leur algorithme était biaisé à l'encontre des personnes âgées comme lui. L'algorithme avait été conçu pour attribuer les reins de manière à maximiser les années de vie sauvées. Par conséquent, cela favorisait les patients plus jeunes, plus riches et plus blancs, ont fait valoir Clive Grawe et d'autres patients.

Il est courant d'observer de tels biais au sein des algorithmes. Ce qui est moins fréquent, c'est que leurs concepteurs reconnaissent l'existence d'un problème. Après des années de consultation avec des profanes comme Clive Grawe, les concepteurs ont trouvé un moyen moins biaisé de maximiser le nombre d'années sauvées en tenant compte, entre autres, de la santé globale du patient plus que de son âge. L'un des principaux changements a consisté à ne plus jumeler la majorité des donneurs, qui sont souvent des personnes décédées jeunes, uniquement avec des receveurs de la même tranche d'âge. Certains de ces reins peuvent désormais être greffés à des personnes plus âgées si elles sont, par ailleurs, en bonne santé. Comme dans le cadre du comité mis en place par Belding Scribner, l'algorithme ne prendra jamais des décisions qui feront l'unanimité. Toutefois, le processus qui a mené à ce résultat est plus difficile à critiquer.

"Je ne voulais pas être assis là et faire l'injection. Si vous voulez le faire, vous n'avez qu'à appuyer sur le bouton"

Philip Nitschke, lui aussi, nous pose des questions complexes.

Ancien médecin, qui a perdu sa licence après un litige de plusieurs années avec la commission médicale australienne (l'Australian Medical Board), Philip Nitschke a la particularité d'être la première personne à avoir administré légalement une injection létale à un autre être humain volontaire. Au cours des neuf mois qui se sont écoulés entre juillet 1996, date à laquelle le Territoire du Nord en Australie a adopté une loi légalisant l'euthanasie, et mars 1997, date à laquelle le gouvernement fédéral australien l'a annulée, Philip Nitschke a aidé quatre de ses patients à se donner la mort.

Le premier, un charpentier de 66 ans nommé Bob Dent, souffrait d'un cancer de la prostate depuis cinq ans. Il a expliqué sa décision dans une lettre ouverte : "Si je décidais de garder en vie un animal de compagnie qui est dans le même état physique que moi, je serais poursuivi en justice".

Philip Nitschke voulait aider ses patients suite à leur décision. Toutefois, il était mal à l'aise avec le rôle qu'ils lui demandaient de jouer. Il a donc mis au point une machine qui pourrait prendre sa place. "Je ne voulais pas être assis là et faire l'injection. Si vous voulez le faire, vous n'avez qu'à appuyer sur le bouton".

Au départ, la machine ne payait pas de mine : C'était essentiellement un ordinateur portable relié à une seringue. Elle a tout de même atteint son objectif. Le Sarco est une itération de cet appareil original qui a ensuite été acquis par le Science Museum de Londres. Philip Nitschke espère que la prochaine étape consistera à mettre au point un algorithme capable d'effectuer une évaluation psychiatrique de la personne souhaitant se donner la mort.

Cependant, il y a de fortes chances que ces espoirs soient douchés. La création d'un programme capable d'évaluer la santé mentale d'une personne est une problématique non résolue à ce jour et reste controversée. Comme le fait remarquer Philip Nitschke lui-même, les médecins ne sont pas d'accord sur ce que signifie le choix de mourrir pour une personne saine d'esprit. "Si vous posez la question à 12 psychiatres, vous pourriez obtenir 12 réponses différentes", dit-il. En d'autres termes, il n'existe aucun consensus sur lequel un algorithme pourrait être construit.

Cependant, l'enjeu essentiel ne se trouve pas là. Tout comme Belding Scribner, Philip Nitschke se demande comment différencier une décision médicale d'une décision éthique et qui doit trancher. Belding Scribner pensait que c'était à des non-experts - représentant la société dans son ensemble - de choisir les malades devant recevoir une dialyse car, lorsque les patients ont des chances de survie plus ou moins égales, décider qui vit et qui meurt n'est plus une question technique. Comme le décrit David Robinson, la société doit être responsable de ces décisions même si le processus peut toujours être encodé dans un algorithme à conduit que celui-ci soit construit de manière inclusive et transparente. Pour Philip Nitschke, le suicide assisté est également une décision éthique que les individus doivent prendre pour eux-mêmes. Le Sarco et l'algorithme théorique imaginé par Philip Nitschke ne feront que protéger la capacité des humains à le faire.

L'intelligence artificielle deviendra de plus en plus utile, voire essentielle, à mesure que les populations continueront de s'accroître et que les ressources s'amoindriront. Toutefois, le véritablement travail consistera à reconnaître l'horreur et l'arbitraire dans bon nombre de décisions que l'IA sera amenée à prendre. Et cette charge nous revient.

Selon David Robinson, concevoir des algorithmes c'est un peu comme légiférer : "D'une certaine manière, se demander quel est le meilleur moyen de parvenir à un logiciel qui gouvernera nos vies n'est qu'un cas particulier d'une question bien plus large : Quel est le meilleur moyen de mettre en place des lois ? Les gens ne parviennent pas s'accorder sur les mérites de disposer de différentes façons pour créer des logiciels à fort enjeu tout comme ils ne parviennent pas à le faire pour les lois". Et ce sont les gens - au sens large - qui sont finalement responsables des lois que nous avons.

Article de Will Douglas Heaven, traduit de l'anglais par Kozi Pastakia.

>> Découvrez 21 millions, la newsletter consacrée aux cryptomonnaies de Capital. Des conseils et des analyses des cours hebdomadaires pour vous accompagner dans vos investissements. En ce moment, avec le code promo CAPITAL30J, profitez d'un mois d'essai gratuit.