“Comme les médicaments, les algorithmes peuvent aussi présenter des effets indésirables”

Nozha Boujemaa : Aujourd’hui, les techniques de reconnaissance d’images sont vraiment au point. Bien entraînée, une machine est capable d’aller chercher dans les images des indices, des signatures, des motifs qui ne sont pas toujours visibles à l'œil nu. Mais pour apprendre à faire cela, il faut que les algorithmes puissent avoir accès à une immensité de données. Parce que c’est la quantité de données qui va permettre d'avoir des redondances et donc d’identifier un objet, une forme, sous une multitude d'apparences. C'est vrai d’ailleurs pour la médecine comme pour la reconnaissance des visages ou objets en général. Mais en matière de santé, l'intérêt c'est d'être capable d'anticiper les premiers signes d'une maladie. Les signaux faibles. Car plus on est dans l'anticipation, plus la médecine est efficace et peut avoir un impact.

Pourtant, vous dites qu’on ne dispose pas aujourd’hui d’assez d’images ou de données pour entraîner correctement ces IA ?

Exactement et c'est bien là tout le problème. L'efficacité de l'IA c'est un duo : il faut des algorithmes qui fonctionnent et des données de qualité. L'un ne va pas sans l'autre, tout l'impact de l'IA dans la santé viendra du mariage de ces deux choses- là. Or pour l'instant, si les algorithmes prédictifs fonctionnent, en revanche on manque cruellement de données. La rareté des images médicales est un vrai problème aujourd’hui. Il faut, certes, que ces images soient protégées, car il s'agit de données personnelles et de données de santé. Mais le paradoxe c'est qu'en essayant de faire de l'éthique sur ce sujet, on en arrive à un comportement non éthique, puisqu'en freinant le développement de ces IA, on accepte l'idée qu'on ne pourra pas détecter une maladie avant l'heure. On accepte qu'un praticien dise à un patient, "revenez dans trois mois, on verra comment telle lésion a évolué", le privant de chance alors qu'une IA aurait pu analyser bien plus finement les premiers signaux d'une maladie par exemple.

Qu’est-ce qui bloque, selon vous ?

Il faudrait sans doute créer une carte de “donneur de données” comme on avait celle de donneur d’organes ! Que chacun puisse à sa mesure aider la science, ça serait une bonne chose. Car pour moi, les données de santé sont un bien commun. Mais aujourd’hui, la difficulté, c'est que ceux qui produisent les données - je pense aux hôpitaux par exemple - ne sont pas forcément les mieux placés pour les diffuser. De plus, ces données ayant de la valeur, se mêlent des intérêts économiques qui rendent le sujet encore plus complexe.

C'est-à-dire ?

A partir du moment où une denrée est rare, se met en place des circuits légaux... et d'autres moins. On l'a vu récemment avec une étude sur le Covid publiée dans The Lancet et qui citait presque 800 hôpitaux, des milliers de patients... Or une telle quantité de données, c'est quasi impossible de se la procurer, il n'y a pas de baguette magique. D'ailleurs, plusieurs hôpitaux cités ont nié avoir participé à cette étude, qui a finalement été retirée.

Mais alors d'où venaient-elles, ces données ?

Il y a pas mal de sociétés qui offrent aujourd'hui des services gratuits à base d'IA pour les radiologues ou les hôpitaux... Sauf qu'on ne maîtrise pas le cycle de vie de la donnée une fois qu'elle entre dans ce type de service gratuit. On n'en connaît pas le devenir. Comment ces données sont transformées, utilisées ailleurs. Elles se retrouvent ensuite dans ce type d'étude sans que le producteur initial de la donnée ne soit au courant, ce qui peut introduire des biais car la donnée n'est pas toujours bien qualifiée. Or l'essentiel pour entraîner une IA, c'est que la donnée qu'on lui donne soit fiable et qualifiée. Sinon les résultats ne seront pas interprétables.

Pour résumer, vous dites donc qu’on a aujourd’hui des modèles d'intelligence artificielle capables de faire de la médecine prédictive, mais que pour les entraîner on a un problème de données... Et du coup un marché quasi parallèle de la “donnée” se développe et que cela peut donner, au final, des résultats biaisés ou, pire, faussés ?

Oui. Et c'est là tout l'intérêt d'une régulation internationale sur la gouvernance des données et en particulier les données de santé. C'est un enjeu majeur ! On doit avoir des algorithmes auditables, dont on puisse vérifier qu'ils font bien ce qu'ils disent faire. Quand un médicament est mis sur le marché, il a une notice qui décrit ses effets indésirables ou ses effets en dehors d'un certain cadre d'utilisation normale. Les algorithmes devraient avoir les mêmes précautions d'utilisation car, très clairement, ils peuvent présenter des effets indésirables. Il faut maîtriser la chaîne de bout en bout, et c'est ça l'IA de confiance.

A titre personnel, si demain vous deviez passer un examen médical, accepteriez-vous que les images soient ensuite utilisées pour entraîner une IA ? Et laisseriez-vous une machine établir un diagnostic ?

Oui, j'accepterai le partage des données, tout comme le don d'organes. Si ça peut aider à faire progresser la science évidemment, pourquoi je freinerai. Pour le diagnostique, je ne me méfierais non pas de la machine mais de ceux qui appliquent l'IA. Pour être sûre que celui qui est derrière la machine a pris toutes les précautions nécessaires pour utiliser à bon escient l'IA et la maîtriser, ainsi que les données utilisées et injectées dans cette machine pour donner ce résultat. Si ces conditions sont réunies, bien sûr que l'IA sera plus performante que l'humain et ne pourra qu'anticiper ce que l'humain n'est pas capable d'analyser aujourd'hui. C'est évident.

Propos recueillis par Lomig Guillo

Retrouvez l’intégralité de l’interview de Valérie Beaudouin et toutes les autres interviews de personnalités de l’univers de la donnée et de l’intelligence artificielle (Luc Julia, Fred Potter, Bernard Werber, Baptiste Robert…) dans “Big Data”, la nouvelle série de podcasts de Capital.