“Le premier travail d’un data scientist, c’est de nettoyer la donnée”

Le problème des algorithmes, c’est que si on n’est pas sûr des données qu’on y entre, de celles qui les font tourner, alors on ne peut pas être sûr des décisions qu’ils prennent… Décryptage avec Irène Balmès, “meilleure data scientist de France”.

Vidéo Capital - Big data épisode 9 : “Le premier travail d’un data scientist, c’est de nettoyer la donnée”

Par Lomig Guillo

Publié le 20 mai 2021 à 12h20.

Lecture : 3 min

Réservé aux abonnés

Irène Balmès est data scientist pour Kynapse, société de consei en IA et innovation digitale. Elle a été élue en 2016 “meilleure data scientist de France” lors d’un concours organisé au sein de l’école 42. Invitée du podcasts Big Data, elle nous parle de son métier et de l’importance d’une “hygiène de la donnée”.

En quoi consiste le travail d'un data scientist ?

Irène Balmès : C'est un terme qui est apparu il y a une dizaine d'années au moment où il y a eu de plus en plus de données disponibles, en particulier chez les géants dont on a l'habitude de parler, comme Google ou Facebook. Et devant cette grande disponibilité de données, on s'est rendu compte qu'on pouvait utiliser les algorithmes pour tirer des informations de ces données. En particulier faire de la prédiction et de la prévision de façon bien plus fine que ce qu'on pouvait faire avant. En tirant partie des propriétés statistiques de données, des répétitions qui sont dans les données et qui nous permettent de prévoir de nouvelles répétitions ou de nouvelles similarités.

Ecoutez l’intégralité de l’interview d’Irène Balmès dans ce nouvel épisode du podcast “Big Data” :

Et concrètement alors, qu'est-ce que vous faites de vos journées ? Vous regardez les chiffres défiler façon Matrix ?

Non, désolée de vous décevoir mais je ne lis pas dans la matrice en regardant des tableaux Excel ! Notre premier travail c'est de récupérer les données et de les rendre "propres". C'est un gros travail parce que la donnée elle n'existe pas au naturel, il faut la collecter, la vérifier, la nettoyer. Ça, c'est une très grosse partie du travail. Et puis on va essayer de comprendre ces données, de voir ce qu'on peut en tirer.

Nettoyer des données, ça veut dire quoi ?

Parfois par exemple, la méthode de collecte peut influer sur la donnée elle-même. Et parfois on peut avoir l'impression qu'il ya des corrélations, des choses qui se ressemblent, qui apparaissent dans les données, alors qu'en réalité ce ne sont pas de vraies corrélations, ce sont uniquement des artefacts dûs à la méthode de collecte.

Comme par exemple ?

Par exemple, même si la collecte réalisée par des capteurs est en principe la plus fiable, on peut imaginer un capteur qui fonctionne très mal au-delà d'une certaine température... et qui donne des résultats faussés quand il fait trop chaud. Ensuite, sur des données relevées par des humains, on voit apparaître plus de biais. Je me souviens d'un cas où on essayait de prédire si une personne allait venir à un rendez-vous ou non et on trouvait une très forte corrélation entre le fait que la personne vienne et son nombre d'enfants. Et on s'est rendu compte simplement que cette information du nombre d'enfants n'était inscrite que si la personne venait au rendez-vous ! Mais on ne le savait pas dans les données à l'origine car la colonne existait dans tous les cas. C'est simplement lorsqu'on a vu cette corrélation qu'on en a discuté avec les personnes du métier qui, elles, savaient le processus de collecte et qui nous ont expliqué que cette donnée n'était collectée que si la personne venait au rendez-vous. C'est donc essentiel de pouvoir discuter avec les personnes du métier, qui savent comment la donnée a été collectée.

Quel est le risque si on ne nourrit pas les machines avec les bonnes données ?

Les algorithmes vont prendre leurs décisions selon statistiquement ce qu'ils ont vu avant et ce qui, statistiquement, leur semble être la bonne décision. On a vu ainsi il y a quelques années un algorithme pour une carte de crédit qui proposait systématiquement un crédit moins important aux femmes qu'aux hommes, toutes circonstances égales par ailleurs. Ça s'explique par le fait que l'algorithme fonctionne à partir de données historiques et que ces données montrent que les femmes gagnent moins que les hommes, en général. Donc en utilisant ces données historiques, on va pénaliser un groupe tout entier, ici les femmes.

Vous avez d'autres exemples ?

Oui, sur la reconnaissance faciale notamment. Les algorithmes sont majoritairement entraînés à reconnaître des visages d'hommes blancs, parce que ce sont les photos que l'on trouve le plus sur internet, tout simplement. En Angleterre, des caméras vont, dans certaines zones, scanner la foule pour voir si une personne est recherchée ou non. Or, ces algorithmes se trompent sur les types de visages qu'ils ont peu vu. Ils sont donc très efficaces sur les hommes blancs, mais se trompent beaucoup sur les personnes noires et notamment les femmes noires. Ce qui veut dire que les personnes qui vont être arrêtées dans la rue pour justifier de leur identité, car l'algorithme n'aura pas réussi à les identifier, ce sont en majorité les personnes de couleur. Tout le problème vient des données et de leur diversité.

Et pas de la diversité de ceux qui les programment ?

Oui, aussi, c'est indispensable. Et il faut aussi plus de réglementation pour pouvoir aller voir comment sont conçus les algorithmes et s'assurer qu'ils font bien ce pour quoi ils ont été programmés.

Retrouvez l’intégralité de l’interview d’Irène Balmès et toutes les autres interviews de personnalités de l’univers de la donnée et de l’intelligence artificielle (Luc Julia, Laurence Devillers, Fred Potter, Bernard Werber, Baptiste Robert…) dans “Big Data”, la nouvelle série de podcasts de Capital.