“Il faudrait passer du big data au smart data, car beaucoup ne signifie pas forcément qualité”

Valérie Beaudouin est professeur de sociologie à Telecom Paris, spécialiste des technologies numériques. Spécialiste de la statistique textuelle, elle a été pendant 12 ans au cœur de la R&D d’Orange, où elle a mené de nombreuses études d’usage autour des nouveaux services et produits.

Vidéo Capital - BIG DATA EP05 : “Il faudrait passer du big data au smart data, car beaucoup ne signifie pas forcément qualité”

Par Lomig Guillo

Publié le 16 avril 2021 à 09h26.

Lecture : 3 min

Réservé aux abonnés

Vous enseignez l’éthique au sein du master en intelligence artificielle de Telecom Paris. En quoi cette discipline a-t-elle sa place dans un tel cursus ?

Il y a une puissance énorme autour de ces algorithmes et des risques de mauvais usages de ces outils. Certaines technologies qui inquiètent, sont généralement complexes à expliquer. Elles posent même problème aux chercheurs du domaine. Par exemple, on ne sait pas exactement comment fonctionnent les réseaux neuronaux utilisés dans les programmes d'apprentissage, ce qu'on appelle le deep learning. On ignore comment ce réseau est arrivé à prendre telle ou telle décision. Or si on ne peut pas expliquer à une personne pourquoi tel crédit lui a été refusé ou pourquoi elle est désavantagée sur telle autre chose, suite à ce qu'à proposé l'algorithme, cela crée de la défiance. On a des machines qui apprennent par imitation, à partir de grosses bases de données, mais on a parfois du mal à expliquer comment l'algorithme a produit tel ou tel résultat.

Écoutez l’interview de Valérie Beaudouin Julia dans “Big Data”, le nouveau podcast de Capital sur l’univers des données :

Est-ce que, au-delà du fonctionnement des algorithmes, le problème ne vient pas aussi de ce qu’on leur donne pour fonctionner ? En clair, des données ?

C’est vrai qu’on parle beaucoup désormais des risques de biais. Les outils d'intelligence artificielle s'appuient sur l'existant pour construire des modèles, or il y des discriminations dans nos sociétés. Donc, par essence, ces otuils vont reproduire les inégalités et les formes de discrimination qui sont déjà inscrites dans notre société.

Vous dites aussi qu'il faut être attentif à la constitution des bases de données en matière de développement durable. C'est-à-dire ?

Les outils de machine learning sont très consommateurs en énergie. Un des grands axes de recherche en ce moment c'est donc comment essayer de construire des échantillons de taille raisonnable pour réduire le coût énergétique de fonctionnement des machines. Donc moins de données, mais plus pertinentes et mieux contrôlées. Il faudrait passer du big data au smart data, car beaucoup ne signifie pas forcément qualité. C'est important d'aller vers une recherche de qualité et de précision.

Vous dites aussi que cela pourrait conduire les entreprises qui utilisent l'IA à pratiquer l'"éthic washing", soit communiquer auprès du public en utilisant l'argument éthique... sans réellement agir sur le sujet.

C'est déjà le cas. Quand on regarde le champ de l'éthique de l'IA, c'est un énorme champ de recherche. Il existe plusieurs centaines de rapports de recherche et de documents sur le sujet. La question qui peut se poser est : pourquoi une telle prolifération autour de ces questions d'éthique ? Ce n'est pas du tout habituel. Quand Internet est né, les informaticiens et ingénieurs n'écrivaient pas des rapports sur tous les risques qu'allaient représenter internet. Et quand on regarde aujourd'hui dans le détail, on voit que ce sont principalement les grands groupes internationaux qui prennent la parole sur ce sujet de l'éthique. Comme s'ils prenaient date en faisant cela et disaient "nous avons conscience qu'il y a des risques autour des technologies que nous sommes en train de mettre en place. Nous sommes des acteurs majeurs du développement de l'IA et en même temps nous sommes des acteurs responsables qui prennent en compte les difficultés liées à cela."

Quel est le problème alors ?

On peut se demander si ce n'est pas une façon d'éviter les réglementations que pourraient mettre en place les États pour limiter les risques liés à ces technologies. Autre hypothèse, ils font cela car les chercheurs dans le domaine de l'IA sont de plus en plus sensibles à ces questions et aux risques que représentent les technologies qu'ils sont en train de développer. Et donc pour les entreprises c'est un moyen de cultiver leur marque employeur car ce sont des spécialistes extrêmement demandés sur le marché du travail. La compétition est très forte pour attirer les meilleurs talents.

Vous avez d'ailleurs vous-même eu l'idée de cette formation à l'éthique après avoir entendu le témoignage d'un data scientist qui avait décidé de changer d'orientation après avoir réalisé que l'IA pouvait détruire des emplois... y compris ceux de ses amis et collègues.

Oui, exactement. Parmi nos étudiants, les préoccupations majeures par rapport à l'IA tournent d'ailleurs autour de l'emploi. Ils ont parfaitement conscience qu'on est dans un cycle de création destructrice, avec de vieux métiers qui disparaissent et de nouveaux qui apparaissent et ils sont très sensibles à ça !

Est-ce qu'il y a une idée reçue sur la data qui vous énerve ?

Le machine learning, c'est pas la solution à tous les problèmes. Aujourd'hui avec de l'informatique classique, des règles simples, on peut réaliser beaucoup de choses. Or avec cette mode autour de l'IA on a l'impression que certains veulent absolument embarquer ces technologies là alors que parfois des technologies plus simples seraient aussi performantes et moins coûteuses en énergie, en compétences et en ressources au sens large.

Propos recueillis par Lomig Guillo

Retrouvez l’intégralité de l’interview de Valérie Beaudouin et toutes les autres interviews de personnalités de l’univers de la donnée et de l’intelligence artificielle (Luc Julia, Fred Potter, Bernard Werber, Baptiste Robert…) dans “Big Data”, la nouvelle série de podcasts de Capital.