“Ce ne sont pas les machines qui nous manipulent, mais les ingénieurs qui les conçoivent”

Les machines, mêmes intelligentes, ne sont donc pas capables d’improviser ?

C’est cela. Les machines sont plus intelligentes que nous pour calculer et trouver la meilleure solution parmi un ensemble de solutions possibles. Comme aux échecs par exemple, où les machines nous battent désormais systématiquement. Ou pour répondre à une question en allant chercher dans une encyclopédie en ligne. En revanche dans le vrai monde, en 3D, dans lequel il y a de choses cachées, des choses qu'on peut voir sous différents aspects, l'humain a un sens de l'environnement qui lui permet d'interpréter les choses, même s'il n'en a qu'une vision partielle. Alors que la machine doit connaître tous les possibles pour les interpréter.

Qu'est-ce qui lui manque alors ?

L'intuition. Dans tout apprentissage, il y a une part d'intuition, de sens commun, de compréhension rapide des choses. Un enfant, après avoir vu quelqu'un faire quelque chose deux fois, sait le faire. La machine, il lui faut bien plus de temps pour arriver à la même performance. Nous avons aussi une partie innée aussi que n'a pas la machine. Et nous n’apprenons pas uniquement par le langage, mais aussi par tous les autres sens que n'a pas la machine.

La différence aussi c'est que les enfants sont curieux de tout... Une machine est-elle, elle, capable de curiosité ?

Créer des machines curieuses, c'est un axe de recherche actuel, c'est vrai. Une machine curieuse, c'est une machine qui a un environnement connu et est capable d'aller chercher ailleurs. On peut le faire au premier degré : avoir un robot dans une pièce et le faire aller ailleurs. Dans le monde numérique, c'est envoyer le programme voir ailleurs, chercher à agrandir ses connaissances par aléatoire : si la machine reconnaît de façon aléatoire des choses qu'elle a déjà vu, elle peut apprendre de ces situations. La curiosité, c'est ce qui manque aux machines pour être autonomes : si les machines n'ont pas la possibilité d'apprendre seules, ça sera toujours à nous de les nourrir en données. Pour apprendre plus, il faut être curieux, aller voir ailleurs pour enrichir ses connaissances. Donc forcément, les objets de demain, pour être autonomes, devront être doués de cette capacité d'apprendre sans être supervisés par l'homme. Et ça c'est le graal actuel de la recherche.

C’est ainsi qu’on pourra créer des machines qui ressembleront vraiment à l’homme ?

Je me demande bien pourquoi, au-delà du fantasme récurrent de se prendre pour dieu et de façonner un être à son image, on se complique autant la vie alors qu'on sait très bien donner la vie autrement ! On ne peut pas reproduire ce qu'est l'humain car, fondamentalement, on ne sait pas ce qu'est l'humain. On crée des objets de plus en plus complexes, avec des simulacres de ce que nous sommes, mais sans l'essence même de ce que nous sommes. La pensée par exemple, on ne sait pas ce que c'est. Même le neurone conserve une part d'inconnu. On découvre sans arrêt de nouvelles complexités et on ne sait pas modéliser notre esprit. On fait des architectures de neurones qui sont très loin de la réalité du fonctionnement du cerveau. Il n'y a pas de conscience là dedans, aucunement.

C'est aussi pour cela qu'on a beau nourrir les machines de data et données, cela ne remplace pas la perception que nous, humains, avons du monde...

Effectivement, les machines ne sont pas capables d'avoir cette perception multi-facteur que nous avons. Nos émotions sont complexes : elles sont souvent plusieurs en même temps. Quand mon enfant dit une bétise dans la rue, je vais le gronder et en même temps ça me fait sourire. Et dans ma voix il va entendre l'amusement en même temps qu'une espèce de colère jouée pour faire comprendre que ce n'est pas ce qu'il faut faire... Ce mélange d'émotions, ces émotions fines liées à notre culture, à l'interaction et au contexte, aucun des systèmes actuels de détection des émotions ne le prend en compte.

Est-ce que ces machines nous manipulent ?

Ce ne sont pas les machines qui nous manipulent, ce sont les ingénieurs qui les ont conçues qui nous manipulent. Je me suis amusée à faire une expérience avec une enceinte connectée : je lui disais "je suis triste" et elle me répondait "je suis triste avec vous". Je répète ça plusieurs fois et au bout d'un moment, après avoir épuisé toutes ses phrases, elle me propose de me prendre dans ses bras... Comme c'est une enceinte sans bras, je lui dis "où ça des bras" et là elle me sort "Des bras en plus, déménageurs à côté de chez vous..." avec l'adresse. Voilà ce qu'elle sait faire, la machine : nous localiser et trouver autour de nous ce dont on peut avoir besoin. C'est très fort, mais ça n'a rien à voir avec un ressenti humain. A travers ces systèmes qu'on accepte chez nous, nous sommes des cobayes : de l'autre côté on change et on adapte les stratégies pour voir comment les humains réagissent et on collecte nos données pour en faire des systèmes de plus en plus performants, qu'on nous vendra à un moment donné. Mais face à un objet qui vous dit "Je suis là pour vous", "Vous êtes triste, je suis triste"... on va créer une fake empathie. Et profiter pour vendre à des personnes seules une compagnie artificielle en faisant croire à une vraie relation.

Vous dites qu'un homme peut tomber amoureux d'une machine, en revanche l'inverse vous n'y croyez pas...

Ce n'est pas question d'y croire ou pas, c'est que c'est juste impossible. Une machine simule, elle ne ressent rien. C'est nous humains qui, en face, projetons des ressentis dans la machine, dès lors qu'elle s'adresse à nous avec le langage ou même nous suive juste du regard. Il suffit que l'attention de ces objets soit portée sur nous pour que d'un seul coup on l'humanise.

A lire : Les robots émotionnels, par Laurence Devillers, éditions de l’Observatoire.

Retrouvez l’intégralité de l’interview de Laurence Devillers et toutes les autres interviews de personnalités de l’univers de la donnée et de l’intelligence artificielle (Luc Julia, Fred Potter, Bernard Werber, Baptiste Robert…) dans “Big Data”, la nouvelle série de podcasts de Capital.