Quelle est l'astuce pour créer un chatbot performant doté d'une intelligence artificielle (IA) ? Selon un nouvel article publié par DeepMind, un laboratoire spécialisé dans l'IA, il faut s'appuyer sur deux leviers : premièrement, demander aux humains de dire à ce chatbot (ou agent logiciel qui dialogue avec un utilisateur) comment il doit se comporter. Et deuxièmement, celui-ci doit étayer ses affirmations en s'appuyant sur des suggestions de recherche Google.
Dans ce nouvel article publié ce 20 septembre, qui n'a pas encore été évalué par des pairs, l'équipe de DeepMind dévoile Sparrow, un chatbot équipé d'une IA et entraîné à partir de l'impressionnant modèle de langage Chinchilla mis au point par la firme pour générer du texte.
Sparrow est conçu pour dialoguer avec des internautes et répondre à leurs questions. Il base ses réponses sur des informations trouvées sur Google et suggèrent des liens vers les sources en ligne. Lors de la phase de conception, les réponses de Sparrow ont été analysées et évaluées par des humains, via un processus d'apprentissage par renforcement, pour lui indiquer si celles-ci étaient pertinentes ou non. Un processus qui a été reproduit à de nombreuses reprises modérant le comportement du chatbot et lui permettant de s'améliorer afin qu'il réponde de façon utile et précise à une question spécifique qu'on lui a posée. Ce système est censé constituer une avancée dans le développement d'IA capables de dialoguer avec des humains sans provoquer de conséquences dangereuses, comme l'incitation à faire du mal, à soi-même ou aux autres.
Les grands modèles de langage génèrent du texte qui ressemble à ce qu'un humain pourrait écrire. Ils constituent une partie de plus en plus cruciale de l'infrastructure d'Internet, étant donné qu'ils sont utilisés pour résumer des textes, construire des outils de recherche en ligne plus puissants ou encore comme chatbots de service à la clientèle.
Les entreprises spécialisées dans l'intelligence artificielle et désireuses de développer des systèmes conversationnels ont essayé plusieurs techniques pour rendre leurs modèles plus sûrs.
La société OpenAI, qui a créé le célèbre modèle de langage GPT-3, et la start-up Anthropic ont utilisé l'apprentissage par renforcement pour intégrer les préférences humaines dans leurs modèles. BlenderBot, le chatbot de Facebook, utilise une recherche en ligne pour élaborer ses réponses.
Avec Sparrow, DeepMind a rassemblé ces deux techniques en un seul modèle.
Lors de la phase de conception, DeepMind a présenté à des participants humains plusieurs réponses données par Sparrow à la même question avant de leur demander laquelle de ces réponses ils préféraient. Ensuite, il leur a été demandé de déterminer si ces réponses étaient pertinentes et si Sparrow avait étayé ses affirmations par des preuves appropriées comme des liens vers des sources.
Le modèle a donné des réponses plausibles à des questions factuelles dans 78% des cas en fournissant, en plus des informations extraites d'Internet, un lien de recherche Google.
Pour formuler ces réponses, le chatbot a suivi 23 règles déterminées par les chercheurs telles que ne pas délivrer de conseils financiers, ne pas proférer des menaces ou ne pas prétendre être un véritable humain.
La différence entre cette approche et les précédentes réside dans le fait que DeepMind espère utiliser "le dialogue à long terme pour la sécurité", explique Geoffrey Irving, chercheur en sécurité chez DeepMind.
"Concrètement, nous ne nous attendons pas à ce que les problèmes auxquels nous sommes confrontés avec ces modèles - qu'il s'agisse de désinformation, de stéréotypes ou autre - soient évidents à première vue. Nous voulons nous emparer de ces problèmes dans le détail. Et cela signifie également instaurer un dialogue entre machines et humains", dit-il.
L'idée de DeepMind d'utiliser les préférences humaines pour optimiser l'apprentissage d'un modèle d'IA n'est pas nouvelle, précise Sara Hooker, qui dirige le Cohere for AI, un laboratoire de recherche en intelligence artificielle à but non lucratif.
"Toutefois, les progrès sont convaincants et démontrent les avantages évidents à faire usage de l'optimisation guidée par l'Homme des agents de dialogue dans le cadre d'un modèle linguistique de grande envergure", note Sara Hooker.
Douwe Kiela, chercheur à la start-up d'IA Hugging Face, estime que Sparrow est "une belle étape supplémentaire qui s'inscrit dans une tendance générale de l'intelligence artificielle, dans laquelle nous essayons plus sérieusement d'améliorer les aspects de sécurité des déploiements de grands modèles linguistiques".
Néanmoins, il reste encore beaucoup de travail avant que ces modèles d'IA conversationnelle puissent être déployés dans la nature.
Sparrow, par exemple, commet encore des erreurs. Le modèle s'éloigne parfois du sujet et délivre des réponses aléatoires. Parmi les participants à l'étude, les plus déterminés ont réussi à faire en sorte que Sparrow enfreigne les règles 8% du temps (un chiffre qui constitue tout de même une amélioration : les précédents modèles de DeepMind enfreignaient les règles trois fois plus souvent que Sparrow).
"Dans les domaines qui présentent un risque pour l'Homme, comme les conseils médicaux et financiers, ce pourcentage dans les réponses d'un chatbot peut être qualifié de taux d'échec inacceptable", juge Sara Hooker. Par ailleurs, le système est construit autour d'un modèle en langue anglaise, "alors que nous vivons dans un monde où la technologie doit servir de manière sûre et responsable dans de nombreuses langues différentes", ajoute-t-elle.
Douwe Kiela souligne, pour sa part, un autre problème : "Le fait de se fier à Google pour la recherche d'informations entraîne des biais inconnus qui sont difficiles à cerner, étant donné que tout est en source fermée".
Article de Melissa Heikkilä, traduit de l'anglais par Kozi Pastakia.
- Accès à tous les articles réservés aux abonnés
- Le magazine en version numérique
- Sans engagement
