Est-ce que quelqu'un d'autre a le vertige ? Alors que la communauté IA venait à peine de se faire une idée des progrès stupéfiants des systèmes texte-image, nous sommes déjà à la prochaine étape : les systèmes texte-vidéo.
En effet, la semaine dernière Meta a dévoilé "Make-a-Video", une IA qui génère des clips vidéo de cinq secondes à partir de simples instructions textuelles.
Basé sur des ensembles de données open source, "Make-a-Video" vous permet de taper une série de mots sur votre clavier comme "Un chien portant une tenue de super-héros avec une cape rouge vole dans le ciel" et il génère ensuite un clip vidéo de cinq secondes qui, bien qu'assez précis, revêt l'esthétique d'une vieille vidéo amateure.
Ce développement constitue une avancée dans l'IA générative mais soulève, en même temps, quelques questions éthiques complexes. La création de vidéos à partir d'instructions textuelles est beaucoup plus compliquée et coûteuse que la génération d'images. Le fait que Meta y soit parvenu aussi rapidement rend la prouesse encore plus impressionnante. Cependant, à mesure que la technologie se développe, on peut craindre qu'elle ne devienne un outil puissant pour créer et diffuser de fausses informations.
Aussitôt dévoilé, aussitôt démodé ? Quelques jours seulement après avoir été présenté, le sytème de Meta a déjà l'air basique. En effet, "Make-a-Video" n'est que l'un des nombreux systèmes d'IA texte-image présentés dans des articles de recherche lors de l'une des principales conférences sur l'intelligence artificielle, l'International Conference on Learning Representations.
Un autre de ces systèmes, baptisé "Phenaki", est encore plus avancé que "Make-a-Video".
Il peut générer une vidéo à partir d'une image fixe et d'un court texte, plutôt que d'instructions textuelles seules. "Phenaki" peut également réaliser des clips beaucoup plus longs que le modèle de Meta : les utilisateurs peuvent créer des clips de plusieurs minutes à partir de plusieurs séries de mots différentes qui forment le scénario de la vidéo. (Par exemple : "Un ours en peluche photoréaliste nage dans l'océan à San Francisco. L'ours en peluche va sous l'eau. L'ours en peluche continue de nager sous l'eau avec des poissons colorés. Un panda nage sous l'eau".)
Une technologie comme celle-ci pourrait révolutionner l'industrie du cinéma et le monde de l'animation. En toute franchise, c'est étonnant de voir à quelle vitesse cela s'est produit. "DALL-E" a été lancé l'année dernière. C'est à la fois extrêmement excitant et légèrement effrayant d'imaginer à où nous en seront dans un an à cette même période.
Lors de la conférence, des chercheurs travaillant pour Google ont également présenté un article sur leur nouveau modèle appelé "DreamFusion". Ce dernier génère des images en 3D à partir d'instructions textuelles. Les modèles 3D peuvent être visualisés sous n'importe quel angle, l'éclairage peut être modifié et le modèle peut être placé dans n'importe quel environnement 3D.
Ne vous attendez pas à pouvoir expérimenter ces modèles de sitôt. Pour l'instant, Meta ne met pas "Make-a-Video" à la disposition du public. C'est une bonne chose. Le modèle de Meta est formé à l'aide du même ensemble de données d'images open source que celui qui est à l'origine de "Stable Diffusion". L'entreprise affirme qu'elle a mis en place des filtres afin de masquer le langage toxique et les images NSFW. Or, cela ne garantit pas qu'elle aura saisi toutes les nuances des aspects désagréables de l'humanité vu que les ensembles de données récoltés se composent de plusieurs millions d'échantillons. De plus, le moins que l'on puisse dire c'est que Meta ne peut pas se targuer d'avoir un excellent bilan lorsqu'il s'agit de limiter les dommages causés par les systèmes qu'elle construit.
Dans leur article, les créateurs de "Pheraki" écrivent que si la qualité des vidéos produites par leur modèle n'est pas encore indiscernable des vidéos réelles, cela "est du domaine du possible, même aujourd'hui". Les créateurs affirment qu'avant de mettre en ligne leur modèle, il veulent apprendre à mieux comprendre les données, les instructions textuelles et les sorties de filtrage ainsi que mesurer les biais afin d'atténuer les préjudices.
En ligne, il va devenir de plus en plus difficile de distinguer le vrai du faux. Avec l'IA vidéo, on entrevoit une série de dangers potentiels uniques qu'on ne craignait pas avec l'audio et les images comme la perspective de faire face à des deepfakes survitaminés. Des plateformes comme TikTok et Instagram déforment déjà notre perception de la réalité à cause des filtres. La vidéo générée par l'IA pourrait être un puissant outil de désinformation car, selon des chercheurs de la Penn State University, les gens ont davantage tendance à croire et à partager de fausses vidéos que de faux formats audio ou texte sur le même contenu.
Pour conclure, nous sommes loin d'avoir compris comment gérer les éléments toxiques présents dans les modèles de langage. Nous venons seulement de commencer à examiner les préjudices que pourraient causer les systèmes d'IA de type texte-image. Et pour la vidéo ? Bonne chance.
Article de Melissa Heikkilä, traduit de l'anglais par Kozi Pastakia.
- Accès à tous les articles réservés aux abonnés
- Le magazine en version numérique
- Sans engagement
