C'est sans doute la dernière personne dont on s'attend à voir le contenu être censuré sur YouTube. Ann Reardon est une ancienne éducatrice australienne et mère de trois enfants. Elle a publié son propre livre de recettes, a cuisiné pour la BBC et a déjà préparé une tarte aux pommes de la taille d'une pièce de monnaie pour deux poussins. Depuis 2011, sur sa chaîne YouTube, elle montre à ses millions de fidèles abonnés comment préparer et décorés des gâteaux élaborés.
Le 1er juillet, Ann Reardon a reçu un mail de YouTube lui annonçant que sa dernière vidéo avait été supprimée de la plateforme. "Notre équipe a examiné votre contenu et, malheureusement, nous pensons qu'il enfreint notre politique en matière de contenu préjudiciable et dangereux", pouvait-on lire dans le message.
Ce mail faisait référence à une vidéo qui se démarquait du contenu, à base de pâte à sucre et autres recettes, posté habituellement par Ann Reardon.
Intitulée "Debunking DEADLIEST craft hack, 34 dead" (que l'on pourrait traduire en français par "Discréditer les hacks MORTELS, 34 morts"), cette vidéo était la dernière d'une série de contenu annexe postée sur la chaîne d'Ann Reardon : depuis 2018, elle utilise la plateforme pour mettre en garde ses abonnés contre les nouveaux "hacks artisanaux" dangereux qui prolifèrent sur YouTube. La pâtissière a mis en ligne 28 vidéos s'attaquant à ce type d'activités nocives telles que pocher des oeufs au micro-ondes, blanchir des fraises ou encore utiliser une canette de Coca et du feu pour faire cuire du pop-corn.
Avec son dernier contenu, elle a été prise au piège des politiques de modération incohérentes et désordonnées qui rongent YouTube depuis longtemps. La vidéo d'Ann Reardon a mis en lumière une problématique : Comment une mise en garde contre des hacks mortels peut-elle être jugée dangereuse alors que les vidéos des hacks en question ne le sont pas ? Sur le papier, YouTube interdit les contenus qui encouragent "des activités dangereuses ou illégales risquant de causer des dommages physiques graves ou la mort". Mais qu'en est-il dans la pratique ?
Dans sa vidéo de 14 minutes, Ann Reardon met en garde ses spectateurs contre une technique artisanale qui peut être mortelle si elle est mal exécutée : la "combustion fractale du bois". Cette dernière consiste à faire passer un courant électrique à haute intensité sur du bois humide afin d'y graver un motif en forme de branche à sa surface. Sur son site Internet, l'American Association of Woodturners affirme que cette pratique comporte "un risque caché important d'électrocution". Dans sa vidéo, Ann Reardon se plaignait du fait que de nombreux tutoriels sur la combustion de bois fractal soient disponibles sur Youtube, "y compris des vidéos pratiques qui vous montrent comment fabriquer votre propre appareil de combustion de bois fractal en utilisant des pièces d'un vieux micro-ondes".
Ann Reardon ne veut pas seulement sensibiliser l'opinion, elle souhaite que YouTube change [son fonctionnement]. "Si les cela ne tenait qu'à moi, YouTube adopterait une politique contre les hacks dangereux et les vidéos pratiques nocives", a-t-elle lâché à la fin d'une récente vidéo. "Ils en ont une contre les pranks (farces) et les défis dangereux - pourquoi est-ce qu'il n'y en a pas une pour les hacks dangereux ?"
Contactée par la MIT Technology Review, YouTube répond avoir réexaminé et remis en ligne la vidéo d'Ann Reardon peu après qu'elle ait fait appel de la suppression. Et en effet, la vidéo était de nouveau disponible le 2 juillet. La plateforme a précisé qu'il lui arrivait fréquemment de rétablir des vidéos supprimées par erreur. En revanche, nous n'avons pas réussi à savoir pourquoi la vidéo d'Ann Reardon était tombée sous le coup de la politique de YouTube en matière de contenu dangereux alors que, de l'autre côté, les vidéos de combustion fractale du bois contre lesquelles la pâtissière a lancé une mise en garde étaient restées accessibles.
Lors de nos tous premiers échanges avec YouTube pour l'écriture de cet article, on a dénombré plus de 3.000 résultats de recherche Google pour des vidéos de combustion de bois fractal sur la plateforme de vidéos. Aujourd'hui, il n'en reste que 1.000 environ. Un porte-parole de YouTube a déclaré : "En vertu de nos politiques en matière de contenu nuisible ou dangereux, nous interdisons les contenus qui encouragent des activités dangereuses ou illégales risquant de causer des dommages physiques graves ou la mort. Après examen, nous avons supprimé un certain nombre de vidéos et appliqué des restrictions d'âge appropriées aux contenus ne convenant pas à tous les spectateurs".
"L'oeuf est plus gros qu'avant"
Le 25 juillet 2019, sur Twitter, un internaute a épinglé et partagé une vidéo surprenante avec en filigrane les mots "5-Minute Crafts (ou "Des travaux manuels réalisables en 5 minutes", en français). Dans le clip de 55 secondes, un oeuf a été placé dans un verre à vin rempli de vinaigre et une légende indiquait : "Laissez l'oeuf pendant un jour". L'oeuf en ressort jaune et rebondi et une autre légende déclare : "Il est plus gros qu'avant".
L'oeuf rebondi a été placé dans un verre contenant du sirop d'érable avant d'être mis dans de l'eau teintée en bleu à l'aide d'un colorant. Une fois de plus des légendes donnaient les mêmes informations : "Laissez l'oeuf pendant un jour", suivi de "Il est plus gros qu'avant".
Ce clip déroutant est devenu viral, obtenant 72.000 likes sur Twitter et une couverture médiatique dans le New York Magazine. C'est de cette manière que le monde entier a fait la connaissance de "5-Minute Crafts", une chaîne YouTube créée il y a six ans et qui, dorénavant, comptabilisé plus de 24 milliards de vues. Presque toutes les vidéos postées sur "5-Minutes Crafts" sont aussi bizarres et absurdes que celle de l'oeuf "qui est plus gros qu'avant". Par exemple, la chaîne diffuse des vidéos de gens qui mettent des lentilles de contact à l'aide de contons-tiges, qui épluchent des pommes avec une perceuse, qui fabriquent des fers à souder de fortune avec des briquets ou encore qui appliquent du dentifrice sur des brûlures. (Attention, le site officiel de Colgate met en garde contre la dernière pratique citée.)
Ann Reardon a appris l'existence de la chaîne "5-Minutes Crafts" il y a un an, lorsque son nombre de vues avait fortement chuté en raison d'un changement d'algorithme sur YouTube. Les YouTubers vedettes se voient souvent attribuer un "responsable partenaire" au sein de l'entreprise qui leur offre un soutien personnalisé.
"Le responsable partenaire m'a suggéré de jeter un coup d'oeil à certaines chaînes qui cartonnaient avec le nouvel algorithme", raconte Ann Reardon. "Et c'est là que j'ai réalisé : 'Attends une minute. Tu ne peux pas faire certaines de ces recettes. Ce ne sont pas de vraies recettes, elles sont fausses'". En 2018, Ann Reardon a mis en ligne une vidéo dans laquelle elle teste les hacks de pâtisserie de la chaîne "So Yummy". Résultat : elle a démontré que, malgré ce qu'affirme la chaîne, vous ne pouvez pas foutter de la crème glacée et du sucre dans le glaçage d'un gâteau ou faire fondre des oursons en gélatine. En juillet 2019, elle a critiqué la chaîne "Blossom" pour avoir publié des informations erronées du même ordre.
Suite à cela, de jeunes enfants m'ont laissé des commentaires comme celui-ci : "Je pensais que je ne savais pas cuisiner. J'ai reproduit les étapes de la vidéo mais ça n'a pas marché. Et maintenant, ma maman m'a dit que je ne pouvais plus cuisiner parce que j'avais gaspillé des ingrédients", raconte Ann Reardon. Elle a décidé de mettre à profit ses diplômes en sciences de l'alimentation et en diététique pour commencer à discréditer d'autres contenus. La YouTubeuse s'est vite rendue compte que de nombreuses diffusaient non seulement de fausses informations mais qu'elles étaient également dangereuses.
En mai 2019, Ann Reardon a publié une vidéo sur "5-Minute Crafts". Elle a eu le souffle coupé en voyant une actrice se brosser les dents avec de la colle chaude et un autre tester une recette de glace au charbon actif "granuleuse" mais la plus grosse partie de sa vidéo, Ann Reardon l'a consacrée à un clip dans lequel des fraises étaient trempées dans une verre rempli d'eau de Javel pour les blanchir. "Si des enfants reproduisent cela à la maison et mangent ces fraises blanches, ils risquent de s'empoisonner", a-t-elle déclaré avant de demander à ses abonnés de signaler la vidéo. (Depuis, le clip a été retiré de la chaîne "5-Minute Crafts.)
Contactées, "Blossom" et "So Yummy" n'ont pas souhaité faire de commentaire. La MIT Technology Review a transmis à TheSoul Publishing, la société à l'origine de "5-Minute Crafts", une liste de vidéos préoccupantes publiées sur sa chaîne. Dans cette liste, il y avait notamment un tutoriel sur comment transformer du sucre fondu en barbe à papa à l'aide d'une perceuse électrique, un autre sur la fabrication d'un pistolet à colle à partir d'une canette de soda tranchée et d'un briquet ainsi qu'une vidéo dans laquelle une main mystérieuse met le feu à un gel antibactérien avant d'y passer les doigts.
Patrik Wilkens, vice-président des opérations de TheSoul Publishing, a déclaré que la société "produisait un contenu agréable, positif et original qui n'est pas destiné à être une source pour la recherche de faits mais plutôt une source de divertissement". YouTube a indiqué qu'elle allait examiner les vidéos de "5-Minute Crafts" signalées par la MIT Technology Review.
Sous chaque vidéo mise en ligne par "5-Minute Crafts", dans la partie description", un avertissement précise : "La vidéo suivante peut présenter une activité réalisée par nos acteurs dans un environnement contrôlé [sic] - veuillez faire preuve de discernement, de prudence et de précaution si vous envisagez de reproduire ce que vous allez voir".
Patrik Wilkens nous a assuré que TheSoul Publishing disposait d'une équipe "d'assurance qualité" qui examine chaque vidéo tout au long de sa production. "Nous adhérons aux politiques des plateformes où nos vidéos sont publiées". Et d'ajouter : "De plus, au quotidien, nous surveillons et recueillons les commentaires du public et des partenaires. Nous apportons les changements et modifications nécessaires".
Une adolescente serait morte en tentant de reproduire un "hack"
Le 5 septembre 2019, une adolescente chinoise est supposément morte après avoir tenté de reproduire ce qu'elle avait vu dans une vidéo de "hack" virale. La vidéo, mise en ligne par l'influenceuse culinaire Ms Yeah, apprenait aux spectateurs comment faire cuire du pop-corn à l'intérieur d'une canette de soda placée au-dessus d'une lampe à alcool. La famille d'une jeune fille de 14 ans a déclaré qu'elle et son amie, âgée de 12 ans, essayaient de suivre les instructions de la vidéo lorsque la canette a explosé. Les deux filles ont été gravement brûlées et l'adolescente de 14 ans est décédée des suites de ses blessures.
Ms Yeah, dont le vrai nom est Zhou Xiao Hui, a versé aux familles un dédommagement dont le montant n'a pas été révélé. En revanche, elle a nié le fait que les deux filles ont copié sa vidéo car elles auraient chauffé de l'alcool directement à l'intérieur de deux canettes. "Je n'ai utilisé qu'une seule canette et une lampe à alcool, ce qui est plus sûr", a-t-elle écrit sur Weibo. L'influence a ajouté que ses vidéos n'avait pas pour but d'instruire. La chaîne YouTube de Ms Yeah compte 11,7 millions d'abonnés qui la regardent cuisiner de manière non-conventionnelle, souvent avec des fournitures de bureau. Par exemple, elle a déjà fait cuire de la viande au barbecue sur un meuble de rangement. Elle a déjà fait tourner de la barbe à papa sur une perceuse électrique ou encore fait frire des aliments dans une cafetière remplie d'huile. Contactée, Ms Yeah n'a pas répondu à nos sollicitations.
Outre cet incident, Ann Reardon a mis la lumière sur un autre hack problématique : celui qui apprend à pocher des oeufs au micro-ondes et qui a causé un certain nombre de blessés. Sur YouTube, il existe des dizaines de milliers de vidéos sur cette technique, bien souvent ce sont des personnes qui tentent ce hack chez eux. La cuisson des oeufs au micro-ondes peut les faire exploser. De plus, des chercheurs ont découvert que les jaunes d'oeufs cuits au micro-ondes sont en moyenne 22°F plus chauds que l'eau cuite au micro-ondes. Au cours des trois dernières années, au Royaume-Uni, plusieurs personnes se sont blessés en tentant de reproduire cette technique.
Les décès ou les blessures graves liés aux hacks de travaux manuels ou de recettes de cuisine sont encore relativement rares. Concernant la combustion fractale du bois, c'est une autre histoire.
La première fois qu'Ann Reardon a entendu parler de la combustion fractale du bois, c'était après la mort d'un couple du Wisconsin qui a tenté de reproduire cette pratique en avril dernier. Cette technique est populaire depuis un certain nombre d'années. Depuis 2016, l'American Association of Woodtunrers a dénombré 33 décès sur le sol américain dus à la combustion fractale du bois. Ce nombre est sûrement sous-estimé étant donné le fait que l'association ne comptabilise que les décès qui ont fait les gros titres des journaux. Un article publié en 2020 par des médecins d'un hôpital pour grands brûlés situé dans l'Oregon a révélé un taux de mortalité de 71% après des accidents liés à la combustion fractale du bois. Les auteurs de l'article ont qualifié ce taux de "stupéfiant".
En mai 2020, Matt Schmidt, un ouvrier du bâtiment, a été électrocuté en essayer de reproduire cette technique dans son garage. Sa femme, Caitlin Schmidt, infirmière à l'époque, était au travail. C'est leur fils aîné qui a retrouvé le corps de son père.
"Le problème, c'est que n'importe qui peut regarder ces vidéos - enfants, adultes, peu importe", dit-elle. Matt Schmidt a d'abord vu une vidéo de combustion fractale du bois qui avait été partagée par un ami sur Facebook. Il a été tellement intrigué "qu'il a commencé à regarder des vidéos YouTube à ce sujet - et elles sont infinies".
Matt Schmidt a été électrocuté lorsqu'un morceau du boîtier entourant les câbles de démarrage qu'il utilisait s'est détaché et que sa paume a touché le métal. "Je crois vraiment que si mon mari avait été pleinement conscient [des dangers], il ne l'aurait pas fait", déclare Caitlin Schmidt. Son plaidoyer est simple : "Quand vous avez affaire à quelque chose qui a la capacité de tuer quelqu'un, il devrait toujours y avoir un avertissement... YouTube doit faire un meilleur travail, et je sais qu'ils en ont les moyens, car ils censurent tous types de personnes".
Après la mort de Matt Schmidt, des professionnels de la santé de l'université du Wisconsin ont rédigé un document intitulé "Shocked Though the Heart and YouTube is to Blame" ("Un choc au coeur et c'est YouTube qui est à blâmer", en français). Prenant en exemple le décès de Matt Schmidt ainsi que quatre autres cas de blessés liés à la combustion fractale du bois qu'ils avaient personnellement traités, les professionnels ont demandé "qu'un message d'avertissement soit inséré avant que les utilisateurs puissent accéder au contenu vidéo" sur cette technique. "Bien qu'il ne soit pas possible, ni même souhaitable, de signaler chaque vidéo mettant en scène une activité potentiellement risquée", écrivent-ils, "une mesure pratique serait d'appliquer un message d'avertissement aux vidéos pouvant entraîner la mort lorsque ce qu'on y voit est reproduit". Matt et Caitlin Schmidt se connaissent depuis l'âge de 12 ans. L'ouvrier du bâtiment laisse derrière lui trois enfants. Caitlin Schmidt affirme que sa famille est "dévastée par la douleur causée par cette perte" et qu'elle en sera marquée à vie. "Nous incarnons maintenant le récit de ce qu'il ne faut pas fair", dit-elle. "Et j'aurais aimé, plus que tout au monde, que cela n'arrive jamais".
Modération des pranks et des challenges
Auprès de la MIT Technology Review, YouTube a fait valoir que ses directives communautaires interdisent les contenus destinés à encourager les activités dangereuses ou présent un risque inhérent de dommages physiques. Des avertissements et des restrictions d'âge sont appliqués au vidéos explicites. C'est une combinaison de technologies et de personnel humain qui fait respecter les directives de l'entreprise. Parmi les vidéos dangereuses interdites par YouTube, il y a les défis qui présentent un risque immédiat de blessure, les pranks qui provoquent une détresse émotionnelle, la consommation de drogues, la glorification des tragédies violentes et les instructions sur la façon de tuer ou de blesser. Toutefois, les vidéos peuvent représenter des actes dangereux si elles contiennent suffisamment de contexte éducatif, documentaire, scientifique ou artistique.
C'est en janvier 2019 que YouTube a, pour la première fois, introduit une interdiction des défis et farces dangereux. C'est arrivé le lendemain d'un accident de la route qu'un adolescent a eu. Ce dernier s'était bandé les yeux, avant de monter à bord de son véhicule, afin de participer au "défi Bird Box".
YouTube a retiré "un certain nombre" de vidéos de combustion fractale de bois et a mis une limite d'âge sur d'autres après avoir été contacté par la MIT Technology Review. Toutefois, l'entreprise ne nous a pas précisé pourquoi elle modérait les pranks et les défis mais pas les hacks.
La tâche sera sans doute difficile à réaliser - chaque vidéo de "5-Minute Crafts" contient de nombreuses astuces de bricolage, qui s'enchaînent les unes après les autres, et dont beaucoup sont simplement bizarres mais pas dangereuses. Et cette ambiguïté des vidéos de hacks - qui n'est pas présente dans les vidéos de défis - peut-être difficile à juger pour des modérateurs humaines, sans parler de l'intelligence artificielle (IA). En septembre 2020, YouTube a réintégré les modérateurs humains qui avaient été "mise hors ligne" pendant la pandémie. L'entreprise s'est rendue compte que son IA avait preuve d'un excès de zèle, doublant le nombre de suppressions incorrectes sur la période avril à juin.
Lorsqu'une vidéo est soumise à des restrictions d'âge parce qu'elle diffuse des activités dangereuses ou illégale, la vidéo peut - selon les pages d'assistance de Google - "avoir une monétisation publicitaire limitée voire nulle". "5-Minute Crafts" est actuellement la 13ème chaîne de la plateforme en termes d'abonnés. Chaque semaine, "5-Minute Crafts" gagne environ 30 millions de vues supplémentaires. Ms Yeah compte 11,7 millions d'abonnés et enregistre un nombre de vues hebdomadaires similaire.
Les vidéos choquantes ou douteuses constituent un moyen infaillible d'attirer l'attention des téléspectateurs et de générer des profits sur YouTube. Lorsqu'une vidéo est bizarre, il est difficile de ne pas cliquer dessus. Lorsqu'elle diffuse un contenu scandaleux, vous exprimez votre indignation dans la section commentaires. Selon Social Blade, un site d'analyse des réseaux sociaux, la chaîne "5-Minute Crafts" gagnerai entre 400.000 et 6,5 millions d'euros par an.
TheSoul Publishing, qui compte plus d'un milliard d'abonnés sur l'ensemble de ses chaînes, a déclaré qu'en tant que société privée, elle ne divulguerait pas les revenus qu'elle tire de ses vidéos de hacks artisanaux.
Patrik Wilkens a rejeté l'idée que son entreprise créait délibérément des vidéos choquantes ou douteuses affirmant : "Cela ne fait pas partie actuellement, et cela n'en n'a jamais fait partie, du modèle économique de TheSoul Publishing. En tant que créateur numérique de premier plan, nous nous efforçons de produire un contenu qui soit le plus attrayant possible pour le plus grand nombre de personnes - ce qui est l'objectif de la plupart des producteurs de contenu, des annonceurs, des plateformes de streaming et des studios de cinéma".
Bertie Vidgen, responsable de l'Observatoire des préjudices en ligne à l'Alan Turing Institute, estime qu'il est "choquant" que YouTube n'ait pas mis d'avertissements sur les vidéos de combustion fractale de bois. "Si des personnes sont mortes en essayant de faire cela, alors il n'y a pas de doute possible : il y a clairement un risque de préjudice", insiste-t-elle.
Dans la section "Shorts" de YouTube, un extrait (une vidéo de moins de 60 secondes) sur la combustion fractale de bois - toujours visible sur la plateforme - compte 21 millions de vues. Dans celui-ci, deux mains gantées badigeonnent du bois à l'aide d'eau et de bicarbonate de soude avant de fixer des pinces et des fils à deux clous. Le bois commence à brûler. YouTube a supprimé la vidéo complète à laquelle le Shorts renvoie mais ce dernier ne comporte aucun avertissement. La section commentaires, en revanche, est pleine de messages d'avertissement dont certains commencent par les mots suivants : "Je suis venu ici après avoir regardé la vidéo d'Ann Reardon".
"Je pense qu'il est nécessaire de mettre en place quelque chose pour avertir les gens des dangers de façon claire", dit Ann Reardon. Depuis qu'elle a commencé sa série de vidéos pour discréditer ce genre de hacks, elle a reçu des mails de remerciement de parents qui ont montré ses vidéos à leurs enfants. Parfois, ce sont les enfants eux-mêmes qui montraient les vidéos à leurs parents. "J'ai l'impression que si rien ne change [du côté des créateurs de contenu et des plateformes]", enchéri-t-elle. "Il est important de sensibiliser les gens".
Article de Amelia Tait, traduit de l'anglais par Kozi Pastakia.
- Accès à tous nos articles pour comprendre l’économie
- Des conseils pratiques et solutions concrètes pour gérer vos finances
- Lecture immersive, publicité limitée
- Sans engagement
