TikTok : les dessous d'une machine à rendre accro

De quoi déconcerter les plus âgés et donner des sueurs froides aux concurrents, à commencer par Meta, le propriétaire de Facebook et d’Instagram. Fébrile, la société de Mark Zuckerberg, délaissée par les plus jeunes, a même lancé une campagne de dénigrement auprès des élus américains contre ce rival devenu décidément trop gênant. L’essor de l’appli est tel que ByteDance, sa maison mère, vaut désormais davantage que Twitter et Snapchat, avec une valorisation supérieure à 300 milliards de dollars.

Une implacable machine à rendre accro

Créé en 2017 seulement, TikTok s’est imposé en un temps record. Le mérite en revient à son fondateur, Zhang Yiming, 39 ans, un entrepreneur chinois du Net diablement efficace. Sa stratégie ? Racheter, dès les premiers mois de l’entreprise, le concurrent américain Musical.ly pour capter une bonne base d’utilisateurs de départ. Puis miser sans compter sur la technologie pour faire fructifier le nombre de fidèles. En Chine comme à l’étranger, le patron a recruté des centaines d’ingénieurs pour construire une implacable machine à rendre accros les ados. Un algorithme de recommandation qui tient en deux mots : «Pour toi».

Réacteur de l’appli, ce programme trie et propose à l’utilisateur des contenus les uns derrière les autres, dans un manège sans fin. La société ne s’étend pas sur son fonctionnement : hors de question de lever le voile sur une recette aussi protégée que celle du Coca-Cola. En voici néanmoins les rouages. Les vidéos «poussées» sont choisies selon différents paramètres. Leur potentiel de popularité sur le réseau social, d’abord.

Chaque «créateur» associe des hashtags à sa publication pour définir les thèmes abordés et précise le titre de la chanson d’accompagnement : plus ces éléments collent aux tendances, plus la séquence sera mise en avant. Ensuite, la sélection est affinée selon les ­caractéristiques de chaque spectateur (pays, langue), ses sujets de prédilection mais aussi ses coups de cœur, ses partages ou encore ses commentaires laissés sur certains clips. Autre­ment dit, son engagement.

Un utilisateur regarde des dizaines de spots par jour

Cela ne suffit pas à expliquer l’efficacité redoutable du logiciel. Un précieux document interne à l’entreprise, «TikTok Algo 101», produit par une équipe d’ingénieurs de Pékin, permet d’en savoir un peu plus. Aidé des journalistes du «New York Times», l’expert français en intelligence artificielle Guillaume Chaslot a pu le consulter. «On y découvre que l’un des critères primordiaux retenus par l’algorithme est le temps passé par l’utilisateur sur une vidéo», indique le fondateur ­d’AlgoTransparency, figure du fameux documentaire «Derrière nos écrans de fumée» (Netflix).

Plus le visionnage est long, plus le contenu est jugé adapté aux goûts du «viewer», plus des images similaires lui seront proposées. Lors de son installation sur un smartphone, le programme ne connaît rien de son propriétaire – les clips se succèdent alors de manière aléatoire –, mais la machine ne cesse d’apprendre en fonction de ses réactions. Et elle comprend vite : comme les formats sont courts et qu’ils s’enchaînent à un rythme effréné, elle est très rapidement nourrie d’une masse de data et peut adapter ses propositions en un temps record.

Cette rafale de (très) courts-métrages a un autre avantage : elle permet de maintenir l’attention du jeune addict. «C’est la même technique que celle des machines à sous des casinos, décrypte Marc Faddoul, codirecteur de l’organisation non gouvernementale Tracking Exposed. Tout comme les joueurs continuent de miser dans l’espoir de toucher le pactole à la prochaine partie, les internautes font défiler les créations pour tomber sur une séquence qu’ils aimeront encore plus : cela génère un déluge de dopamine, l’hormone du plaisir, quand la récompense arrive.» Tout est fait pour favoriser cette relance : le mouvement du pouce pour passer d’un contenu à un autre est totalement intuitif (de bas en haut), pas une seconde ne s’écoule avant le lancement de la vidéo suivante, tout l’écran est dédié à l’image… Résultat ? En moyenne, un utilisateur regarde des dizaines de spots par jour.

Les grandes marques lorgnent sur le réseau social

Cette boulimie est extrêmement lucrative pour TikTok. Des géants de la distribution aux leaders de la cosmétique, des milliers d’annonceurs se pressent vers le réseau social pour y promouvoir leurs produits. Certains s’associent à des influenceurs – Hugo Boss et Nike ont récemment signé des contrats avec Akamz, par exemple –, et beaucoup rémunèrent l’appli pour apparaître sur son écran d’ouverture. Soucieuses de parler à un public plus jeune et fortement prescripteur, les marques voient là un moyen d’atteindre et de fidéliser une génération biberonnée au smartphone, friande d’achats en ligne.

Surtout, grâce à son algorithme suralimenté en data, TikTok leur vend une audience parfaitement qualifiée, un ciblage extrêmement fin des consommateurs. «L’annonceur est facturé à la performance, note Jean-Baptiste Rouet, responsable du numérique au sein de l’agence Publicis. Il ne paye que si sa publicité suscite un intérêt chez l’utilisateur, comme un like ou un partage.» Le procédé cartonne : le chinois devrait atteindre 11,6 milliards de dollars de chiffre d’affaires cette année, un montant en progression de 200%!

Le modèle est si efficace qu’il pousse les historiques du secteur à revoir leur copie. A commencer par YouTube, qui s’est focalisé sur les formats longs (parfois plus de dix minutes) pour insérer un maximum de spots publicitaires au début («pre-roll»), à la fin («post-roll») et en plein milieu (interstitiel). «Une erreur fondamentale», estime Guillaume Chaslot. Pour corriger le tir, tous se mettent à vouloir faire court : YouTube Shorts, Instagram Reels, Snapchat Spotlight… Mais copier ne veut pas dire réussir. «Nous sommes confrontés à un gros concurrent, et il nous faudra un certain temps pour le rattraper», a même concédé le cofondateur de Facebook, Mark Zuckerberg, lors de la présentation des résultats annuels en février.

Les termes «homosexualité», «lesbienne» ou «transgenre» ont été bannis dans certains pays

Pour préserver ce juteux business, TikTok a apporté une dernière touche, encore plus méconnue, à son logiciel. Selon un rapport publié par l’Aspi (Australian Strate­gic Policy Institute), un groupe de réflexion sur la défense et la politique stratégique, le réseau social pratique le «shadow banning», autrement dit le bannissement furtif. Ce procédé n’empêche pas la mise en ligne d’une vidéo mais fait en sorte que le système de recommandation l’enterre. Objectif ? Ne jamais se fâcher avec un Etat.

Ainsi, les contenus tagués «Poutine est un voleur» en Russie ou «Tous les flics sont des bâtards» («All Cops Are Bastards», alias ACAB) aux Etats-Unis, qui se sont multipliés après le meurtre de l’Afro-Américain George Floyd, ont subi ce genre de traitement. D’autres termes comme «homosexualité», «lesbienne» ou «transgenre» ont été bannis en Bosnie, en Estonie, en Bulgarie ainsi que dans les pays de langue arabe. Et qu’en est-il de la guerre en Ukraine ? «Compte tenu de la rapidité avec laquelle les choses changent sur les réseaux sociaux, il nous est difficile de répondre aux questions liées à l’activité en rapport avec le conflit», juge Daria Impiombato, coauteure de ce rapport.

Pour se faire une idée, une chaîne télé, toutefois, a créé deux faux profils, l’un d’un jeune Russe et l’autre d’un jeune Ukrainien. Au fil du temps, le premier n’a quasiment jamais été exposé à des images de guerre tandis que le second l’était énormément. Contraint de s’expliquer, TikTok a indiqué devoir se conformer à la loi de chaque pays, et qu’en Russie laisser circuler de telles images pouvait lui valoir une con­damnation pour fausse information. Pour­tant, YouTube, Twitter et Facebook ont, eux, fait le choix inverse et ne se sont pas soumis à cette nouvelle règle.

Comment la firme chinoise traque-t-elle ce type de posts ? Comme à son habitude, elle s’appuie sur une technologie de détection automatisée mais, cette fois, elle mobilise en complément une armée de modérateurs dont la mission est de faire respecter l’ordre. Si, là encore, la société reste très discrète sur le nombre de ces collaborateurs, un procès opposant actuellement en Californie des salariés à la plateforme révèle des détails jusqu’ici inconnus.

Une application aux mains du pouvoir chinois

Plus de 10 000 personnes scrutent les 90 millions de vidéos mi­ses en ligne chaque jour dans le monde. Avec douze heures de travail par jour, deux petites pauses de quinze minutes et une heure pour déjeuner, leur rythme est intense et l’exposition à des images choquantes peut leur valoir des traumatismes psychologiques, comme le dénoncent les plaignants. Ils doivent regarder simultanément plusieurs écrans avec moins de vingt-cinq secondes pour juger si les publications sont à retirer (par exemple, lorsqu’il s’agit de contenus pédopornographiques) ou à blacklister, avec un taux de réussite attendu de 80%. Quand elles sont taguées «Not for Feed» (à ne pas mettre dans le fil), l’algorithme est programmé pour ne jamais les «pousser» et elles se retrouvent noyées, invisibles aux yeux de tous.

Grâce à ce discret procédé, TikTok veut préserver de bonnes relations avec les différentes autorités à travers le monde, mais pas seulement. Le Parti communiste chinois (PCC) influencerait aussi cette sélection. Zhang Yiming, l’ancien dirigeant et fondateur de ByteDance, l’a indirectement reconnu en 2018, après s’être fait taper sur les doigts par le PCC : «Nous avons accordé une importance excessive au rôle de la technologie, et nous n’avons pas reconnu que la technologie doit être dirigée par le système de valeurs fondamentales socialistes, diffusant une énergie positive, répondant aux exigences de l’époque et respectant les conventions communes.» Rendre accros et divertir les internautes, certes, mais sans pour autant aller contre les intérêts du Parti.

Pour Paul Charon, directeur du renseignement, de l’anticipation et des menaces hybrides de l’Institut de recherche stratégique de l’Ecole militaire (Irsem), cette mainmise politique ne fait aucun doute. Non seulement les autorités contrôleraient la «ligne éditoriale» de l’appli, mais elles pourraient aussi en exploiter le trésor. «Lorsque l’on observe le volume de données collectées, il paraît évident que le régime y voit un moyen d’obtenir des informations sur des individus, que ce soit sur leur orientation politique, religieuse ou sexuelle, estime-t-il. Ces éléments peuvent ensuite servir à faire pression sur une personne dans le cadre d’une opération de recrutement.»

TikTok a toujours affirmé que ces data étaient hébergées en dehors de la Chine, à l’abri des regards indiscrets, mais l’argument n’a pas suffi à convaincre ses détracteurs. Derrière son aspect ludique et divertissant, le réseau social représenterait un puissant outil capable de sonder les pensées des plus jeunes. Un capteur de la génération Z, logé dans l’écran de leur smartphone.