Nous souhaitons tous pouvoir nous exprimer librement sur Internet, être entendus par nos amis et répondre à nos adversaires. D'un autre côté, nous ne voulons pas être exposés à des propos inappropriés ou dépassant les bornes. Pour répondre à cette problématique, les entreprises technologiques établissent des normes de liberté d'expression, une pratique protégée par la loi fédérale. En interne, elles engagent des modérateurs chargés d'examiner les différents contenus et de les supprimer s'ils enfreignent les règles prédéfinies par les plateformes.
Cependant, cette approche pose clairement des problèmes : le harcèlement, la désinformation sur des sujets tels que la santé publique et la remise en cause de résultats légitimes à des élections sont monnaie courante. Même si la modération du contenu était parfaitement mise en oeuvre, elle passerait à côté de toute une série de questions souvent présentées comme des problèmes de modération alors qu'elles n'en sont pas vraiment. Afin de s'attaquer à ces problèmes de non-parole, nous devons adopter une nouvelle stratégie : traiter les plateformes de réseaux sociaux comme des pollueurs potentiels du tissu social ainsi que mesurer et atténuer directement les effets causés par leurs choix sur nos sociétés.
En d'autres termes, il faut établir un cadre politique - peut-être par le biais d'une agence de protection de l'environnement ou d'une agence des produits alimentaires et médicamenteux pour les réseaux sociaux - qui puissent être utilisé pour identifier et évaluer les dommages sociaux provoqués par ces plateformes. Si ces préjudices persistent, ce groupe aura la capacité de faire appliquer ces politiques. Afin d'aller plus loin que les limites de la modération de contenu, une telle réglementation devrait être motivée par des preuves claires et avoir un impact notable sur les problèmes qu'elle prétend résoudre.
La modération (qu'elle soit automatisée ou gérée par des humains) peut potentiellement fonctionner dans le cadre de ce que nous appelons les préjudices "aigus" : ceux causés directement par du contenu individuel. Toutefois, nous avons besoin de cette nouvelle approche parce qu'il y a une foule de problèmes "structurels" - tels que les discriminations, les effets néfastes sur la santé mentale et la méfiance envers les institutions - qui se manifestent généralement à travers le produit plutôt que le contenu d'une seule personne. Un exemple célèbre de ce type de problème structure est l'expérience de "contagion émotionnelle" menée par Facebook en 2012. Cette dernière a démontré que l'affect des utilisateurs (leur humeur étant mesurée par leur comportement sur la plateforme) changeait de manière mesurable selon la version du produit à laquelle ils étaient exposés.
Face au tollé qui a suivi la publication de ces résultats, Facebook (aujourd'hui connue sous l'appellation Meta) a mis fin à ce type d'expérimentation. Cependant, ce n'est pas parce qu'ils ont cessé de mesurer les effets que les orientations données à la plateforme n'ont plus d'impact sur les utilisateurs.
Les problèmes structurels sont le résultat direct des choix faits par les plateformes. Les gestionnaires de produits d'entreprises technologiques comme Facebook, YouTube et TikTok sont incités à se concentrer essentiellement sur la maximalisation du temps et de l'engagement sur les réseaux sociaux. L'expérimentation y est encore très présente : presque toutes les modifications opérées sur ces plateformes sont soumises à des tests contrôlés aléatoires auprès de petits groupes d'utilisateurs. Pour évaluer les améliorations, les entreprises mettent en oeuvre des processus de gestion rigoureux afin de favoriser leurs missions centrales (connues sous le nom d'objectifs et de résultats clés). Elles utilisent même ces résultats pour déterminer les primes et les promotions. La responsabilité de traiter les conséquences des décisions relatives aux produits est souvent confiée à d'autres équipes qui se trouvent généralement en aval et ont moins de pouvoir pour s'attaquer aux causes profondes. Habituellement, ces équipes sont capables de réagir à des préjudices graves mais, souvent, elles ne peuvent pas résoudre les problèmes causés par les plateformes elles-mêmes.
Avec de l'attention et de la concentration, cette même structure de développement de produits pourrait être orientée vers la question des préjudices sociaux. Prenons l'exemple du témoignage de Frances Haugen devant le Congrès américain l'an dernier ainsi que les révélations des médias concernant l'impact présumé de Facebook sur la santé mentale des adolescent. Facebook a répondu aux critiques expliquant que la société avait mené des sondages auprès d'adolescents pour savoir s'ils estimaient que la plateforme avait un effet négatif sur leur santé mentale et si cette perception les poussait à passer moins de temps sur le réseau social, et non si la plateforme avait réellement un effet néfaste sur eux. Bien que la réponse de Facebook ait pu être vue comme une parade à cette controverse particulière, elle a montré qu'une étude s'intéressant directement à la question de la santé mentale - plutôt que son impact sur l'engagement des utilisateurs - ne constituait pas un gros effort à fournir.
Intégrer des systèmes d'évaluation des préjudices systémique ne sera pas facile. Nous devrons déterminer ce que nous pouvons réellement mesurer de manière rigoureuse et systématique, ce que nous exigerons des entreprises et les questions à traiter en priorité dans ces évaluations.
Les entreprises pourraient elles-même mettre en oeuvre des protocoles mais leurs intérêts financiers vont trop souvent à l'encontre de limitations significatives du développement et de la croissance des réseaux sociaux. Cette réalité constitue un cas standards pour une réglementation qui opère au nom du public. Que ce soit par le biais d'un nouveau mandat légal de la Commission fédérale du commerce ou de directives d'atténuation des préjudices d'une nouvelle agence gouvernementale, le travail du régulateur consisterait à collaborer avec les équipes de développement de produits de entreprises technologiques dans le but de concevoir des protocoles applicables et mesurables au cours du développement des plateformes afin d'évaluer les signaux significatifs de préjudice.
Cette approche peut sembler lourde mais l'ajout de ces types de protocoles devrait être simple pour les plus grandes entreprises (les seules auxquelles la réglementation devrait s'appliquer) car elles ont déjà intégré des tests contrôlés aléatoires dans leur processus de développement pour mesurer leur efficacité. La partie la plus longue et la plus complexe consisterait à définir les normes ; l'exécution effective des tests ne nécessiterait aucune participation réglementaire. Il suffirait de poser des questions de diagnostic en plus des questions habituelles relatives à la croissance puis de rendre ces données accessibles à des examinateurs externes. Notre prochain article - qui sera présenté à la conférence ACM 2022 sur l'équité et l'accès aux algorithmes, aux mécanismes et à l'optimisation - expliquera plus en détail cette procédure et indiquer comment elle pourrait être mise en place de manière efficace.
Lorsque des produits qui touchent des dizaines de millions de personnes sont testés pour leur capacité à stimuler l'engagement, les entreprises doivent s'assurer que ces produits, au moins dans leur ensemble, respectent également le principe de "ne pas aggraver le problème". Au fil du temps, des normes plus agressives pourraient être établies pour annuler les effets existants des produits déjà approuvés.
Il existe de nombreuses méthodes qui peuvent convenir à ce type de processus. Il s'agit notamment de protocoles tels qu'un compteur d'affect photographique. Ce dernier a été utilisé pour évaluer comment l'exposition à des produits et services affecte l'humeur. Les plateformes technologiques utilisent déjà des sondages pour jauger les changements apportés aux réseaux sociaux ; selon les journalistes Cecilia Kang et Sheera Frankel, Mark Zuckerberg examine les mesures de croissance basées sur les sondages pour la plupart des décisions relatives aux produits. Ces résultats ont notamment pesé dans son choix de revenir à la version "plus sympa" de l'algorithme du fil d'actualité Facebook après l'élection de 2020.
Il serait raisonnable de se demander si l'industrie technologique considère cette approche comme réalisable et si les entreprises se battraient contre elle. Même si n'importe quelle réglementation potentielle peut susciter une telle réaction, nous avons reçu des réactions positives lors des premières discussions sur ce cadre, peut-être parce que, selon notre approche, la plupart des décisions relatives aux plateformes seraient acceptables. (Causer des préjudices mesures du type décrit ici est un critère très élevé que la plupart des choix faits par les plateformes franchiraient.) De plus, contrairement à d'autres propositions, cette stratégie évite la réglementation directe du discours, du moins en dehors des cas les plus extrêmes.
En même temps, il n'est pas nécessaire d'attendre que les régulateurs prennent des mesures. Les entreprises pourraient facilement mettre en oeuvre ces procédures de leur propre chef. Cependant, il est difficile d'établir le bien-fondé du changement sans commencer par collecter le type de données de haute qualité que nous décrivons ici. En effet, il est impossible de prouver l'existence de ces types de préjudices sans les mesurer en temps réel. Ceci pose le problème de la poule et de l'oeuf. La surveillance proactive des préjudices structurels ne résoudra pas les problèmes de contenu des plateformes. Néanmoins, elle pourrait nous permettre de vérifier de manière significative et continue si l'intérêt public est troublé.
L'Agence américaine de protection de l'environnement (EPA) constitue une bonne analogie. L'objectif initial de l'agence n'était pas de légiférer en matière de politique environnementale mais de promulguer des normes et des protocoles afin de pouvoir élaborer des politiques aux résultats exploitables. De ce point de vue, l'impact durable de l'EPA n'a pas été de résoudre les débats sur la politique environnementale (elle ne l'a pas fait) mais de les rendre possibles. De même, la première étape pour réparer les réseaux sociaux consiste à créer l'infrastructure dont nous aurons besoin pour examiner les résultats en matière de discours, de bien-être mental et de confiance civique en temps réel. Sans cela, nous ne pourrons pas nous attaquer à bon nombre des problématiques les plus urgentes générées par ces plateformes.
Ces dernières années, j'ai eu l'honneur d'assister à une explosion cambrienne de la théorie et de la pratique de l'intégrité (grâce, en partie, aux vagues d'embauche dans des entreprises comme mon ancien employeur). J'ai pu constater la rigueur du travail, le sens profond du professionnalisme et le haut niveau de compétence de mes collègues. Ils savent, en détail, comment construire les villes de réseaux sociaux auxquelles nous aspirons tous. Applaudissons-les, apprenons d'eux et aidons-les à faire leur boulot.
Malgré tout, je continue à croire à Internet. La ville sociale est trop précieuse pour la laisser pourrir.
Tribune de Nathaniel Lubin et Thomas Krendl Gilbert datant du 09/08/2022, traduite de l'anglais par Kozi Pastakia.
- Accès à tous les articles réservés aux abonnés, sur le site et l'appli
- Le magazine en version numérique
- Navigation sans publicité
- Sans engagement
