Facebook a été ébranlé par de nouvelles révélations

Quelques jours seulement après l’assaut du Capitole par les insurgés le 6 janvier, la directrice de l’exploitation de Facebook, Sheryl Sandberg, a minimisé le rôle de son entreprise dans ce qui s’est passé.

Des documents de Facebook dressent un portrait compromettant du rôle de l'entreprise dans le soulèvement du 6 janvier
Frances Haugen, le pire cauchemar de Facebook ?

« Nous savons que cela a été organisé en ligne. Nous le savons », a-t-elle déclaré dans une interview accordée à Reuters. « Nous (…) avons descendu QAnon, Proud Boys, Stop the Steal, tout ce qui parlait de violence possible la semaine dernière. Notre application n’est jamais parfaite, donc je suis sûr qu’il y avait encore des trucs sur Facebook. Je pense que ces événements ont été largement organisés sur des plateformes qui n’ont pas notre capacité à stopper la haine et qui n’ont pas nos normes et notre transparence. »

Mais des documents internes de Facebook (FB) examinés par CNN suggèrent le contraire. Les documents, dont un audit interne et un document montrant les contre-mesures en temps réel que les employés de Facebook mettaient tardivement en œuvre, dressent le portrait d’une entreprise qui n’était en fait pas du tout préparée face à la façon dont le mouvement Stop the Steal utilisait sa plateforme pour s’organiser, et qui n’a vraiment pris des mesures qu’après que le mouvement, qui jouait un rôle clé dans l’insurrection, est devenu violent.

Interrogé par CNN sur la citation de Mme Sandberg et sur le fait de savoir si elle s’y tenait, un porte-parole de Facebook a souligné le contexte plus large entourant la citation de Mme Sandberg. Elle soulignait que l’organisation du 6 janvier s’est déroulée principalement en ligne, notamment sur les plateformes de Facebook, a précisé le porte-parole.

Les documents ont été fournis par la dénonciatrice de Facebook, Frances Haugen, comme preuve pour appuyer les divulgations qu’elle a faites à la Securities and Exchange Commission et que le conseiller juridique de Mme Haugen a fournies au Congrès sous une forme expurgée. Les versions expurgées ont été obtenues par un consortium de 17 organismes de presse américains, dont CNN.

L’une des principales allégations de Haugen concernant l’entreprise porte sur l’attaque du Capitole. Dans une communication de la SEC, il allègue que « Facebook a trompé les investisseurs et le public sur son rôle dans la perpétuation de la désinformation et de l’extrémisme violent en lien avec l’élection de 2020 et l’insurrection du 6 janvier. »

Les documents divulgués par Haugen ont commencé à être publiés dans le Wall Street Journal au début de l’année. Les révélations contenues dans la série de rapports du journal, The Facebook Files, ont attiré l’attention des législateurs du monde entier.

Facebook nie les prémisses des conclusions de Mme Haugen et affirme qu’elle a sélectionné des documents afin de présenter un portrait injuste de l’entreprise.

« La responsabilité de la violence qui s’est produite le 6 janvier incombe à ceux qui ont attaqué notre Capitole et à ceux qui les ont encouragés. Nous avons pris des mesures pour limiter le contenu qui cherchait à délégitimer l’élection, notamment en étiquetant les publications des candidats avec le dernier décompte des voix après que M. Trump ait déclaré prématurément sa victoire, en mettant en pause les nouvelles publicités politiques et en supprimant le groupe original #StopTheSteal en novembre », a déclaré Andy Stone, porte-parole de Facebook, à CNN vendredi.

« Après que des violences ont éclaté au Capitole et que nous avons constaté des tentatives continues d’organiser des événements visant à contester le résultat de l’élection présidentielle, nous avons supprimé le contenu contenant la phrase « arrêtez le vol » dans le cadre de notre politique de coordination des préjudices et suspendu Trump de notre plateforme. »

Facebook a également publié vendredi soir un billet de blog de son vice-président de l’intégrité, Guy Rosen, sur ses efforts autour de l’élection de 2020.

« Notre application était fragmentaire. »

Parmi les dizaines de milliers de pages de documents fournis par Haugen figure une analyse interne de la façon dont les mouvements Stop the Steal et Patriot Party se sont propagés sur Facebook, comme l’a rapporté BuzzFeed News au début de l’année.

« Vu avec du recul, c’est plus clair », écrit le ou les auteurs de l’analyse, qui ne sont pas identifiables par ce qui est fourni. « À l’époque, il était très difficile de savoir si ce que nous voyions était un effort coordonné pour délégitimer l’élection ou si la liberté d’expression d’utilisateurs effrayés, désorientés et méritant notre empathie était protégée. Mais avec le recul, il est d’autant plus important de regarder en arrière pour apprendre ce que nous pouvons sur la croissance des mouvements de délégitimation des élections qui se sont développés, ont répandu la conspiration et ont contribué à inciter l’insurrection du Capitole ».

L’analyse a révélé que les politiques et procédures mises en place par Facebook n’étaient tout simplement pas en mesure de ralentir, et encore moins d’arrêter, la croissance « fulgurante » de Stop the Steal. Par exemple, les auteurs de l’analyse ont noté que Facebook traitait chaque élément de contenu et chaque personne ou groupe dans le cadre de Stop the Steal individuellement, plutôt que comme faisant partie d’un tout, avec des résultats désastreux.

Presque tous les groupes FB qui ont connu la croissance la plus rapide étaient « Stop the Steal » pendant leur pic de croissance », indique l’analyse. « Parce que nous avons examiné chaque entité individuellement, plutôt qu’un mouvement cohésif, nous n’avons pu supprimer des groupes et des pages individuels qu’une fois qu’ils ont dépassé un seuil d’infraction. Nous ne pouvions pas agir sur des objets isolés tels que les messages et les commentaires, car ils ne tendaient individuellement vers aucune violation, même s’ils étaient entourés de haine, de violence et de désinformation. »

Cette approche a finalement changé, selon l’analyse, lorsqu’il était trop tard.

« Après l’insurrection du Capitole et une vague d’événements Storm the Capitol à travers le pays, nous avons réalisé que les groupes individuels, les pages et les slogans délégitimisants constituaient un mouvement cohésif », indique l’analyse.

Ce n’est pas le seul cas où Facebook n’a pas su anticiper un événement comme Stop the Steal, ou où sa réponse a été insuffisante.

Facebook dispose depuis un certain temps d’une politique interdisant les « comportements coordonnés inauthentiques » sur ses plateformes. Cette interdiction lui permet de prendre des mesures contre, par exemple, l’armée de trolls russes qui ont œuvré pour interférer dans l’élection américaine de 2016 par le biais de comptes et de pages aménagés pour avoir l’air américain. Mais, note l’analyse avec insistance, la société avait « peu de politiques autour du préjudice authentique coordonné », c’est-à-dire pour empêcher les gens de s’organiser sous leur vrai nom et sans dissimuler leur intention d’amener le pays à rejeter les résultats des élections.

Les groupes Stop the Steal et Patriot Party « ne mobilisaient pas directement le préjudice hors ligne, pas plus qu’ils ne promouvaient directement la militarisation », indique l’analyse. « Au lieu de cela, ils ont amplifié et normalisé la désinformation et la haine violente d’une manière qui a délégitimé une élection démocratique libre et équitable. Le préjudice existait au niveau du réseau : le discours d’un individu est protégé, mais en tant que mouvement, il a normalisé la délégitimation et la haine d’une manière qui a entraîné un préjudice hors ligne et une atteinte aux normes qui sous-tendent la démocratie. »

Toutefois, l’analyse note qu’une fois que Facebook a vu les résultats de Stop the Steal le 6 janvier et a pris des mesures, il a pu mettre en œuvre des actions qui ont entravé la croissance des groupes Stop the Steal et Patriot Party.

M. Stone de Facebook a déclaré à CNN : « Facebook a pris des mesures extraordinaires pour lutter contre les contenus préjudiciables et nous continuerons à faire notre part. Nous travaillons également en étroite collaboration avec les forces de l’ordre, tant avant le 6 janvier que dans les jours et les semaines qui suivent, afin de garantir la disponibilité d’informations liant les responsables du 6 janvier à leurs crimes. »

Tirer les leviers

Mme Haugen a commencé à rassembler des preuves sur l’entreprise avant de quitter définitivement le géant technologique en mai dernier. Pour réduire le risque d’être prise en flagrant délit de capture d’écran des systèmes internes de Facebook, elle a utilisé son téléphone pour prendre des photos de l’écran de son ordinateur.

Alors que l’insurrection faisait rage à Washington et que Facebook tentait de contrôler la situation, Haugen prenait des photos, documentant la réponse de l’entreprise.

L’un des documents qu’il a saisis, intitulé « Capitol Protest BTG [Break the Glass] Response », était un tableau des mesures que Facebook pourrait prendre en réponse à l’attaque du 6 janvier. Le tableau semble avoir été préparé à l’avance ; au moment où Haugen l’a photographié, un peu moins de deux heures après l’assaut initial du Capitole, la société avait mis en place certaines de ces mesures tandis que d’autres étaient encore à l’étude.

Parmi les actions possibles énumérées dans le tableau figure le déclassement des « contenus jugés susceptibles d’enfreindre nos normes communautaires dans les domaines des discours haineux, de la violence graphique et de la violence et de l’incitation ».

La page les qualifiait de « leviers US2020, précédemment inversés ».

Ces « leviers », comme les appelle Facebook, sont des mesures – des garde-fous – que l’entreprise a mis en place avant l’élection présidentielle de l’année dernière pour tenter de freiner la propagation de la haine et de la désinformation sur la plateforme.

Facebook n’a pas été clair dans ses déclarations publiques sur les mesures qu’il a annulées après l’élection et sur la raison pour laquelle il l’a fait à un moment de tumulte où le président en exercice remettait en question les résultats du vote.

Mais selon le document « Capitol Protest BTG response », les mesures de sécurité que Facebook a remises en œuvre le 6 janvier comprenaient notamment la réduction de la visibilité des publications susceptibles d’être signalées et le gel des « commentaires sur les publications dans les groupes qui commencent à avoir un taux élevé de discours haineux et de commentaires violents et incitatifs ».

Dans la divulgation de la SEC, Haugen prétend que ces leviers ont été rétablis « seulement après que l’insurrection ait éclaté ».

Interrogé sur les décisions de réduire puis d’augmenter les leviers, M. Stone a déclaré : « Lors de l’introduction progressive puis de l’ajustement des mesures supplémentaires avant, pendant et après l’élection, nous avons tenu compte des signaux spécifiques sur les plateformes et du retour d’informations provenant de notre engagement continu et régulier avec les forces de l’ordre. Quand ces signaux ont changé, les mesures ont changé aussi. »

Un continuum

Lorsque les dirigeants de Facebook ont publié des messages publics et internes condamnant l’émeute, certains employés ont répliqué, suggérant même que Facebook pouvait avoir une certaine culpabilité.

« Il y avait des dizaines de groupes Stop the Steal actifs dès hier, et je doute qu’ils ne fassent que parler de leurs intentions », a écrit un employé en réponse à un message de Mike Schroepfer, directeur de la technologie de Facebook.

Un autre a écrit : « Avec tout le respect que je vous dois, mais n’avons-nous pas eu assez de temps pour trouver comment gérer le discours sans favoriser la violence ? Nous alimentons ce feu depuis longtemps et nous ne devrions pas être surpris qu’il soit maintenant hors de contrôle. »

D’autres employés de Facebook sont allés plus loin, affirmant que les décisions prises par les dirigeants de l’entreprise au fil des ans avaient contribué à créer les conditions qui ouvraient la voie à une attaque contre le Capitole américain.

En réponse au message de M. Schroepfer, un membre du personnel a écrit que « les dirigeants passent outre les décisions politiques fondées sur la recherche pour mieux servir des personnes comme les groupes qui incitent à la violence aujourd’hui.

Les travailleurs de la base ont fait leur part pour identifier les changements permettant d’améliorer nos plates-formes, mais ils se sont activement retenus « .

Un autre membre du personnel, faisant référence aux années de décisions controversées et discutables prises par les dirigeants de Facebook en matière de discours politique, a conclu que « l’histoire ne nous jugera pas avec bonté ».