La Première ministre de la Nouvelle-Zélande, Jacinda Ardern, a reproché à Facebook de ne pas avoir effacé de ses plates-formes la vision graphique des tirs à Christchurch, tout en promettant de « ne rien donner au tireur, pas même son nom ».
Vendredi, un homme armé d’une arme semi-automatique a assisté au massacre de 50 fidèles alors qu’ils se réunissaient pour la prière dans deux lieux: une mosquée de Deans Avenue, dans le centre de Christchurch, et une autre, dans la banlieue de Linwood.
Les images, qui montrent le tireur se déplaçant à l’intérieur d’une mosquée et tirant sur ses victimes sans distinction, ont été largement diffusées dans les heures qui ont suivi l’attaque.
À la suite des attaques à Christchurch qui ont coûté la vie à 50 personnes, Facebook a été confronté à de nombreuses critiques pour avoir laissé passer le sombre flux de ces attaques pendant 17 minutes. Mais la société reçoit un soutien de premier plan pour ses efforts de lutte contre le terrorisme, la violence et la haine en ligne.
La lecture automatique de vidéos et les hashtags peuvent faire de quiconque un témoin peu disposé à des contenus violents. Des outils simples et gratuits permettent à quiconque de les télécharger.
Comme nous l’avons vu vendredi lors de la fusillade à la mosquée de Christchurch, ces mêmes outils peuvent également être exploités par un terroriste présumé pour envoyer de la propagande dans le monde entier avant même que la police ne se fasse arrêter.
Pourtant, un nombre incalculable de personnes ont fait leurs propres choix : rechercher les séquences, les télécharger, les partager de manière à contourner les censeurs de Facebook et YouTube.
Facebook a déclaré avoir retiré 1,5 million de vidéos de ses plates-formes dans les 24 heures suivant le tournage et en supprimer toutes les versions éditées, même si elles ne contenaient pas de contenu graphique.
Facebook et Alphabet Inc, YouTube, ont déclaré qu’ils utilisaient également des outils automatisés pour identifier et supprimer les contenus violents.
L’ancien responsable de la sécurité de l’information de la société, Alex Stamos, a souligné sur Twitter que la recherche visait la vidéo enrichie : « des millions de personnes sont informées en ligne et à la télévision qu’il existe une vidéo et un document qu’il est trop dangereux de le voir ».
De toute évidence, il existe une tension entre ce que les gens veulent voir, les médias qui attirent leur attention, et la capacité et la volonté des plates-formes sociales de les en empêcher.
Où commencent nos choix ?
Réfléchissez aux choix de conception qui ont perpétué la vidéo de Christchurch : sur Twitter, l’auteur présumé a même utilisé la fonctionnalité banale de « tweet épinglé » pour envoyer les utilisateurs directement à son contenu.
Sur des sites de discussion comme Reddit et 8chan, la vidéo de Christchurch a été bien accueillie et amplifiée par les communautés où le discours de haine est normalisé.
Sur YouTube, la maison spirituelle de Rubbernecking, il a été analysé par lecture que les algorithmes de recommandation du site Web récompensent si souvent.
Enfin, l’outil de diffusion en direct de Facebook a été conçu pour offrir à un prétendu terroriste la plus grande plate-forme au monde – avec plus de 2 milliards d’utilisateurs chaque mois.
Cela ne veut pas dire qu’ils n’ont pas essayé de s’en débarrasser : les entreprises de médias sociaux utilisent souvent un processus technique appelé hachage, de sorte que les vidéos similaires au contenu interdit soient automatiquement détectées et supprimées.
Mais les utilisateurs humains ont activement essayé d’éviter ces outils en enregistrant leurs écrans avec un autre appareil ou en découpant et en déformant leur copie.
Dr Roxane Cohen Silver de l’Université de Californie, Irvine, a étudié l’impact psychologique de la visualisation de séquences traumatisantes pendant de nombreuses années. Son étude récente a examiné les motivations des personnes ayant visionné des vidéos décapitées du terrorisme.
Les hommes, les chrétiens et les chômeurs étaient plus susceptibles de rechercher ce type de contenu, ainsi que les personnes qui craignaient le plus le terrorisme.
Cela a créé un cercle vicieux, a-t-elle suggéré, alors que le regarder traumatisé les spectateurs.
« Et à certains égards, nous pouvons dire que nous faisons le travail des terroristes pour eux », a déclaré le Dr Cohen Silver.
Y a-t-il des solutions faciles ?
Au cours des attaques du 11 septembre, la télévision a créé des images indélébiles qu’une génération ne pourrait pas oublier.
Dans les décennies qui ont suivi, M. Cohen Silver a suggéré que les plates-formes en ligne avaient façonné notre expérience de l’actualité et de la violence d’une manière qui surpassait notre capacité à la comprendre, à rassembler des preuves et à plaider en faveur du changement.
Facebook a des règles complexes pour modérer les flux en direct, mais considérons-nous une tactique radicale, mais simple, comme interdire complètement la vidéo en direct à partir de telles plates-formes ?
En tant que journaliste, j’ai vu l’un des moments clés du mouvement Black Lives Matter sur Facebook Live : Philando Castille, tué par un policier dans sa voiture dans le Minnesota en 2016.
J’ai vu sa partenaire, Diamond Reynolds, qui était en train de filmer, parlant avec une voix d’une fermeté impossible : « Vous avez tiré quatre balles, monsieur », a-t-elle déclaré. « Il venait juste d’obtenir son permis et son enregistrement, monsieur. »
À l’aide de son smartphone, elle a été témoin de la violence et nous a également fait assister à la violence.
Le Dr Nicolas Suzor de l’Université de technologie du Queensland, qui étudie la régulation de l’internet, a convenu qu’il était utile d’utiliser la vidéo sociale pour obliger les autorités à rendre des comptes.
Cela signifie que d’autres possibilités réglementaires, telles que contraindre les entreprises de médias sociaux à modérer et à approuver le contenu avant la publication, nécessiteraient un changement important dans la manière dont nous concevons nos droits en ligne.
« Quelle que soit la modération, il y a toujours un risque de censure des informations importantes pour le public », a-t-il déclaré. « La vidéo sur la Castille et d’autres montrent à quel point il est important de fournir un accès au streaming en direct. »
Où interviennent les médias grand public ?
Quelque chose à propos de Facebook a incité ses utilisateurs à essayer de diffuser la vidéo de Christchurch 1,5 million de fois en un jour – la société doit faire face à cette réalité.
Mais les journalistes doivent également lutter contre leur propre rôle en encourageant les gens à le rechercher.
Sarah Redmond, une chercheuse qui a coécrit l’étude vidéo sur le terrorisme, a déclaré que les médias suscitaient l’intérêt en référant à l’existence de vidéos trop traumatisantes pour être diffusées.
« Si vous ne faites que montrer certaines parties de ce document, mais y faites allusion… à davantage de violence, plus de macabres, les individus pourraient être motivés à chercher cela par eux-mêmes », a-t-elle déclaré.
En plus du rôle joué par les médias sociaux dans la diffusion de la vidéo, le Dr Suzor s’est dit préoccupé par le fait que des images brutes de l’attaque avaient été diffusées sur les principaux sites Web d’information et sur les chaînes de télévision.
« Ce que nous voyons souvent, c’est un contenu haineux à la limite – c’est-à-dire raciste, misogyne… un contenu islamophobe – qui circule autour des principaux sites de médias sociaux et même de la presse grand public ou écrite », a-t-il déclaré.
« Nous voyons des gens être entraînés dans un contenu haineux de plus en plus radicalisant, à partir d’un contenu courant. »
La vérité est que nous sommes toujours en train de négocier ce que cela signifie qu’un terroriste présumé peut trouver la même plate-forme aussi utile à ses fins que vous le faites lorsqu’il envoie des invitations à des fêtes.
Pour le moment, le Dr Cohen Silver ne peut offrir que les choix que chaque personne doit faire pour elle-même.
« Je dis souvent que rangez l’ordinateur, rangez le smartphone, ne cliquez pas », a-t-il déclaré.
La police néo-zélandaise a déclaré qu’elle travaillait à retirer la vidéo d’Internet et a exhorté les gens à ne pas la partager.
Si cet article a captivé votre intérêt, vous trouverez certainement les prochains tout aussi passionnants. Assurez-vous de ne rien manquer en vous abonnant à linformatique.org sur Google News. Suivez-nous aussi sur Facebook et Twitter.
Le suspect était inspiré par cette liste de personnes exemplaires: M. Trump, Dylan Roof, Anders Breivik, David Lane. Selon le FBI, des suprémacistes blancs de droite, c’est-à-dire des nationalistes blancs extrémistes, ont perpétré la plupart des actes terroristes perpétrés sur le sol américain depuis le 11 septembre. Et pourtant, aujourd’hui, Trump a déclaré qu’il ne les considérait pas comme une menace. Comment pouvons-nous ne pas destituer une telle personne qui défend les suprémacistes blancs et les accueille sournoisement dans son parti républicain Trump McConnell?
Je ne vais pas blâmer Facebook, YouTube ou tout autre site de réseau social pour cette violence. Mais il est clair que les médias sociaux sont maintenant devenus une plate-forme pour propager et promouvoir la haine. Les personnes qui le font méritent bien sûr tout le blâme des atrocités qu’elles commettent, mais la promesse faite par les créateurs de plates-formes de médias sociaux de combler les fossés et de rapprocher les gens, bien que réelle, est facilement détournée par ceux qui utilisent ce potentiel pour poison et enflammer.
Je ne pense pas que Mark Zuckerberg est une mauvaise personne ou a de mauvaises intentions. Je pense qu’il a initialement et un peu naïvement créé Facebook, sans savoir que ce serait pour les pires d’entre nous un lieu de promotion des pires choses qu’ils croient et des pires choses qu’ils font.
Le président des États-Unis l’utilise pour promouvoir sa vision de l’autoritarisme antidémocratique. Il dispose d’une armée d’adeptes motivés et désireux d’accéder à cette vision et de l’approuver sur les médias sociaux. Est-ce que Trump serait où il est et capable de faire ce qu’il fait sans ça? J’en doute. Vladimir Poutine comprend certainement cela.
C’est maintenant un fait que les auteurs de ce massacre ont été influencés par les médias sociaux et avaient clairement l’intention de s’en servir pour promouvoir et diffuser leur haine et leur violence. Les médias sociaux semblent incapables de l’empêcher. C’est devenu un cancer malin. Le mauvais génie est sorti de la bouteille.
Je n’ai plus accès à Facebook. Je n’ai jamais utilisé Twitter. Je suis de moins en moins enclin à utiliser Google. Je le fais pour la même raison que je ne bois pas de cyanure. Que ce soit ou non, les médias sociaux sont trop souvent un poison et sont trop souvent utilisés par procuration pour nuire ou tuer. Loin de promouvoir l’humanité, il est trop souvent utilisé pour la détruire.