À la suite de Christchurch, Facebook a admis qu’elle ne pouvait pas contrôler Facebook Live. Il y a trop de contenu en général, mais pas assez de contenu odieux en particulier pour bien entraîner leur IA. Et s’appuyer sur les utilisateurs pour signaler les infractions en temps réel s’est révélé totalement inadéquat. Ce qui signifie que l’hypothèse pour l’entreprise, pour les politiciens et pour les régulateurs est très simple. Est-il préjudiciable à l’intérêt public de fournir une plate-forme de diffusion aux extrémistes, aux meurtriers, aux vulnérables, aux suicidaires ? Et, en supposant que ce soit le cas, si vous ne pouvez pas empêcher catégoriquement de tels incidents (quelle que soit leur ampleur) d’être diffusés en direct d’une manière qui serait interdite dans les médias grand public, quel est l’intérêt du public à laisser le système tel quel ?
Il était toujours probable que, pour permettre à la population mondiale de diffuser en direct, à tout moment et à tout moment, à l’audience mondiale de Facebook, il soit nécessaire de repenser la stratégie. Et bien que Christchurch ait amplifié ses préoccupations à de nombreuses reprises, d’autres meurtres, suicides et actes de violence sur la plate-forme ont été rapportés. Le problème pour Facebook est que cela coïncide maintenant avec la pression croissante exercée sur leur activité principale par le scandale Cambridge Analytica et par la prétendue dissimulation de sociétés . Quelque chose va devoir céder pour apaiser les politiciens et un public de plus en plus sceptique et, étant donné le choix, Facebook Live sous sa forme actuelle pourrait bien l’être.
Lorsque le PDG de Facebook, Mark Zuckerberg, a publié un article sur son blog intitulé « Une vision du réseautage social axée sur la confidentialité », son intention était de dissiper les inquiétudes quant à l’accent mis par la société sur la messagerie intégrée. « Je pense que l’avenir de la communication passera de plus en plus vers des services privés cryptés », a-t-il déclaré, « où les gens peuvent avoir confiance que ce qu’ils se disent reste sécurisé et que leurs messages et leur contenu ne resteront pas éternellement ».
Trois semaines plus tard, la « plate-forme plus simple de Zuckerberg qui met l’accent sur la vie privée » semble totalement en contradiction avec un service de radiodiffusion en direct non réglementé qui ne peut pas assumer son obligation (morale sinon légale) de censurer ce qui est transmis et visualisé. Le moment crucial a été donné à 16h40 le vendredi 16 mars à la mosquée de la ville de Christchurch. Selon Facebook, les événements diffusés sur Facebook Live ont été visionnés moins de 200 fois en temps réel, puis par 4 000 personnes supplémentaires, avant que la société ne retire environ 1,5 million de téléchargements du site.
Le défi de Facebook est que cela a amené le débat sur la réglementation du contenu des médias sociaux à un niveau très différent. La société a presque tous admis que tous les systèmes à sécurité intégrée étaient en panne. le contenu n’a été ni repéré ni rapporté. Pire encore, on peut faire valoir que la disponibilité d’un média de diffusion en direct deviendra un élément central des futures attaques. Et cela ne peut pas se produire. Si les coffres-forts ne fonctionnent pas, il faut faire autre chose.
La fin de l’ère du partage ?
« Les gens devraient être à l’aise d’être eux-mêmes », avait écrit Zuckerberg 13 jours avant Christchurch, « et ne devraient pas avoir à s’inquiéter de ce qu’ils partagent en revenant pour leur faire du mal plus tard. »
Ironiquement, Zuckerberg avait déclaré il y a cinq ans qu ‘ »dans cinq ans, la plus grande partie de [Facebook] sera une vidéo ». Et la page Web de Facebook Live incite encore les utilisateurs à « diffuser au plus grand public du monde avec la caméra dans leur poche ». Il y a une contradiction ici avec le changement de stratégie et il faut donc prendre des décisions. Il se peut que Facebook doive commencer à débattre de l’option «la moins pire» pour ce qu’elle peut sacrifier, alors que des appels à la réglementation matérielle ou même à la dissolution des médias sociaux ont provoqué un vent de travers.
Jusqu’à présent, la société a résisté à de telles pressions. Mais ces derniers jours, leur intégrité a de nouveau été mise en doute après que des révélations concernant Cambridge Analytica aient été révélées au personnel bien avant leur découverte «officielle». Avec plus qu’un œil sur les indicateurs de performance clés commerciaux et ses principaux revenus de négoce de données, Facebook Live avec ses émissions «non censurées», son risque inhérent d’atteinte à la réputation et sa mise entre les mains des régulateurs pourraient bien avoir à changer fondamentalement ou même à disparaître. . Facebook a été approché pour que ses commentaires sur les appels au streaming en direct cessent maintenant – il n’y avait pas de réponse au moment de la rédaction.
» Nous comprenons qu’il y a beaucoup de compromis à faire, » a déclaré Zuckerberg sur son blog, « et nous nous engageons à consulter des experts et à discuter de la meilleure façon d’aller de l’avant ». Heureusement, la société a maintenant la possibilité de faire ce qui s’impose. Alors qu’est-ce qui se passe ensuite ?
La contradiction essentielle
Facebook Live a été lancé en 2015 et était pleinement opérationnel en 2016, bien avant que les scandales liés aux données de 2018 ne soient révélés. Depuis lors, il y a eu des incidents de violence , les suicides et les meurtres . » Nous reconnaissons que l’immédiateté de Facebook Live apporte des défis uniques » , a reconnu un blog d’ entreprise , peu après Christchurch. » Nous utilisons l’intelligence artificielle pour détecter et hiérarchiser les vidéos susceptibles de contenir des actes suicidaires ou préjudiciables, nous avons amélioré le contexte dans lequel nous fournissons les relecteurs afin qu’ils puissent prendre les décisions les plus éclairées et nous avons construit des systèmes nous permettant de contacter rapidement les premiers intervenants afin d’obtenir de l’aide. par terre. »
Mais ça ne marche pas. Il y a une liste croissante d’émissions inappropriées. Et la nature du monde obsédé par les médias sociaux dans lequel nous vivons à présent signifie qu’il s’agit d’une rue à sens unique. Il y a toujours eu des relations difficiles entre les médias et les extrémistes. Signaler les nouvelles sans jouer entre les mains des auteurs. Le responsable de la police antiterroriste du Royaume-Uni a de nouveau appelé cela cette semaine , attaquant les journaux traditionnels pour avoir incité un ordre du jour d’extrême droite sous le parapluie de la liberté d’expression. Mais, même dans ce cas, il est toujours possible d’activer le commutateur. Mais pas si les extrémistes sont eux-mêmes » diffusés au plus grand public du monde ». Et mettre en place des systèmes pour contrer cela à l’échelle Facebook est actuellement un problème insoluble.
« Beaucoup de gens ont demandé pourquoi l’intelligence artificielle n’avait pas détecté automatiquement la vidéo de l’attaque de la semaine dernière », a poursuivi le blog sur Facebook. « Les systèmes d’intelligence artificielle sont basés sur des » données d’apprentissage « , ce qui signifie que vous avez besoin de plusieurs milliers d’exemples de contenu afin de former un système capable de détecter certains types de texte, d’images ou de vidéos. »
Ainsi, essentiellement, tant que le nombre de vidéos d’assassinats, de suicides et d’attaques enregistrées dans la base de données de Facebook ne sera pas nettement supérieur, l’IA ne pourra pas être entraînée pour détecter et intercepter de tels flux en temps réel.
Et donc, la confiance revient aux modérateurs ou aux rapports d’utilisateurs. » Pendant toute la diffusion en direct, nous n’avons reçu aucun rapport d’utilisateur », a rapporté Facebook. «C’est important parce que les rapports que nous recevons pendant la diffusion d’une vidéo en direct sont prioritaires pour une relecture accélérée. Nous le faisons parce qu’une vidéo est toujours en direct s’il ya un préjudice réel, nous avons une meilleure chance d’alerter les premiers intervenants et d’essayer d’obtenir de l’aide. par terre. »
En ce qui concerne la possibilité d’introduire un retard dans la diffusion télévisée en direct, le blog l’a écarté: » Il existe des millions d’émissions en direct quotidiennement, ce qui signifie qu’un retard ne résoudrait pas le problème en raison du nombre considérable de vidéos. Plus Et surtout, étant donné l’importance des rapports des utilisateurs, l’ajout d’un délai ne ferait que ralentir davantage le visionnage, le visionnage et le visionnage des vidéos, ainsi que l’alerte des premiers intervenants sur le terrain.
Donc, « nous ne pouvons pas détecter les vidéos et nous ne recevons pas de rapports », mais « nous ne pouvons pas retarder les vidéos, car nous n’aurions pas de rapports » ? Et « nous ne pouvons pas retarder, car cela entraverait les alertes destinées aux premiers répondants » même si « nous ne pouvons pas détecter les vidéos et donc nous ne pouvons pas alerter les premiers répondants » ?
Un sacrifice opportun ?
Comme le rapporte Fast Company peu après son lancement, » Live est considéré comme le projet favori de Mark Zuckerberg, un projet qu’il » obsède « . Certains pensent que Live est la clé de l’avenir de Facebook, une ressource qui l’aidera à faire face à la télévision. »
Trois ans plus tard, Facebook s’attache à surmonter le scandale sans fin de Cambridge Analytica. Les rapports d’enquêtes criminelles, de grands jurys, de réunions secrètes non divulguées et de «qui savait quoi et quand» font l’objet de débats quotidiens. Et comme l’année dernière était consacrée aux gros titres, cette année sera consacrée aux enquêtes. Néanmoins, en réalité, les 2 milliards d’utilisateurs du réseau manquent d’immédiateté et d’impact personnel. La diffusion en direct de meurtres de masse a changé cela. Les politiciens et les régulateurs ne peuvent ignorer cela, ils ne peuvent ignorer les implications d’une plate-forme qui diffuse en direct des informations qu’aucun diffuseur moderne ne prendrait en compte, qui continue de s’autocontrôler, qui existe dans une bulle apparemment non régulée.
Avec l’actuel flux de nouvelles important autour du rôle des médias sociaux et traditionnels dans le soutien de l’extrémisme, le danger pour Facebook Live est que cela devienne partie intégrante du « concept d’opérations » pour les extrémistes. La possibilité de vivre des formes de flux ou même de provoquer une attaque. Les terroristes ont soif de publicité. Jamais dans l’histoire ils n’ont eu l’occasion de contrôler les émissions.
Et si Facebook a une décision à prendre. Une décision qui est peut-être maintenant plus acceptable et facile à prendre avec le changement de stratégie. Pour le moment, cela reste entre leurs mains, mais cela pourrait changer. L’Union européenne est clairement déterminée à donner l’exemple. Et lorsque l’ amende de la FTC tombera et lorsque les politiciens américains détermineront comment réagir aux derniers événements, nous pourrions voir une soif sérieuse de changement aux États-Unis qui aurait également un impact plus matériel. Et si les enquêtes criminelles portent atteinte à Facebook, ou si de nouvelles allégations ou violations sont révélées, le sénateur Warren ne sera pas la seule à réclamer des mesures très radicales.
Si Facebook ne parvient pas à tout protéger et gagne sur tous les fronts, veut-il sacrifier Facebook Live pour protéger les principales sources de revenus du négoce de données et peser lourdement sur le passage à la confidentialité ? De toute évidence, ils préfèrent que non, mais si la demande en matière de réglementation et même de rupture fait davantage de bruit, elle pourrait facilement devenir la solution la moins préjudiciable.
Au cours des prochaines semaines, il y aura de plus en plus d’appels pour les services de diffusion en direct en général et Facebook Live en particulier pour mettre fin à ces services. Cela gagnera du terrain, car il est difficile de soutenir que l’intérêt public profite de ne pas le faire.
L’admission de Facebook selon laquelle ils ne peuvent pas modérer efficacement l’ampleur du contenu en temps réel ne fournit que très peu de compteurs. Pour le moment, il semblera hyperbolique de suggérer que Facebook Live pourrait changer fondamentalement ou même se terminer. Cela ne semble pas être le cas quelques mois plus tard.
« Je comprends que beaucoup de gens pensent que Facebook ne peut pas ou ne voudrait même pas construire ce type de plate-forme axée sur la protection de la vie privée », a admis Zuckerberg, « car, pour être franc, nous n’avons pas la réputation actuelle de créer des services de protection de la vie privée. Nous nous sommes toujours concentrés sur des outils pour un partage plus ouvert. Mais nous avons maintes fois montré que nous pouvions évoluer pour créer les services que les gens veulent vraiment. C’est un avenir que nous espérons pouvoir aider à créer. »
Si cet article a captivé votre intérêt, vous trouverez certainement les prochains tout aussi passionnants. Assurez-vous de ne rien manquer en vous abonnant à linformatique.org sur Google News. Suivez-nous aussi sur Facebook et Twitter.