Les géants de la technologie se disputent une affaire controversée de reconnaissance faciale d’un million de dollars

IBM, Microsoft et Amazon refusent de donner l’accès à la police à ses logiciels de reconnaissance faciale après l’affaire de l’Afro-Américain George Floyd.

Ce mardi 9 juin, au milieu de la vague de protestations qui a suivi la mort de George Floyd lors d’une arrestation à Minneapolis, le PDG d’IBM, Arvind Krishna, a annoncé dans une lettre ouverte au Congrès américain que la société allait cesser de commercialiser son propre logiciel de reconnaissance faciale en raison de son rejet de l’utilisation d’une technologie qui peut contribuer à la promotion du « racisme et de l’injustice sociale ».

Moins de 24 heures plus tard, Amazon a annoncé qu’il ne laisserait pas la police utiliser Rekognition, sa plateforme de reconnaissance d’images, pendant un an – bien qu’il n’ait rien précisé sur son utilisation controversée par le service d’immigration aux frontières et aux douanes.

Jeudi après-midi, c’est le président de Microsoft qui a annoncé qu’il ne vendrait pas sa technologie de surveillance à la police, tout en confirmant qu’elle n’avait jamais été vendue. Mais ces contradictions ou annonces, qui semblent avoir au moins autant à voir avec le marketing qu’avec un réel engagement, ne sont pas nouvelles dans ce domaine.

La reconnaissance faciale est un système qui permet d’identifier une personne en analysant les caractéristiques biométriques de son visage, comme la distance entre les yeux ou la taille du nez.

Il existe différentes technologies qui utilisent différents paramètres et avec une précision très différente. Bien qu’elle soit née il y a près de 60 ans, l’utilisation de l’intelligence artificielle et de l’apprentissage automatique a permis, au cours des dix dernières années, d’améliorer de manière exponentielle les capacités d’identification, tant sur les photographies que sur la vidéo en temps réel.

Ces technologies sont présentes dans le déblocage de nombreux mobiles et dans une multitude d’applications qui définissent des filtres ou aident à étiqueter nos photos, mais leur utilisation par les forces de sécurité est la plus controversée en raison du pouvoir sans précédent qu’elle leur confère pour surveiller et suivre chaque citoyen.

Au début de la semaine, dans une interview accordée au New York Times, Timnit Gebru, qui dirige l’équipe éthique de l’intelligence artificielle de Google, a appelé à un arrêt temporaire de l’utilisation de ces technologies.

Une déclaration surprenante, d’autant plus que cela fait presque 10 ans que le président du géant des moteurs de recherche de l’époque a annoncé que la société avait mis au rebut la recherche sur la reconnaissance faciale, jugée perverse et dangereuse.

Malgré l’annonce, Google a continué à investir dans son développement, comme le feront, j’en suis sûr, tous ceux qui s’arrachent les cheveux cette semaine. Les géants de la technologie sont en guerre depuis des années contre une entreprise de plus d’un million de dollars, avec trop de questions ouvertes sur les droits civils, l’injustice sociale et la justification de la violence.

Leur utilisation par les forces de l’ordre, que certains disent maintenant vouloir abandonner, n’est qu’une infime partie d’un immense gâteau : amener l’identification faciale aux entreprises et à la consommation ; au marché énorme de la surveillance faciale pour chacun d’entre nous. Faisons un peu d’histoire.

31 mai 2011. De nombreux milliardaires de la Silicon Valley se réunissent au D9 de AllThingsD, un événement du Wall Street Journal à Rancho Palos Verdes en Californie.

Sur la scène principale, Eric Schmidt, PDG de Google. L’homme le plus puissant dans la plus puissante entreprise du capitalisme numérique ouvre un débat qui dure des années. M. Schmidt met en garde contre les défis de la technologie de reconnaissance faciale et les implications « perverses » que sa combinaison avec la localisation mobile peut avoir.

Il met en garde contre le risque qu’un tel outil soit entre les mains de dictateurs qui l’utiliseraient contre la population. Pour toutes ces raisons, dit-il, « c’est la seule technologie que Google a développée puis abandonnée.

Neuf ans plus tard, Eric Schmidt n’est plus président de Google, AllthingsD n’existe plus – bien que les milliardaires se rencontrent encore dans les ranchs – et Google, comme tous les géants de l’Internet, investit des millions de dollars dans cette technologie « douteuse ».

Ces investissements, ceux des gouvernements du monde entier et ceux de dizaines de startups soutenues par d’importants fonds d’investissement, ont permis d’améliorer considérablement les capacités de reconnaissance faciale ces dernières années.

La raison semble évidente. Elle réunit les deux intérêts les plus puissants de l’industrie technologique. D’une part l’intérêt militaire et sécuritaire – le gouvernement chinois a déployé le Dragon Fly Eye capable d’identifier plus de deux milliards de personnes dans la rue -, d’autre part l’intérêt économique, car c’est le saint Graal qui permettrait aux géants de l’Internet de sauter dans le monde physique.

S’ils sont déjà capables de savoir tout ce que nous faisons dans l’environnement numérique, cela pourrait être l’arme ultime pour le faire dans l’environnement réel. Nous ne serons plus jamais des citoyens anonymes.

Des mois avant les revendications de M. Schmidt, Facebook avait commencé à utiliser la reconnaissance faciale pour suggérer les noms des personnes figurant sur les photos afin qu’elles puissent être marquées.

En 2012, elle a été contrainte de cesser d’utiliser cette technologie dans l’Union européenne en raison de problèmes réglementaires, mais elle a été réintroduite en 2018.

Pendant 8 ans, elle l’a utilisé par défaut dans d’autres régions du monde jusqu’en décembre 2019, sous la pression des critiques sur sa gestion de la vie privée, elle a ajouté la possibilité pour l’utilisateur de supprimer la permission pour le réseau d’utiliser ces algorithmes avec ses photos (par défaut, la plateforme a la permission et c’est l’utilisateur qui peut l’interdire en entrant les paramètres de confidentialité de son profil).

Mais les expériences de Facebook, qui est né comme un dépôt en ligne de photos de visages d’étudiants universitaires, avec la reconnaissance faciale sont allées beaucoup plus loin.

Entre 2015 et 2016, elle a développé une application permettant d’identifier les personnes grâce aux caméras de leur téléphone portable et de les associer à leur profil sur le réseau social.

Selon Business Insider, la société de M. Zuckerberg a développé et testé une application pour smartphones qui leur permet d’identifier les gens dans la vie réelle, afin de montrer leur profil sur Facebook et certaines de leurs informations. Cette application utilise la reconnaissance faciale basée sur les millions de photos de ses utilisateurs stockées sur ses serveurs (si vous aviez des profils qui se mettent en réseau entre 2010 et 2012, ou à partir de 2018, il y a aussi votre visage).

L’entreprise assure que l’application était un test dans le cadre de son programme d’innovation et qu’elle ne servait qu’à identifier les employés, mais elle montre que Facebook a les mêmes capacités à relier les personnes du monde physique à leurs données numériques que ClearView, l’outil dont l’utilisation par les forces de sécurité de l’État aux États-Unis a suscité une controverse.

Ces expériences peuvent être très coûteuses. En janvier 2020, la société de Zuckerberg a réglé un procès de 35 milliards de dollars intenté par l’État de l’Illinois et un groupe d’utilisateurs qui affirmaient n’avoir jamais donné leur consentement pour que Facebook utilise leurs données biométriques.

La mort de l’anonymat

Google fait également face à un procès similaire dans le même État. Malgré ce qu’a dit Eric Schmidt, la société travaille avec la reconnaissance faciale depuis des années. Des mois après les déclarations de M. Schmidt, il a introduit des capacités similaires à celles de Facebook dans son défunt réseau social, Google+.

Le service s’appelait Find my face et scannait les photos des utilisateurs et de leurs amis pour identifier les visages familiers. Les efforts de la société Mountain View dans ce domaine n’ont pas cessé. Leur nouvel affichage intelligent, le Google Nest Hub Max, comporte une caractéristique controversée : il est toujours à la recherche.

Face Match, le nom de Google pour cette technologie, identifie les personnes qui passent devant l’écran. Lorsqu’il reconnaît un utilisateur enregistré, il affiche un contenu personnalisé à son intention : photos, messages, rendez-vous. L’utilisation d’écrans similaires dans des environnements tels que les rues ou les centres commerciaux pourrait produire un effet très similaire à celui que nous avons vu dans la dystopie futuriste de Minority Report.

La publicité extérieure, les rayons des supermarchés ou les offres dans les magasins physiques sont personnalisés comme ils le sont aujourd’hui sur Internet. Une entreprise d’un million de dollars qui menace néanmoins notre anonymat.

Amazon, bien sûr, n’est pas non plus étranger à cette bataille technologique. Depuis 2016, elle a inclus parmi ses services de cloud computing, Rekognition, qui « démocratise » l’utilisation de l’intelligence artificielle en permettant à tout utilisateur d’utiliser cette technologie.

La controverse a accompagné le service depuis le début, mais depuis un an et demi, il a reçu une vague de protestations, même de la part de ses employés, lorsqu’il a été connu que le gouvernement Trump pourrait utiliser les services d’Amazon dans différentes agences gouvernementales telles que l’ICE, le service américain de contrôle de l’immigration et des douanes qui utiliserait Rekognition pour identifier les immigrants illégaux.

L’ICE a été impliqué dans de nombreux scandales ces dernières années et a été accusé de violer les droits des enfants et des immigrants. Dans une lettre, les employés d’Amazon ont comparé les activités de leur entreprise avec cette agence aux ventes de technologie à l’Allemagne nazie réalisées par IBM dans les années 1940.

Et Apple ? Le géant de la téléphonie mobile qui complète le tétrachisme des empires numériques a également investi dans la reconnaissance faciale. Mais avec une technologie très différente du reste, qui n’est pas seulement basée sur l’analyse d’images, mais qui utilise également l’infrarouge.

La solution de Cupertino s’appelle Face ID et a été commercialisée avec l’iPhone X en 2017 (en fait, lors de la présentation du téléphone, la technologie a échoué et sur scène, avec des milliers de personnes suivant l’événement en direct, le présentateur n’a pas pu débloquer le nouvel et tout nouveau iPhone).

L’identification des visages combine l’utilisation de la caméra frontale, d’une caméra infrarouge, d’un rétroéclairage et d’un projecteur infrarouge pour rendre le balayage non pas bidimensionnel, mais tridimensionnel.

Il émet 30 000 points infrarouges invisibles qui aident à reconstruire le modèle mathématique final du visage, une carte en trois dimensions qui est rassemblée en temps réel à l’aide d’algorithmes basés sur des réseaux de neurones et un apprentissage artificiel capable de traiter les variations du visage.

Tout cela permet de reconnaître des visages dans des situations d’absence de lumière. Si Google Face Match continue à chercher, Apple Face ID est capable de voir dans l’obscurité.

Compte tenu de ces progrès, de leur potentiel économique et des énormes défis qu’ils posent à la vie privée, il n’existe pas de législation protégeant les droits des citoyens contre ces géants et d’autres acteurs qui entrent rapidement sur ce marché.

La Commission européenne, qui avait envisagé un moratoire interdisant l’utilisation de la reconnaissance faciale pour les cinq prochaines années, a fait marche arrière et a assoupli sa position.

Elle laissera aux États membres le soin de décider comment renforcer cette ligne de plus en plus fine qui protège les droits civils. En attendant, quelqu’un dans la Silicon Valley a peut-être gardé son visage.