•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Arrêté grâce à Amazon : la reconnaissance faciale au service de la police

Une caméra de surveillance en ville.

Amazon a vendu un programme de reconnaissance faciale à plusieurs services de police.

Photo : getty images/istockphoto / hallojulie

Matthieu Dugal

CHRONIQUE - Le géant du détail Amazon a-t-il franchi une ligne éthique indéfendable en vendant son programme de reconnaissance faciale à un service de police pour espionner potentiellement tous les habitants d'une grande ville? L'histoire risque de se répéter un peu partout dans le monde, si ce n'est pas déjà le cas.

Retour en arrière, en Allemagne de l’Est, à la fin des années 80. Dans son livre consacré à la police secrète d’un des régimes politiques les plus répressifs de l’histoire (Stasi: The Untold Story of the East German Secret Police), le journaliste John Koehler avait estimé que, durant les 40 ans de répression du régime communiste est-allemand, la Stasi avait tissé un réseau d’espions d’une taille à faire frémir.

Alors que l’Union soviétique employait 480 000 espions pour une population de 280 millions d’habitants (soit 1 espion pour environ 6000 habitants), Koehler estime que la République démocratique allemande alimentait un réseau hallucinant de 1 espion pour... 6,5 citoyens!

On trouvait même des espions occasionnels parmi… les adolescents. Quelque 10 000 jeunes de moins de 18 ans figuraient sur les listes de la Stasi découvertes après la chute du mur de Berlin.

Bonjour la police!

Trente ans plus tard, certains services offerts par Amazon auraient pu faire rêver n’importe quel agent de la défunte police secrète est-allemande. La carte cachée de ce géant américain : Amazon Web Services, son service d’infonuagique aux entreprises. AWS, pour les intimes, représente 32 % de parts de marché dans son domaine. Loin devant le numéro 2, Azure, de Microsoft, qui plafonne à 15 %.

On a appris cette semaine qu’Amazon a vendu à plusieurs corps policiers son programme de reconnaissance faciale, Rekognition. Un nom avec un « k » tout droit sorti d’un film de science-fiction, avouons-le. Le très performant logiciel est logé sur les serveurs d’AWS.

La police d’Orlando l’aurait utilisé de concert avec des caméras de surveillance installées dans la ville pour y suivre des personnes représentant un « intérêt ». La nouvelle a d’ailleurs été confirmée par un des dirigeants d’Amazon lors d’une conférence organisée en Corée du Sud il y a quelques semaines.

Le service de police d’Orlando a indiqué de son côté qu’il s’agit d’un « projet pilote » et que le service a été déployé en respectant la loi. Sauf que le cadre juridique entourant l’utilisation de ces nouvelles technologies est plein de trous. Ce n’est pas moi qui le dis : c’est l’une des plus grandes spécialistes de la question, Clare Garvie, dont j’ai assisté à la conférence lors du dernier festival South by Southwest (SXSW).

Dans une lettre rendue publique mardi, l’Union américaine pour les libertés civiles (ACLU) ainsi qu’une quarantaine d’organismes de défense des droits humains réclament l’arrêt immédiat de relations d’affaires entre Amazon et les forces de l’ordre par respect des droits fondamentaux. Juste ça.

Un de leurs arguments? Les nombreux abus possibles au chapitre de la surveillance des citoyens à partir du moment où la police dispose d’un logiciel performant et de caméras.

« Qui surveillera les surveillants? » Cette question, posée par Edward Snowden au lendemain des révélations du programme d’écoute de l’Agence de sécurité nationale (NSA), il y a trois ans, revient nous hanter. Pour le moment, difficile d’y répondre.

Selon l’ACLU, la constitutionnalité de l’utilisation de tels services n’a jamais été étudiée par les cours de haute instance aux États-Unis. Devant l'inexistence d’un avis légal digne de ce nom, il semble qu’Amazon a fait beaucoup de pression sur les corps policierspour qu’ils branchent non seulement les caméras de surveillance à Rekognition, mais également les caméras que les agentsportent sur eux.

Amazon a toutefois retiré la mention de la possible utilisation de l’algorithme sur les caméras des policiers à la suite de discussions avec l’ACLU.

Comme tout bon chercheur en intelligence artificielle vous le dira, même si les taux d’erreur des logiciels de reconnaissance faciale sont de plus en plus minces, il n’en demeure pas moins qu’ils en produisent, les fameux « faux positifs ». On apprenait d’ailleurs cet hiver que plus les programmes de reconnaissance faciale étudiaient des groupes sociodémographiques traditionnellement défavorisés, plus le taux de faux positifs augmentait.

Un passeport pour la répression?

La Chine utilise déjà des algorithmes de reconnaissance faciale fournis par l’entreprise Megvii pour mener une vigoureuse campagne de répression dans l’ouest du pays.

Les organisations civiles qui ont lancé un signal d’alarme cette semaine ont souligné à juste titre le vide juridique dans lequel se déroule ces premiers « tests » que font les forces de l’ordre de leur nouveau joujou robotique. Et que le potentiel algorithmique d’amplifier les abus et les préjugés déjà existants n’est plus à démontrer.

Faudra-t-il un jour se maquiller de manière précise pour ne pas être identifié par les algorithmes de reconnaissance faciale qui pourraient éventuellement parsemer nos villes? En 2010, l’artiste Adam Harvey avait imaginé des coiffures et des maquillages destinés à rendre l’identification des visages impossible par les caméras de surveillance, une apparence plutôt jolie et futuriste au nom qui rappelle les camouflages employés sur les bateaux durant la Première Guerre mondiale : CV DAZZLE (Nouvelle fenêtre).

Mais peut-être aussi qu’un jour, il sera aussi interdit de se maquiller. Sur ordre de la police.

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !

Intelligence artificielle

Techno