•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Cet outil peut garder vos photos à l’abri des algorithmes de reconnaissance faciale

Un logiciel baptisé Fawkes modifie subtilement des photos pour mettre les bâtons dans les roues des algorithmes.

Image d'un logiciel de reconnaissance faciale avec la modélisation 3D d'un visage.

L'utilisation d'images tirées des réseaux sociaux pour entraîner des algorithmes de reconnaissance faciale soulève d’importantes questions sur le consentement et la protection de la vie privée sur le web.

Photo : Getty Images / Ian Waldie

Radio-Canada

C’est en analysant des photos tirées des moteurs de recherche et des réseaux sociaux que des entreprises de reconnaissance faciale comme Clearview AI entraînent leurs algorithmes. Or, cette pratique soulève d’importantes questions sur le consentement et la protection de la vie privée sur le web. Un outil développé par une équipe de l’Université de Chicago a été conçu pour mettre les bâtons dans les roues de ce genre de système.

Baptisé Fawkes en l’honneur du célèbre masque (Nouvelle fenêtre) devenu un symbole de protestation, le logiciel modifie subtilement des caractéristiques faciales dont dépendent les algorithmes pour fonctionner. Le logiciel jumelle le visage à celui de la personne qui lui ressemble le moins dans une base de données de visages de célébrités et s’en inspire pour modifier l’image originale.

Dans son papier de recherche, l’équipe derrière Fawkes explique comment elle a pu déjouer les systèmes de reconnaissance faciale de Microsoft, d’Amazon et de l’entreprise chinoise Megvii en modifiant le visage de l’actrice Gwyneth Paltrow. Son visage a été jumelé à celui de l’acteur Patrick Dempsey, et les trois systèmes n’étaient pas en mesure de l’identifier après modification.

Un schéma qui montre comment le visage de Gwyneth Paltrow a été modifié par le logiciel Fawkes.Agrandir l’image (Nouvelle fenêtre)

Fawkes a pu déjouer les systèmes de reconnaissance faciale de Microsoft, d’Amazon et de l’entreprise chinoise Megvii en modifiant le visage de l’actrice Gwyneth Paltrow. Les modifications sont faites à partir de traits faciaux de l'acteur Patrick Dempsey.

Photo : Université de Chicago

Mais si Fawkes peut protéger les photos des gens de différents algorithmes de reconnaissance faciale, son but n’est pas d’anonymiser les individus. Après tout, la plupart des internautes ont déjà mis en ligne des dizaines, voire des centaines, de photos de leur visage sur le web.

Notre but est de faire disparaître Clearview, a résumé le professeur en science informatique à l’Université de Chicago Ben Zhao au New York Times.

Si tout le monde passait ses photos dans Fawkes avant de les mettre en ligne, les internautes pourraient essentiellement empoisonner le puits de données dont se servent des entreprises comme Clearview AI pour entraîner leurs algorithmes. On verrait ensuite leur taux de précision chuter, croit l’équipe de recherche.

L'application sur un téléphone intelligent.

Clearview AI a annoncé en juillet qu'elle cesserait d'offrir son service de reconnaissance faciale au Canada, en réaction à une enquête lancée par le commissaire à la protection de la vie privée.

Photo : Radio-Canada / Thomas Daigle

Le code de l’outil est offert en téléchargement gratuit depuis juillet, mais il devrait bientôt exister sous forme d’application mobile accessible à tout le monde.

Pas encore parfait

Si les modifications faites par Fawkes doivent être subtiles et invisibles à l’œil nu, le logiciel n’est pas encore parfait. Les femmes peuvent avoir des moustaches et les hommes peuvent avoir des cils supplémentaires ou de l’ombre à paupières, illustre le professeur Ben Zhao.

Cela découle du fait que le visage de la personne qui ressemble le moins au sujet de la photo appartient souvent à quelqu’un du sexe opposé. C’est un problème que compte régler l’équipe, dit M. Zhao.

Les changements ne sont presque pas perceptibles.Agrandir l’image (Nouvelle fenêtre)

Des photos des actrices Jessica Simpson (gauche), Gwyneth Paltrow (centre) et Patrick Dempsey (droite) avant (original) et après (cloaked) avoir été modifiées par Fawkes.

Photo : Université de Chicago

Questionné par le New York Times, le grand patron de Clearview AI, Hoan Ton-That, a dit que Fawkes n’était pas capable de perturber son système de reconnaissance faciale dans des tests qu’il avait menés.

Il y a [déjà] des milliards de photos qui n’ont pas été modifiées sur le web. [...] En pratique, il est presque certainement trop tard pour perfectionner une technologie comme Fawkes et la déployer à grande échelle, croit-il.

Avec les informations de The New York Times, OneZero, et South China Morning Post

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !