Cet outil peut garder vos photos à l’abri des algorithmes de reconnaissance faciale

C’est en analysant des photos tirées des moteurs de recherche et des réseaux sociaux que des entreprises de reconnaissance faciale comme Clearview AI entraînent leurs algorithmes. Or, cette pratique soulève d’importantes questions sur le consentement et la protection de la vie privée sur le web. Un outil développé par une équipe de l’Université de Chicago a été conçu pour mettre les bâtons dans les roues de ce genre de système.

Baptisé Fawkes en l’honneur du célèbre masque (Nouvelle fenêtre) devenu un symbole de protestation, le logiciel modifie subtilement des caractéristiques faciales dont dépendent les algorithmes pour fonctionner. Le logiciel jumelle le visage à celui de la personne qui lui ressemble le moins dans une base de données de visages de célébrités et s’en inspire pour modifier l’image originale.

Dans son papier de recherche, l’équipe derrière Fawkes explique comment elle a pu déjouer les systèmes de reconnaissance faciale de Microsoft, d’Amazon et de l’entreprise chinoise Megvii en modifiant le visage de l’actrice Gwyneth Paltrow. Son visage a été jumelé à celui de l’acteur Patrick Dempsey, et les trois systèmes n’étaient pas en mesure de l’identifier après modification.

Ouvrir en mode plein écran

Mais si Fawkes peut protéger les photos des gens de différents algorithmes de reconnaissance faciale, son but n’est pas d’anonymiser les individus. Après tout, la plupart des internautes ont déjà mis en ligne des dizaines, voire des centaines, de photos de leur visage sur le web.

Notre but est de faire disparaître Clearview, a résumé le professeur en science informatique à l’Université de Chicago Ben Zhao au New York Times.

Si tout le monde passait ses photos dans Fawkes avant de les mettre en ligne, les internautes pourraient essentiellement empoisonner le puits de données dont se servent des entreprises comme Clearview AI pour entraîner leurs algorithmes. On verrait ensuite leur taux de précision chuter, croit l’équipe de recherche.

Ouvrir en mode plein écran

Le code de l’outil est offert en téléchargement gratuit depuis juillet, mais il devrait bientôt exister sous forme d’application mobile accessible à tout le monde.

Pas encore parfait

Si les modifications faites par Fawkes doivent être subtiles et invisibles à l’œil nu, le logiciel n’est pas encore parfait. Les femmes peuvent avoir des moustaches et les hommes peuvent avoir des cils supplémentaires ou de l’ombre à paupières, illustre le professeur Ben Zhao.

Cela découle du fait que le visage de la personne qui ressemble le moins au sujet de la photo appartient souvent à quelqu’un du sexe opposé. C’est un problème que compte régler l’équipe, dit M. Zhao.

Ouvrir en mode plein écran

Questionné par le New York Times, le grand patron de Clearview AI, Hoan Ton-That, a dit que Fawkes n’était pas capable de perturber son système de reconnaissance faciale dans des tests qu’il avait menés.

Il y a [déjà] des milliards de photos qui n’ont pas été modifiées sur le web. [...] En pratique, il est presque certainement trop tard pour perfectionner une technologie comme Fawkes et la déployer à grande échelle, croit-il.

Avec les informations de The New York Times, OneZero et South China Morning Post