Facebook bannit les hypertrucages

Facebook va bannir les hypertrucages (en anglais deepfakes), ces vidéos manipulées au moyen de l'intelligence artificielle pour remplacer un visage ou changer les propos d'une personnalité, a annoncé mardi le réseau social dans un billet de blogue.

Facebook affirme que seront supprimées les vidéos modifiées sans que cela soit évident et qui sont susceptibles d'induire en erreur les internautes sur les propos d'une personnalité, et qui sont le produit d'une intelligence artificielle qui mélange, remplace ou superpose un contenu dans une vidéo en le faisant paraître authentique.

Annoncé en cette année d'élection présidentielle aux États-Unis, le nouveau règlement ne s'applique pas aux contenus parodiques ou satiriques ou aux vidéos qui ont été montées de manière à omettre des mots ou à en changer l'ordre, précise dans le biller vice-présidente de Facebook, Monika Bickert.

Une vidéo comme celle dont a été victime Nancy Pelosi, la présidente de la Chambre des représentants des États-Unis, où elle semblait ivre en raison d'un ralentissement de la vitesse de lecture, échapperait donc à ces nouvelles directives, selon ce qu'ont souligné plusieurs médias américains.

La vidéo de Nancy Pelosi ne répond pas aux critères de cette politique et ne serait pas retirée, a précisé Facebook dans un communiqué. Seules des vidéos générées par l'intelligence artificielle qui montrent des gens exprimant des propos fictifs seront retirées.

L'explication plutôt que la suppression

Facebook continuera par ailleurs de supprimer les contenus audiovisuels violant les standards de la communauté, et de réduire fortement l'audience de ceux étiquetés comme faux par les vérificateurs de faits externes avec qui l'entreprise travaille.

Le réseau social dit préférer procéder ainsi, en limitant la propagation des contenus étiquetés comme faux, plutôt que de simplement les supprimer, pour fournir de l'information importante et du contexte à ses utilisateurs et utilisatrices. Si nous retirions simplement toutes les vidéos manipulées et étiquetées comme fausses par des organismes de vérification des faits, elles seraient toujours accessibles ailleurs sur le web ou sur d'autres réseaux sociaux, explique Monika Bickert.

Dans le cas de la vidéo de Nancy Pelosi, lorsqu'elle a été évaluée par un organisme externe de vérification des faits, nous avons réduit sa portée, et les gens qui l'ont vue, qui ont tenté de la partager – ou qui l'avaient déjà fait – ont reçu des avertissements indiquant que la vidéo était fausse, indique Facebook.

Le réseau social a mis sur pied en 2016 le programme qui rémunère une soixantaine de médias dans le monde, généralistes ou spécialisés, pour leur service de vérification des faits sur sa plateforme et sur Instagram.

Avec les informations de Agence France-Presse, Reuters et BBC