•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Facebook entraîne l'intelligence artificielle à repérer les mèmes haineux

L'image montre l'application de Facebook sur un iPad en plan rapproché.

Des équipes de recherche ont eu accès à 10 000 exemples de mèmes pour développer des algorithmes permettant de repérer les contenus problématiques.

Photo : Associated Press / Matt Rourke

Agence France-Presse

Alors que la pandémie a restreint sa capacité à assurer la modération des contenus sur ses plateformes par des êtres humains, Facebook a de plus en plus recours à l'intelligence artificielle (IA), entre autres pour détecter les mèmes porteurs de messages de haine.

Sur une photo de pierres tombales fleuries, un message s'affiche en lettres capitales : Toutes les personnes de ton groupe ethnique devraient se trouver ici. Ce mème – ou image détournée, généralement avec un effet humoristique – est donné en exemple par le réseau social pour illustrer la difficulté de sa tâche.

Si l'algorithme comprend uniquement les mots, le message est ambigu. Associé à la photo, le message relève clairement de la haine et contrevient aux règles de la plateforme.

L'IA détecte désormais, de façon proactive, 89 % des contenus haineux que nous retirons, contre 80 % au trimestre précédent, note un communiqué du groupe américain publié mardi.

Signe que la tâche est plus ardue sur Instagram, ce taux de détection proactive tombe à 44 % sur l'application de photos et vidéos, d'après Guy Rosen, vice-président du groupe Facebook.

Des équipes de recherche externes mises à contribution

Les équipes du réseau social planétaire ont mis une base de données de 10 000 mèmes à la disposition d'équipes de recherche afin qu'elles développent des algorithmes capables de repérer les messages problématiques.

Facebook a aussi fait part de ses propres progrès : son outil SimSearchNet est censé être capable de reconnaître des copies d'une image originale, et ce, malgré d'éventuelles modifications pour la détourner de son sens initial et échapper à la détection automatique.

Côté linguistique, les algorithmes de la plateforme peuvent désormais comprendre de mêmes messages dans différentes langues.

Heather Woods, professeure à la Kansas State University et spécialiste des mèmes et contenus extrémistes, a salué l'initiative de Facebook d'inclure des équipes de recherche extérieures pour s'attaquer à ce problème complexe.

Les nuances des mèmes et les spécificités contextuelles vont rester un défi pour les plateformes qui cherchent à se débarrasser des contenus haineux, explique-t-elle.

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !

Intelligence artificielle

Techno