•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Facebook : un algorithme confond des personnes noires avec des singes

Plusieurs logos de Facebook sur un écran, vus par une loupe.

Facebook est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d'autres formes de haine et de discrimination.

Photo : Reuters / Dado Ruvic

Agence France-Presse

Un algorithme de recommandation de Facebook a demandé à des internautes s'ils et elles souhaitaient voir d'autres « vidéos sur les primates » sous une vidéo d'un tabloïd britannique montrant des personnes noires, selon ce qu'a révélé le New York Times vendredi.

La vidéo du Daily Mail, vieille de plus d'un an, est intitulée un homme blanc appelle la police contre des hommes noirs à la marina. Elle ne montre que des personnes, pas de singes.

En dessous, la question voir plus de vidéos sur les primates? avec les options Oui / Rejeter s'est affichée sur l'écran d'internautes, d'après une capture d'écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux.

C'est scandaleux, a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l'affaire.

C'est une erreur inacceptable, a réagi une porte-parole de Facebook. Nous présentons nos excuses à quiconque a vu ces recommandations insultantes.

Le groupe californien a désactivé l'outil de recommandation sur ce sujet dès qu[il] a constaté ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise, a-t-elle précisé.

Comme nous l'avons déjà dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire, a-t-elle continué.

Accusations de racisme

L'affaire souligne les limites des technologies d'intelligence artificielle, régulièrement mise en avant par la plateforme dans ses efforts pour construire un fil personnalisé à chacun et chacune de ses près de trois milliards de membres.

Elle s'en sert aussi beaucoup dans la modération des contenus, pour identifier et bloquer des messages et images problématiques avant même qu'ils ne soient vus.

Mais Facebook, comme ses concurrents, est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d'autres formes de haine et de discrimination.

Le sujet suscite d'autant plus de tensions que de nombreuses organisations accusent les réseaux sociaux et leurs algorithmes de contribuer à la division de la société américaine, notamment dans le contexte des manifestations du mouvement Black Lives Matter.

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !