•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Twitter offre des récompenses aux gens qui relèvent ses algorithmes discriminatoires

Le logo du réseau social Twitter est affiché sur un écran de téléphone cellulaire.

Le réseau social souhaite s'attaquer entre autres aux possibles tendances sexistes et racistes de ses algorithmes.

Photo : AFP / ALASTAIR PIKE

Agence France-Presse

Le réseau social Twitter a annoncé vendredi qu'il accorderait des récompenses aux personnes qui découvriront de possibles problèmes de partialité dans les algorithmes fonctionnant sur sa plateforme.

Il s'agit, selon l'entreprise, de la première compétition sur le sujet, avec des prix allant jusqu'à 3500 dollars américains, soit environ 4300 dollars canadiens.

L'idée est calquée sur les concours proposés par certains sites Internet pour déceler des failles de sécurité. C'est ce qu'ont fait savoir Rumman Chowdhury et Jutta Williams, deux responsables de l'entreprise, dans un message.

Il est difficile de savoir si des modèles d'apprentissage automatique favorisent des préjugés; parfois, les entreprises découvrent qu'ils posent involontairement des problèmes éthiques seulement après les avoir déployés, expliquent ces responsables. Nous voulons que cela change.

Dans un modèle développé pour déceler les failles de sécurité, les équipes de recherche tout comme les pirates informatiques ont aidé les responsables de la sécurité informatique à établir de bonnes pratiques pour trouver et gérer les vulnérabilités afin de protéger le public, expliquent Rumman Chowdhury et Jutta Williams.

Nous voulons développer un modèle similaire pour déceler les iniquités dans les algorithmes.

Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l'œuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.

Quelques semaines plus tard, le réseau social avait renoncé à un algorithme recadrant les photos, ayant découvert qu'il avait notamment tendance à favoriser les personnes blanches.

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !