•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

L’IA de YouTube échoue à reconnaître des vidéos mettant en vedette des personnes mineures

Le site web YouTube dans un navigateur web.

YouTube se sert de l’apprentissage automatique pour identifier des vidéos mettant en scène les mineurs.

Photo : Getty Images / scyther5

Radio-Canada

Six mois après que YouTube s’est engagé à désactiver les commentaires sous les vidéos mettant en vedette des personnes mineures, une enquête de CNet (Nouvelle fenêtre) révèle que les algorithmes d’intelligence artificielle (IA) dont se sert la plateforme pour repérer ce type de contenu ont failli à leur tâche.

Cela survient quelques jours après que le site s’est engagé à désactiver les commentaires et la publicité ciblée sur ses vidéos qui visent les enfants en se servant de l’IA. Il s’agit là d’une de ses obligations en vertu de son accord avec les autorités américaines pour avoir enfreint la loi en exposant les enfants à des vidéos inappropriées ou en collectant leurs données personnelles.

YouTube s’était engagé à désactiver les commentaires sous les vidéos mettant en vedette les enfants d’âge mineur en mars, après que le créateur Matt Watson eut accusé la plateforme de faciliter le partage de contenus pédophiles dans une vidéo rapidement devenue virale.

La section des commentaires devait être complètement supprimée pour les vidéos qui montraient des enfants de 13 ans et moins. Celles qui présentaient des jeunes âgés de 14 à 17 ans présentant des risques d'abus, comme des vidéos de gymnastique, devaient également voir leurs commentaires désactivés.

Or, CNet indique dans son enquête avoir trouvé plus d’une centaine de vidéos mettant en scène des nourrissons ou des enfants d’âge préscolaire avec possibilité de commenter grâce à une simple recherche du terme pretend play (jeu imaginaire).

Certaines des vidéos montraient de jeunes enfants en maillot de bain ou des bébés en couche. Quelques-unes d’entre elles ont même cumulé plus de 20 millions de visionnements.

On pouvait également commenter d’autres vidéos repérées avec le terme bikini haul (butin de bikinis), qui mettaient en vedette des adolescentes âgées de 14 à 17 ans essayant des bikinis.

CNet dit avoir vu des commentaires inappropriés sur le contenu en question.

Nous avons désactivé les commentaires sur des centaines de millions de vidéos mettant en vedette des jeunes d’âge mineur dans des situations hasardeuses, a laissé entendre la porte-parole de YouTube, Ivy Choi, en entrevue à CNet.

Le site a également désactivé la section commentaires de près d’une cinquantaine de vidéos désignées par CNet après que le média l’eut contacté dans le contexte de son enquête.

Les limites de l’IA

YouTube se sert de l’apprentissage automatique pour repérer des vidéos mettant en scène les personnes mineures. Cette technique consiste à analyser des centaines de milliers d’heures de contenu avec des algorithmes d’intelligence artificielle afin de repérer les vidéos en question.

Quoiqu’on fasse, ce ne sera jamais parfait. Il faut juste accepter qu’une personne adulte peut être identifiée comme étant enfant, ou que [l’intelligence artificielle] ne verra juste pas un ou une enfant. Peu importe, il faut aussi avoir des êtres humains dans les coulisses, a commenté le professeur de science informatique Christo Wilson en entrevue à CNet.

Considérant que 500 vidéos sont téléversées sur YouTube chaque seconde, il est possible, en effet, que du contenu inapproprié ou mettant en scène des jeunes d’âge mineur glisse entre les doigts de l’intelligence artificielle et des quelque 10 000 modératrices et modérateurs humains engagés par YouTube.

Avec les informations de CNet

Internet

Techno