Vous naviguez sur l'ancien site
Aller au menu principal Aller au contenu principal Aller au formulaire de recherche Aller au pied de page
Ici Radio-Canada Première

Contrôleur audio

Extension Flash Veuillez vous assurer que les modules d'extension (plug-ins) Flash sont autorisés sur votre navigateur.

Chargement en cours

Matthieu Dugal
Audio fil du samedi 14 octobre 2017

L’intelligence artificielle est-elle fondamentalement biaisée?

Publié le

Cynthia Savard Saucier dans le studio de l'émission La sphère.
Cynthia Savard Saucier est l'auteure du livre Tragic Design qui recense de mauvais exemples de design.   Photo : Radio-Canada / Karl-Philip Vallée

L'intelligence artificielle a beau être une technologie prometteuse, il n'en demeure pas moins qu'elle est conçue par l'humain et qu'elle est donc faillible. Cynthia Savard Saucier, directrice du design à Shopify, est bien placée pour le savoir puisqu'elle a étudié les défauts de conception rencontrés dans la vie courante pour Tragic Design, un livre qu'elle a coécrit, sorti en avril dernier.

Cette spécialiste de ce qu’on appelle « l’expérience utilisateur » s’intéresse à la conception des objets ou des logiciels pour essayer de comprendre si leur utilisation est instinctive. Ses travaux l’ont menée à s’intéresser aux interactions entre les humains et les assistants vocaux, qui connaissent parfois certains ratés.

Quand j’essaie de faire jouer de la musique chez moi, j’ai l’air un peu niaiseuse à répéter quatre fois la même chose parce que je ne me souviens plus dans quel ordre je dois le dire.

Cynthia Savard Saucier, directrice du design à Shopify et coauteure de « Tragic Design »

Pour Mme Savard Saucier, ce genre de problème est souvent causé par les concepteurs derrière les systèmes d’intelligence artificielle, qui ont parfois des biais inconscients ou qui oublient de prévoir certaines interactions.

Elle donne l’exemple d’un ordinateur HP qui était livré avec un logiciel qui permettait à la caméra intégrée de suivre les mouvements de son utilisateur et de recadrer l’image pour qu’il reste au centre. Un employé d’une boutique d’électronique avait toutefois constaté que cette fonctionnalité ne s'activait pas avec les personnes de race noire lorsqu’il l’avait testée en magasin.

Dans la même veine, Cynthia Savard Saucier mentionne qu’un appareil photo de l'entreprise Nikon avait fait parler de lui pour des raisons similaires, il y a quelques années. Le logiciel de l’appareil, qui devait en principe lui permettre de se déclencher automatiquement lorsqu’il détectait que le sujet souriait en regardant vers l’objectif, ne fonctionnait pas avec les personnes asiatiques. En réalité, il ne faisait pas la différence entre des yeux fermés et des yeux bridés.

« Lorsque des décisions sont prises sur les critères qui vont mener à la reconnaissance faciale par l’appareil, il y a aussi des décisions sur les critères à omettre, explique cette auteure. Il y a des choix qui sont faits pour plusieurs raisons, soit par facilité ou à la suite d’essais. »

Chargement en cours