Vous naviguez sur l'ancien site
Aller au menu principal Aller au contenu principal Aller au formulaire de recherche Aller au pied de page
Ici Radio-Canada Première

Contrôleur audio

Extension Flash Veuillez vous assurer que les modules d'extension (plug-ins) Flash sont autorisés sur votre navigateur.

Chargement en cours

Annie Desrochers
Audio fil du mardi 8 août 2017

Et si les algorithmes pouvaient décider de votre avenir?

Publié le

Des codes informatiques.
Certains algorithmes analysent les données tirées des événements passés dans le but de prédire le futur.   Photo : iStock

Les algorithmes, ces calculs qui règnent sur Facebook et Google, influencent très fortement ce que nous voyons sur Internet et quelle information nous lisons. Ces algorithmes, dont certains sont prédictifs, agissent à notre insu et peuvent influencer différents aspects de notre vie, explique la chroniqueuse techno Nadia Seraiocco.

En plus de déterminer, par exemple, quel type de publication nous plaît le plus sur Facebook, certains algorithmes analysent aussi les données tirées des événements passés, dans le but de prédire les comportements futurs. On parle alors d’algorithmes prédictifs.

Imaginez un monde semblable au film Rapport minoritaire, où en analysant votre âge, l'endroit où vous êtes né, votre occupation, etc., et en les comparant aux données des comportements de citoyens ayant commis un crime, on pourrait, tout à coup, vous considérer comme à risque et vous catégoriser comme un criminel potentiel.

Nadia Seraiocco, chroniqueuse techno.

Selon Nadia Seraiocco, il faut se méfier du biais que peuvent avoir les données en cherchant des correspondances, puisque les comportements des utilisateurs peuvent entraîner l’intelligence artificielle à faire une association biaisée.

« La professeure de Harvard Latanya Sweeney, en faisant une recherche Google pour des noms généralement associés à des Afro-Américains, a constaté que les résultats étaient presque toujours associés à des activités criminelles. Pourtant, nous pouvons présumer que les ingénieurs de Google n’ont pas volontairement créé des codes racistes. »

Un homme navigue sur la page d’accueil du site web de Google, sur son téléphone intelligent.
Un homme navigue sur la page d’accueil du site web de Google, sur son téléphone intelligent. Photo : Reuters/Regis Duvignau

Un autre exemple de biais culturel est la recherche « unprofessional hair » dans Google Image, ajoute la chroniqueuse.

Les résultats regroupent en grande partie des images de coiffures de femmes noires. Encore là, ce sont les comportements des utilisateurs qui ont entraîné l’intelligence artificielle à faire cette association.

Nadia Seraiocco, chroniqueuse techno.

Publicité
Les algorithmes peuvent aussi nous influencer par la publicité que nous voyons en ligne et sur les réseaux sociaux. Aux États-Unis, par exemple, un ex-employé de Facebook a révélé aux médias que des publicités ciblaient les codes postaux où il y avait le plus d’assistés sociaux afin de leur offrir des produits de consommation au moment où ils recevaient leur prestation.

L’utilisation de ces algorithmes crée aussi d’autres problèmes éthiques. C’est le cas de ceux qui font monter le prix d’un bien ou d’un service chaque fois que nous retournons sur un site de vente. C'est le cas, entre autres, lors de l'achat de billets d'avion.

Un consommateur procède à l'achat de billets d'avion en ligne sur son téléphone intelligent.
L'achat des billets d'avion en ligne, une affaire d'algorithmes Photo : iStock

Des algorithmes illégaux
Il existe aussi des formes encore plus menaçantes d’algorithmes, qui contiennent parfois des codes illégaux.

« On met en marché des outils de surveillance massive, comme des instruments pour repérer des terroristes ou des criminels, mais ils peuvent aussi être utilisés pour traquer des militants qui dérangent. Devinez ce que ces outils utilisent? Des algorithmes prédictifs! »

Sur le même sujet : 

La chronique de Jeff Yates : J'ai testé les algorithmes de Facebook et ça a rapidement dégénéré

Chargement en cours