Des employés d’Amazon écoutent des enregistrements d’Alexa

Des milliers d'employés d'Amazon partout sur la planète écoutent des conversations et des enregistrements captés par les enceintes connectées Echo afin d'améliorer Alexa, l'assistant virtuel de l'entreprise. Le tout souvent à l'insu des utilisateurs.

C’est le constat que dresse Bloomberg, qui a enquêté sur cette pratique et rencontré sept employés ou ex-employés affectés à cette tâche.

Le rôle de ces employés est d’écouter des enregistrements afin d’identifier des commandes vocales qui ont été mal comprises par Alexa. L’objectif est ensuite de montrer à l’assistant virtuel l’action qu’il aurait dû accomplir afin de le rendre de plus en plus précis et performant.

Ces personnes peuvent écouter jusqu’à 1000 enregistrements audio par quart de travail de 9 heures.

Une tâche machinale

Dans la plupart des cas, la tâche est répétitive et machinale. L’un des travailleurs a expliqué qu’il avait un jour dû écouter des enregistrements pour trouver ceux contenant le nom de la chanteuse Taylor Swift afin d’enseigner à l’algorithme qu’il s’agit d’une personne (son nom peut être interprété différemment en anglais).

Il arrive toutefois que les employés tombent sur un enregistrement plus intime, comme celui de quelqu’un chantant dans la douche, ou plus bouleversant, comme celui d’un enfant appelant à l’aide.

Deux travailleurs ont indiqué à Bloomberg avoir écouté ce qui semblait être une agression sexuelle. Bien qu’Amazon affirme accompagner les personnes exposées à ce genre d’enregistrement, deux employés ont dit que l’entreprise avait refusé de leur offrir de l’aide lorsqu’ils l’ont demandé.

Amazon reconnaît l’existence des équipes humaines

Dans une foire aux questions sur le site d’Amazon, l’entreprise n’indique pas explicitement que des humains ont accès aux enregistrements d’Alexa. « Nous utilisons vos commandes à Alexa pour entraîner nos systèmes de reconnaissance vocale et de compréhension du langage naturel, peut-on lire sur le site d’Amazon (Nouvelle fenêtre). Plus nous utilisons de données pour entraîner ces systèmes, mieux Alexa fonctionne [...]. »

Amazon a toutefois reconnu auprès de Bloomberg qu’elle fait appel à des équipes pour améliorer Alexa en écoutant des enregistrements. L’entreprise soutient que les informations personnelles des utilisateurs sont protégées en tout temps pendant ce processus.

« Nous avons de strictes garanties techniques et opérationnelles, et nous avons une politique de tolérance zéro pour l’utilisation inappropriée de notre système, a indiqué un porte-parole d’Amazon dans un courriel envoyé à Bloomberg. Les employés n’ont pas accès à de l’information permettant d’identifier la personne ou le compte [associé à l’enregistrement] dans le cadre de leur travail. Toute l’information est traitée avec un haut degré de confidentialité et nous utilisons l’authentification en plusieurs étapes pour restreindre l’accès [...] à notre environnement de contrôle pour le protéger. »

Bloomberg affirme toutefois que chaque enregistrement est associé à un numéro de compte, au prénom de l’utilisateur et au numéro de série de l’appareil utilisé, d’après une capture d’écran fournie par un employé.

Apple et Google font aussi appel à des équipes humaines pour vérifier les enregistrements de leurs assistants virtuels. D’après un document d’Apple sur la sécurité d’iOS, les enregistrements sont associés à un identifiant généré au hasard, qui ne permet pas de retrouver l’utilisateur. Quant à Google, l’entreprise affirme que les enregistrements ne sont liés à aucune information permettant d’identifier l’utilisateur et que le son est modifié pour éviter de reconnaître les voix.

Avec les informations de Bloomberg