L’utilisation malveillante d'une intelligence artificielle qui clone la voix inquiète

Basée à Londres, ElevenLabs a récemment lancé une version d'essai de sa plateforme de création d'outils de synthèse vocale ultraréalistes après avoir réussi à récolter 2 millions de dollars américains (2,7 millions de dollars canadiens).

Des adeptes du forum anonyme 4Chan ont partagé des messages générés par le logiciel et imitant la voix de célébrités, comme celle de l'actrice britannique Emma Watson ou l'animateur de balados américain Joe Rogan, pour leur faire prononcer des textes à caractère raciste, sexiste et homophobe.

Dans l'un de ces extraits, une fausse Emma Watson lit un passage de Mein Kampf. Dans un autre clip, un clone vocal du commentateur ultraconservateur Ben Shapiro menace de violer l'élue new-yorkaise Alexandria Ocasio-Cortez.

Les voix des réalisateurs Quentin Tarantino et George Lucas ont également été détournées.

Restreindre l'accès pour éviter les dérapages

Nous aimerions résoudre ce problème en mettant en place des mesures de protection supplémentaires, a écrit sur Twitter lundi ElevenLabs, qui n'a toutefois pas évoqué d'incidents précis.

L’entreprise propose de renforcer le processus d'identification des utilisateurs et utilisatrices ainsi que de mieux vérifier les droits d'auteur des échantillons soumis. ElevenLabs n’exclut toutefois pas de restreindre l’accès à l’outil et de vérifier chaque demande manuellement.

Elle fait partie des nombreuses sociétés à développer des logiciels d'intelligence artificielle pour le grand public.

Ces outils suscitent un fort intérêt depuis le lancement en novembre dernier du robot conversationnel ChatGPT par l'entreprise californienne OpenAI, capable de répondre à des questions variées et de rédiger des textes ultraréalistes.

Cependant, ils s'accompagnent aussi de craintes liées aux hypertrucages (deepfakes), ces manipulations numériques permettant de remplacer de manière réaliste un visage ou une voix et leur faire tenir des propos créés de toutes pièces.