L’entreprise derrière ChatGPT peine à trouver un antidote
Beaucoup de spécialistes craignent que des technologies comme ChatGPT servent à automatiser la création à grande échelle d'arnaques ou de campagnes de désinformation.
Photo : Getty Images / LIONEL BONAVENTURE
La jeune pousse qui a créé ChatGPT, le logiciel à succès capable de générer aussi bien des articles que des poèmes ou des rédactions, peine à mettre au point un programme capable de détecter si un texte a été rédigé par une intelligence artificielle (IA).
OpenAI a lancé mardi un nouvel outil en accès libre, pour aider le public à faire la distinction entre les textes produits avec un logiciel à base d'IA – comme ChatGPT, mais pas seulement – et ceux écrits par des êtres humains.
Il doit permettre de repérer, par exemple, si des dissertations ont été rédigées par un programme informatique et non par un ou une élève, ou encore si l’on s'adresse à un être humain ou à un robot conversationnel (chatbot) dans une messagerie en ligne.
Il est néanmoins impossible de détecter de façon fiable tous les textes écrits avec de l'IA
, a prévenu d'emblée OpenAI dans son communiqué.
D'après sa propre évaluation, le nouveau logiciel identifie correctement 26 % de tous les textes rédigés par des algorithmes comme probablement écrits avec de l'IA
.
Et dans 9 % des cas, il classe des textes écrits par des êtres humains comme rédigés avec de l'IA.
Il est beaucoup plus fiable
que la version précédente, souligne OpenAI, mais il reste très peu fiable
pour analyser les textes courts (moins de 1000 caractères).
Au-delà de l'ironie de cette situation, les enjeux sont importants.
Beaucoup de spécialistes craignent que des technologies d'IA générative, comme celle de ChatGPT, servent notamment à automatiser la création à grande échelle d'arnaques ou de campagnes de désinformation ultra crédibles.
Des outils similaires ont déjà été créés avec des degrés variables de fiabilité, comme GPTZero, développé par Edward Tian, un étudiant de l'Université de Princeton.
Une popularité faramineuse
OpenAI, une jeune pousse cofondée en 2015 à San Francisco par Elon Musk – le patron de Tesla et de Twitter a quitté l'entreprise en 2018 –, a lancé ChatGPT en novembre dernier.
La plateforme, facile à utiliser, se présente comme un robot conversationnel et produit des textes d'une qualité impressionnante sur simple requête. Elle connaît depuis un succès foudroyant, relayé par une hyper médiatisation.
L'entreprise n'était jusque-là connue que dans des milieux restreints, pour deux logiciels de création automatisée : DALL-E pour la génération d'images et GPT-3 pour la génération de textes (ChatGPT repose sur GPT-3).
Elle a reçu 1 milliard de dollars américains de la part Microsoft en 2019 et vient de passer un nouvel accord avec le géant informatique de plusieurs milliards.
