•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Un outil montréalais pour détecter l’IA pourrait contrer les « dérives de ChatGPT »

Un homme prend la pose, l'air sérieux et les bras croisés, sur son bureau.

Nabil Tayeb a cofondé avec Vincent Terrasi l'entreprise montréalaise Draft & Goal.

Photo : Draft & Goal

Stéphanie Dupuis

Un peu de répit pour le corps enseignant : la jeune pousse montréalaise Draft & Goal vient de mettre en ligne un outil gratuit qui permettrait de détecter avec une fiabilité de 93 % si un texte a été généré ou non par un robot conversationnel à la ChatGPT.

Le fonctionnement est simple : on ouvre dans un fureteur la page web de l’outil de détection d’IA (Nouvelle fenêtre), on copie et colle dans une boîte un texte en anglais (une version en français est en préparation) d’au moins 200 caractères à tester, on appuie sur analyser, et le logiciel offre un pourcentage de chance que l’essai ait été rédigé par un être humain ou par une intelligence artificielle (IA).

Si l'on teste un contenu dont on connaît déjà la nature, on peut aussi indiquer au bas de l’écran si le résultat obtenu par l’entreprise est juste ou non.

« On a fait une première analyse mercredi, basée sur 2000 textes en anglais. Les résultats montrent une fiabilité à 93 %. »

— Une citation de  Nabil Tayeb, PDG de Draft & Goal

Pour la deuxième version sur laquelle nous travaillons, avec un algorithme amélioré, on estime que ce pourcentage sera supérieur, a indiqué à Radio-Canada le PDG de l’entreprise.

Capture d'écran d'un page web montrant une boîte de texte et un cadran.
Agrandir l’image (Nouvelle fenêtre)

L'outil de détection de l'IA de Draft & Goal analyse les textes soumis afin de déterminer s'ils ont été rédigés par des êtres humains ou une machine.

Photo : Draft and Goal

Pour arriver à détecter avec justesse si un texte a été généré par un robot conversationnel, Draft & Goal utilise l’apprentissage machine.

Les modèles d’IA générative sont souvent probabilistes, c'est-à-dire que ce sont des modèles qui font que ce qui est écrit n’est pas totalement aléatoire, explique Nabil Tayeb.

Draft & Goal arrive ainsi à détecter des empreintes laissées par l’IA, notamment en regardant plusieurs éléments dans le style d'écriture.

Si l’outil est seulement offert en anglais pour le moment, une version française du service sera mise en ligne d’ici la fin du mois de janvier, selon Nabil Tayeb.

Il y a beaucoup plus de textes en anglais sur le web, donc le modèle de départ s'entraîne plus facilement et rapidement avec l’anglais qu'avec le français, justifie le PDG de Draft & Goal, qui envisage d’étendre le service à d’autres langues dans le futur.

Un concours de circonstances

L'entreprise Draft & Goal travaille elle-même depuis deux ans à créer un outil de génération de contenus automatisé. Elle souhaite aider les autres entreprises à être plus productives dans la rédaction d’articles de blogue, la publication de pages web statiques ou encore dans l’écriture de descriptions de produits, tout en maintenant une certaine intervention humaine.

En générant des textes, on avait besoin de savoir si ça allait être perçu comme un texte écrit par une intelligence artificielle, raconte Nabil Tayeb, PDG de Draft & Goal, précisant que le but n’est pas de tromper les lecteurs ou lectrices.

« On a donc créé un outil pour nous aider, et on s’est rendu compte rapidement qu’on était plutôt bons à détecter les contenus générés par l’IA. »

— Une citation de  Nabil Tayeb

L’équipe y a vu une occasion d’en faire profiter les autres, car les risques sont nombreux quant à la démocratisation de logiciels d’intelligence artificielle qui imitent de façon ultraréaliste l’écriture humaine, comme c'est le cas de ChatGPT d’OpenAI.

On voit l’IA comme un outil, une machine à écrire à améliorer, mais ça ne doit pas devenir le centre de la création en tant que tel, croit le PDG de la jeune pousse.

Plusieurs champs d’action

Les enseignants et enseignantes craignent par exemple que ces robots conversationnels s’infiltrent dans les dissertations de leurs élèves, tous niveaux confondus.

Les profs utilisent depuis des années des logiciels pour déceler le plagiat, mais ceux-ci sont conçus pour analyser les textes déjà publiés sur le web.

Comme l’IA génère du texte original, elle ne copie pas de texte à partir du web, précise-t-il.

Un outil comme celui de Draft & Goal pourrait aussi être utile dans des salles de presse afin de s’assurer de l’authenticité d’un communiqué de presse.

« [Une personne malintentionnée] pourrait envoyer des communiqués de presse complètement bidonnés sans que ce soit suspect, et ça pourrait être fait à grande échelle. »

— Une citation de  Nabil Tayeb

En phase de test

Pour le moment, l’outil de Draft & Goal est encore en phase de développement. Chaque requête permet d’améliorer sa propre intelligence artificielle.

L’entreprise souhaite garder le logiciel gratuit et accessible à tous et à toutes le plus longtemps possible. Elle compte tout de même offrir prochainement des formules payantes avec des fonctionnalités supplémentaires, qui pourraient prendre la forme, entre autres, d’une extension sur le navigateur Chrome.

Une nouvelle version du détecteur sera mise en ligne dans les prochains jours et permettra de cibler les passages plus précis d’un texte soupçonnés d’avoir été générés par l’intelligence artificielle.

Vos commentaires

Veuillez noter que Radio-Canada ne cautionne pas les opinions exprimées. Vos commentaires seront modérés, et publiés s’ils respectent la nétiquette. Bonne discussion !

En cours de chargement...