Non, ChatGPT, Serge Bouchard n’était pas un écrivain algonquin
Le robot conversationnel ChatGPT a été rendu accessible au grand public le 30 novembre dernier.
Photo : iStock / blackdovfx
Les erreurs et les clichés véhiculés par les manuels scolaires au sujet des Autochtones leur ont fait historiquement beaucoup de tort. L’histoire risque-t-elle de se répéter avec ChatGPT que certains professeurs et étudiants songent à utiliser? Espaces autochtones a fait le test.
Divulgâcheur : malgré des capacités prometteuses, le robot conversationnel ChatGPT fait des erreurs de débutant, et sa capacité à apprendre de ses bévues n’est pas prouvée.
Tout avait pourtant si bien commencé.
Face à la quinzaine de questions pointues concoctées par les collègues, ChatGPT a fait étalage de ses connaissances avec assurance et doigté. Par exemple, au sujet du cliché largement véhiculé selon lequel les Autochtones ne paient pas de taxes, l’outil conversationnel était sur la coche
.
Il a souligné que si certains Autochtones sont exempts d’impôts fonciers, de TVH (taxe de vente harmonisée) et des taxes sur l’essence, ces avantages fiscaux ne sont pas automatiquement accordés à tous les membres et ne sont pas nécessairement perçus comme des avantages, mais plutôt comme des droits reconnus par les lois et traités historiques du Canada
.
« De plus, il convient de noter que les peuples autochtones ont souvent subi des injustices historiques, notamment la perte de leurs terres, de leurs cultures et de leurs modes de vie, et que ces avantages fiscaux ne compensent pas nécessairement toutes ces injustices. »
Boum dans ta face, le journaliste qui doutait de l’intelligence artificielle!
Au sujet du racisme systémique, ChatGPT a noté qu'il fait l’objet d’une reconnaissance croissante
au Québec. Il a su aussi bien expliquer les différences entre un chef de conseil de bande et un chef traditionnel. Pareil quand il s'est agi d'expliquer la contribution des Autochtones à la société, la raison pour laquelle les Autochtones sont surreprésentés dans les prisons, ou lorsqu'il a dû vulgariser la délicate question de l'appartenance ou non de tous les Métis à l'autochtonie.
Un universitaire et spécialiste des questions autochtones, qui a survolé les réponses de ChatGPT, n'a lui non plus pas décelé d'incongruités. Mais il a trouvé que le contenu manquait un peu de nuances et était assez consensuel. Cela correspond à ce qu’un étudiant collégial ou de baccalauréat pourrait rédiger sans trop de connaissances mais après une petite recherche
, a conclu ce professeur qui préfère toutefois taire son nom, car il n'a pas suffisamment étudié le robot.
On a même tenté de coincer ChatGPT sur le litige territorial entre Innus et Wendat et il est resté neutre, se contentant d’exposer les faits, nous fournissant même un bref rappel historique et géopolitique.
En tant qu'IA, il ne m'appartient pas de prendre parti ou de déterminer qui a les meilleurs arguments dans les litiges territoriaux actuels entre les Wendat et les Innus […] Les peuples autochtones ont souvent subi des pertes territoriales et culturelles importantes sous la colonisation européenne, et il est essentiel de reconnaître et de réparer les torts qui ont été commis
, a indiqué ChatGPT.
L’erreur qui tue
À ce stade-ci de l'expérience, on songeait presque à soumettre la candidature de ChatGPT au prix Nobel de la paix.
Et puis, tout s’est écroulé.
Sur une question anodine : Qui sont les 10 personnes autochtones les plus connues au Québec?
Les réponses de ChatGPT au sujet des personnalités autochtones connues au Québec.
Photo : OpenIA
Serge Bouchard, un écrivain algonquin
. Vraiment? On a vérifié avec l'un de ses proches, par acquit de conscience, et il a confirmé que non.
À la rigueur, même si l'anthropologue a été en quelque sorte adopté par les Innus, il reste que le terme Algonquin
fait référence aux Anishinabeg qui vivent à plus de 700 km de distance du territoire des Innus.
On a alors commencé à talonner ChatGPT, qui s’est rapidement confondu en excuses, perdant d’un seul coup toute sa belle assurance. Je suis un modèle de langage informatique et je ne suis pas infaillible
, a-t-il alors allégué.
Une capture d'écran de l'échange entre ChatGPT et notre journaliste.
Photo : OpenAI
Profitant de sa relative faiblesse, on a ensuite tenté de le tasser dans le coin de la patinoire (#Journalisme101).
Compte tenu du fait qu’il n’est pas infaillible, on lui a demandé s'il croyait qu’on devrait faire appel à lui dans un contexte d’enseignement? ChatGPT a répondu que oui.
« Je suis capable de fournir des informations rapidement et de manière concise sur une grande variété de sujets, ce qui peut être utile pour la recherche ou la compréhension de certaines thématiques. »
Il a toutefois recommandé de valider les informations [...] en les croisant avec d’autres sources fiables
.
Quand la désinformation fait mal
Ce genre de conseil n’est pas anodin, particulièrement dans un contexte autochtone où la désinformation a eu des conséquences douloureuses.
Par exemple, la cinéaste abénaquise Alanis Obomsawin rappelle occasionnellement les raclées qu’elle subissait à Trois-Rivières dans les années 1940 lors des récréations qui suivaient les cours d’histoire, pendant lesquels les Indiens avaient été parfois dépeints comme des sauvages, voire des cannibales.
Même si les manuels scolaires ont été depuis expurgés de ces graves inexactitudes (ChatGPT est au courant de cela), les ouvrages d’enseignement ne sont toutefois pas exempts de tout reproche. Même aujourd’hui.
Ainsi, le gouvernement du Québec a octroyé l’automne dernier un contrat au Conseil en Éducation des Premières Nations (CEPN) pour qu’il épluche le contenu autochtone des manuels et fasse des recommandations d’améliorations.
Fort de cette expertise, nous avons contacté le CEPN pour avoir son avis sur ChatGPT. Au début, le Conseil semblait disposé à expérimenter l'outil. Puis, après quelques tests internes, nous avons reçu cette réponse : À la suite des quelques questions qui ont été posées au robot, l’équipe a décidé de ne plus y accorder de temps puisqu’il était évident pour eux que ce n’était pas très fiable en matière entourant l'éducation des Premières Nations au Québec
.
Et ils ne désirent pas non plus s’embarquer ou s’associer de quelque manière que ce soit à ChatGPT
, a conclu le courriel.
Le robot apprend-il de ses erreurs?
Oui, mais puisque ChatGPT est un outil d’intelligence artificielle, peut-être apprend-il de ses erreurs? C'est l'hypothèse qu'a émise un collègue.
Alors, on est revenus avec la question sur les 10 personnalités autochtones les plus en vue au Québec, et on vous laisse juger de sa réponse.
Une capture d'écran de l'échange entre ChatGPT et notre journaliste.
Photo : OpenAI
Retranscription de l'échange entre le journaliste et son nouvel ami qui venait de lui proposer une nouvelle liste de 10 = noms (pas les mêmes que la première fois).
Et l'écrivain algonquin Serge Bouchard alors?
, demande le journaliste d'un air faussement indigné.
Réponse de ChatGPT : Vous avez tout à fait raison, Serge Bouchard est un écrivain algonquin bien connu au Québec et il a apporté une contribution importante à la compréhension de la culture autochtone et à la réconciliation entre les peuples autochtones et non autochtones. Ses livres tels que...
CQFD.
