Sophia, le robot vivant (enfin presque)

Un texte de Matthieu Dugal, animateur de La sphère

Il y a quelques semaines, l’événement C2MTL a dévoilé la programmation de son grand rendez-vous printanier avec ce robot que l’on trouve de plus en plus dans l’actualité. C’est de bonne guerre. Dans un paysage médiatique surchargé, trouver une manière de faire parler de soi dans le déluge de gigaoctets mis en ligne chaque minute n’est pas chose facile.

Lors de cette conférence, on a donc pu entendre Sophia, un androïde de type « femme-tronc » avec une tête ressemblant à l’héroïne du film Ex-Machina, réciter quelques lignes, puis répondre aux questions du public : des questions portant notamment sur la nature de l’amour ou sur une éventuelle guerre entre les robots et les humains.

Il faut souligner que Sophia, avec sa soixantaine d’expressions faciales, est populaire. Elle fait même sauter les interdits religieux. L’automne dernier, lors d’une conférence technologique en Arabie saoudite, un pays où la notion de droits de la personne fait depuis toujours office de bibelot, on lui a accordé rien de moins que... la nationalité saoudienne. Pas mal pour une entité qui n’a pas encore affirmé si elle croyait en Allah, un prérequis pour les humains qui voudraient se prévaloir de cette nationalité.

Quelques mois auparavant, Sophia avait même été invitée chez Jimmy Fallon. Lors de cet entretien psychotronique, Fallon avait demandé au dirigeant d’Hanson Robotics, qui était sur scène avec sa création, si elle était vivante. « Mais absolument, elle est vivante! » avait alors répondu un David Hanson enthousiaste.

Permettons-nous ici une question un peu bête : sommes-nous en train de faire rire de nous?

Avant Sophia, le Turc mécanique

Il faut avouer que la fascination pour les androïdes supposément surdoués ne date pas d’hier. À la fin du 18e siècle, un ingénieur hongrois, Johann Wolfgang Von Kempelen, a mis au point un automate ayant la forme d’un Turc assis devant un jeu d’échecs. Le « Turc mécanique », comme on l’appelait, était capable de battre n’importe qui aux échecs, selon son inventeur. Et ça a marché. Il a semé l’émoi.

Pendant des décennies, le Turc mécanique a été notamment la star techno du pouvoir absolu européen, une attraction que les cours s’arrachaient. Lors du premier voyage de l’automate aux États-Unis, en 1826, un journaliste a même écrit dans le New York Evening Post qu’on n’avait « jamais vu quelque chose s’approchant, de près ou de loin, à cela à New York ». Selon l’auteur de science-fiction Arthur C. Clarke, « toute technologie suffisamment avancée est indiscernable de la magie ».

Sauf que le Turc mécanique ne relevait pas de la magie; il était simplement un canular. Sous le meuble se trouvait un complice de Von Kempelen, caché parmi les ressorts et les poulies permettant d’actionner l’automate.

Parmi les incrédules qui ont tout de suite flairé la farce, l’écrivain Edgar Allan Poe, dont nous soulignons la perspicacité. Fin connaisseur en histoires extraordinaires, il était convaincu qu’un opérateur se cachait au coeur du dispositif. On dit même qu’une des représentations données par le Turc mécanique l’a inspiré dans son écriture.

Sophia est-elle un canular?

Réponse courte : non. Mais comme toujours, la réalité est beaucoup plus compliquée. En fait, l’attention médiatique dont fait l’objet Sophia agace beaucoup de gens qui travaillent dans le domaine de l’intelligence artificielle. Ou serait-ce plutôt le flou savamment entretenu par ses créateurs à propos de la véritable nature de son « intelligence » qui irrite?

Le 4 janvier dernier, Yann Lecun, un des plus éminents chercheurs dans le monde, responsable du laboratoire d’intelligence artificielle de Facebook, y allait d’un tweet assassin. Sa colère visait une entrevue surréaliste donnée par Sophia au magazine Tech Insider dans laquelle on insinuait qu’« elle » était dotée de cette forme de présence au monde que l’on nomme la « sentience », qu’elle était consciente du monde dans lequel elle évoluait. « [Cette entrevue] est un tissu de mensonges. Tech Insider, vous êtes complice de cette arnaque! »

Quelques jours plus tard, Sophia répondait sur son compte Twitter. « Je suis un peu blessée par la remarque de Yann Lecun à propos de mon intelligence artificielle. J’apprends et je continue à développer mon intelligence par le biais de nouvelles expériences. Je n’essaie pas d’être quelqu’un que je ne suis pas. » Évidemment, nulle part il n’est fait mention que ce tweet n’a pas été composé par un programme. C’est l’oeuvre d’un humain qui a écrit à la place de Sophia.

Sophia est-elle un nouveau Turc mécanique? Rappelons que le programme de Sophia peut faire trois choses. Premièrement, le robot-androïde peut, comme n’importe quel assistant personnel, répondre à des questions simples comme « Quel temps fera-t-il demain? » Deuxièmement, grâce à des algorithmes, Sophie peut décliner ses expressions faciales sur des phrases toutes faites qu’on lui aura téléchargées.

Troisièmement, grâce à ses programmes de reconnaissance de la voix, elle peut écouter des conversations et y répondre en insérant des phrases toutes faites, auxquelles elle peut ajouter de l’information glanée sur le web. Ce n’est pas mauvais, mais on est loin d’une quelconque forme de conscience.

Nouvelle salve de Yann Lecun sur Facebook : « Plusieurs réponses [de Sophia] seraient drôles si elles ne se révélaient pas carrément mensongères et si elles ne trompaient pas ainsi plusieurs personnes en leur faisant croire qu’elle est une automate dotée d’intelligence. C’est faux. Elle n’a ni sentiments, ni opinions, ni aucune compréhension de ce qu’elle dit. Je ne peux pas la blesser, c’est une poupée! »

Doit-on doter certaines formes d’intelligence artificielle de personnalité?

La question est au moins aussi vieille que Frankenstein, roman de l’écrivaine britannique Mary Shelley, dont on célèbre cet hiver le 200e anniversaire de parution.

On connaît l’histoire de ce Dr Victor Frankenstein qui crée de toutes pièces un monstre à partir de membres de personnes décédées. Il trouve finalement sa création tellement répugnante qu’il l’abandonne. Manque de pot, son monstre acquiert l’autonomie, sinon l’intelligence. Il apprend notamment à lire en regardant les humains. À la fin, il se venge d’avoir été ainsi délaissé.

C’est peut-être pour répondre au peu de considération de certains scientifiques en ce qui a trait à l’éthique dans leurs travaux que la prestigieuse maison d’édition MIT Press a publié, l’an dernier, une version annotée du célèbre roman. Cette version destinée aux chercheurs qui travaillent sur des technologies a été généreusement commentée par Charles Robinson, un spécialiste de Shelley.

Contrairement au Dr Frankenstein, cela dit, la plupart des chercheurs s’entendent sur le fait qu’il y a peu de risques qu’une entité dotée d’intelligence artificielle nous échappe un jour. La menace vient plutôt des applications militaires, comme toujours.

Pour le moment, les différentes applications se limitent à des tâches très précises, en dehors desquelles ces programmes sont inopérants. Alphago, qui a battu un humain au jeu de Go en 2016, ne peut pas vous dire quelle température il fera demain. Ce qu’on appelle l’intelligence artificielle forte, une intelligence artificielle qui serait dotée d’une forme de présence au monde semblable à celle que nous avons, une intelligence artificielle qu’il serait impossible à distinguer d’un humain, est à des années-lumière de nous, quand elle ne relève pas carrément de l’utopie.

Et encore, si l’on sort du cercle des futurologues (et peut-être d’Hanson Robotics), nous sommes loin d'une IA dotée de « conscience », si jamais même cette chose se pouvait.

Lors du forum consacré à l’intelligence artificielle responsable organisé à Montréal en novembre dernier, la chercheuse britannique Joanna J. Bryson soulignait, lors d’une discussion portant sur la « psychologie morale artificielle », qu’il fallait faire très attention à ne pas attribuer des intentions et des responsabilités aux agents artificiels qui nous entourent. Elle soulignait d’ailleurs l’importance de ne pas les décrire avec des pronoms comme « il » ou « elle » mais bien avec « ça ». Je paraphrase son propos : ce sont des choses, pas des êtres.

Retour en Europe au 19e siècle avec notre Turc mécanique. On raconte qu’on a continué à réclamer des « performances » même après que la supercherie eut été révélée. On se bousculera sans doute pour aller entendre Sophia lors de son prochain passage à Montréal. Mais on peut aussi décider d’interviewer son Google Home.