•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Il faut rendre la possession de robots tueurs immorale, estime Yoshua Bengio

Une photo de Yoshua Bengio regardant directement dans la caméra. Il porte un tricot beige.
Yoshua Bengio, directeur de l’Institut des algorithmes d’apprentissage (MILA) de l'Université de Montréal. Photo: Radio-Canada
Radio-Canada

Une des figures de proue de la révolution en intelligence artificielle (IA), le chercheur montréalais Yoshua Bengio, s'inquiète de l'utilisation militaire des algorithmes et appelle à plus d'inclusion dans le domaine de la recherche.

Dans une entrevue (Nouvelle fenêtre) accordée au magazine MIT Technology Review, M. Bengio s’est fermement opposé à l’utilisation de l’IA par les militaires, et plus précisément à la création de robots capables de prendre la décision de tuer.

« Je pense qu’il faut rendre la possession de robots tueurs immorale, a-t-il affirmé au magazine américain. Il faut changer la culture, et cela comprend de changer des lois et des traités. »

Yoshua Bengio admet toutefois qu’il ne croit pas qu’il sera possible de complètement empêcher le développement d’armes autonomes, en partie parce que certains pays pourraient être tentés de contourner d’éventuelles lois internationales.

« Je réponds que, premièrement, nous voulons qu’ils se sentent coupables de le faire, et que, deuxièmement, rien ne nous empêche de mettre au point de la technologie défensive, explique M. Bengio. Il y a une grosse différence entre les armes défensives qui peuvent détruire des drones et des armes offensives qui ciblent des humains. Les deux peuvent utiliser l’IA. »

Je ne fais pas entièrement confiance aux organisations militaires, parce qu’elles ont tendance à préférer le devoir à la moralité. J'aimerais que ce soit différent.

Yoshua Bengio, titulaire de la Chaire de recherche du Canada en algorithmes d'apprentissage statistique et pionnier de l’apprentissage profond

Des centaines de chercheurs, dont de nombreux Canadiens, y compris Yoshua Bengio, ont d’ailleurs signé un manifeste en juillet dernier dans lequel ils s’engagent à ne pas participer à la création d'armes létales autonomes.

Quelques mois plus tôt, des milliers d’employés de Google avaient dénoncé publiquement un contrat entre leur employeur et les militaires américains pour la conception de systèmes d’intelligence artificielle capables d’analyser des vidéos captées par des drones.

Déséquilibre entre les pays

Cet éminent expert voit d’ailleurs d’un mauvais œil la compétition entre les pays pour la conception d’algorithmes de plus en plus puissants. Selon lui, il serait préférable que les États et les chercheurs collaborent davantage au lieu de compétitionner.

« Nous devrions faciliter la venue des personnes provenant des pays en développement, croit Yoshua Bengio. En Europe, aux États-Unis ou au Canada, c’est très difficile pour un chercheur africain d’obtenir un visa. C’est complètement injuste. C’est déjà difficile pour eux de faire de la recherche avec peu de ressources, mais si en plus ils ne peuvent pas avoir accès à la communauté [des chercheurs], je pense que c’est vraiment injuste. »

M. Bengio souligne d'ailleurs que le congrès ICLR, qui réunit chaque année des chercheurs du monde entier, se tiendra en Afrique en 2020, précisément pour contribuer à rétablir cet équilibre.

Avec les informations de MIT Technology Review

Intelligence artificielle

Techno