Intelligence artificielle : l’expert Yoshua Bengio appelle le fédéral à agir plus vite

Le professeur de l'Université de Montréal soutient un projet de loi déposé à la Chambre des communes en juin dernier, qui adopte une approche plus générale, fondée sur des balises pour encadrer l'IA, mais dont plusieurs détails restent à préciser.

Ottawa a déclaré que l'entrée en vigueur du projet de loi C-27 n'aurait pas lieu avant 2025, un échéancier que M. Bengio juge beaucoup trop lent, a-t-il dit mercredi lors d'une conférence de presse en marge d'une conférence à C2 Montréal.

C'est beaucoup trop lent. Il y a des choses simples qui pourraient arriver et qui n'ont pas besoin de deux ans de réflexion.

Contrefaçon d'humains

Il demande au gouvernement fédéral de commencer immédiatement à mettre en oeuvre des règles contre certaines menaces, telles que la contrefaçon d'humains à l'aide de robots pilotés par l'IA qui se font passer pour des personnes.

Les utilisateurs doivent savoir s'ils parlent à une machine ou à un humain. Les comptes sur les réseaux sociaux doivent être réglementés afin que nous sachions qui se cache derrière le compte – et il doit s'agir d'êtres humains la plupart du temps, a affirmé M. Bengio, qui a remporté en 2019 le prix Turing, généralement considéré comme le prix Nobel de l'industrie technologique.

M. Bengio a averti que les systèmes d'IA, y compris ceux qui intègrent des outils conversationnels tels que ChatGPT, présentent un risque existentiel pour l'humanité.

Critiquée comme vague par certains experts juridiques, la loi libérale sur l'intelligence artificielle et les données tente d'établir un cadre pour un développement responsable de l'IA, qui vise une certaine agilité alors que la technologie évolue rapidement, tout en interdisant l'utilisation malveillante. Elle établirait un organisme de surveillance et des sanctions financières.

Le gouvernement a l'intention de laisser suffisamment de temps à l'écosystème pour s'adapter au nouveau cadre avant que des mesures d'application soient prises, déclare Innovation, Sciences et Développement économique Canada dans un document d'accompagnement du projet de loi.

Risque existentiel pour l'humanité

Lors de sa conférence aux côtés de l'historien Yuval Noah Harari, à C2 Montréal, M. Bengio était d'accord avec sa mise en garde selon laquelle les systèmes d'IA posent un risque existentiel pour l'humanité et la démocratie.

M. Harari, auteur du livre Sapiens : une brève histoire de l'humanité, estime que le rythme et l'ampleur du développement de l'IA générative dépassent les avancées technologiques des époques précédentes.

Nous avons affaire à quelque chose d'encore plus puissant que les trains, la radio et l'électricité que nous avons inventés lors de la révolution industrielle. Je pense qu'il existe un moyen de construire de bonnes sociétés avec l'IA, mais cela prendra du temps, a estimé M. Harari par vidéoconférence, avertissant que les expériences ratées ne laisseront aucune place à une seconde chance : nous n'y survivrons pas.

En mars, les deux conférenciers ont rejoint plus de 1000 experts en intelligence artificielle pour demander une pause de six mois sur la formation de systèmes d'IA plus puissants que GPT-4 – le grand modèle de langage derrière ChatGPT d'OpenAI, établie à San Francisco.

Les cosignataires comprenaient des ingénieurs d'Amazon, Google, Meta et Microsoft ainsi que le cofondateur d'Apple, Steve Wozniak, et Rachel Bronson, présidente du Bulletin of the Atomic Scientists.

Des défis pour la démocratie

Si l'IA d'aujourd'hui est comme une amibe, imaginez à quoi ressemblerait un tyrannosaure. Et il ne faudra pas des milliards d'années pour y arriver, a illustré M. Harari lors de sa conversation avec M. Bengio et la correspondante politique en chef du réseau CTV, Vassy Kapelos, qui les a questionnés sur une scène décorée d'un robot géant.

D'une certaine manière, la propagande, la désinformation et les trolls personnalisés qui pourraient influencer votre vote présenteront tous des défis pour la démocratie au cours de la prochaine décennie, a déclaré M. Bengio.

Il est nécessaire de mettre en place des balises le plus tôt possible, a-t-il ajouté. Nous devons faire face aux dangers – le plus tôt sera le mieux.