L'intelligence artificielle (IA) est source de craintes, oui. La science-fiction en a fait recette avec de nombreux films où ces intelligences prennent le dessus et finissent par dominer l'être humain. Mais pour le fondateur et directeur scientifique de l'Institut québécois de l'intelligence artificielle (MILA), Yoshua Bengio, ces craintes ne sont peut-être pas celles qu'on devrait avoir.
Car avant que l’IA ne soit assez intelligente pour nous vaincre, il semble qu’il y ait encore énormément de progrès à faire. Même si la technologie a connu de grandes avancées, Yoshua Bengio se veut rassurant : « les machines sont encore très bêtes ».
Alors de quelles craintes parle-t-on ici? Yoshua Bengio se méfie avant tout des intentions humaines malveillantes avec cette technologie. Il faut s’assurer que lorsque l’IA sera plus intelligente que les êtres humains, qu’elle s’aligne sur nos besoins, et pas l’inverse, selon lui.
« On bâtit des outils de plus en plus puissants, mais ce sont les humains qui décident de leur utilisation, [...] et parfois, le désir de puissance, de richesse ou de statut social fait qu'on va possiblement nuire au reste de la société. »
Des dérapages possibles
Les dérapages potentiels avec cette technologie sont divers, souligne le scientifique. Son utilisation militaire en est un bon exemple. Yoshua Bengio ne peut en apporter la preuve, mais en Syrie, cette technologie aurait permis à des drones armés de cibler des personnes avec la reconnaissance faciale.
D’autres effets néfastes possibles comprennent les biais cognitifs développés par l’IA au contact des êtres humains.