•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

L’Union européenne va pour la première fois encadrer l’intelligence artificielle

Un logo de l'intelligence artificielle en lumière bleue sur un fond sombre.

L'Union européenne va proposer un premier ensemble de règles touchant notamment les systèmes d'IA générative.

Photo : Envato / Nora Chabib

Agence France-Presse

Après trois jours de négociations intensives entre les États membres et le Parlement européen, l'Union européenne s'est accordée vendredi sur une législation inédite à l'échelle mondiale pour réglementer l'intelligence artificielle (IA).

Les colégislateurs de l'UE ont trouvé un accord politique sur un texte qui doit favoriser l'innovation en Europe, tout en limitant les possibles dérives de ces technologies très avancées.

Historique! L'UE devient le premier continent à fixer des règles claires pour l'utilisation de l'IA, s'est félicité le commissaire européen Thierry Breton, à l'origine du projet présenté en avril 2021.

Depuis cette date, les discussions ont traîné en longueur. Le dernier tour de négociations, démarré mercredi après-midi, aura lui-même duré près de 35 heures...

Le processus avait été interrompu en fin d'année dernière par l'apparition de ChatGPT, le générateur de textes de la société californienne OpenAI capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes.

Ce système, comme ceux capables de créer des sons ou des images, a révélé au grand public le potentiel immense de l'IA, mais aussi certains risques. La diffusion sur les réseaux sociaux de fausses photographies, plus vraies que nature, a par exemple alerté sur le danger de manipulation de l'opinion.

Ce phénomène des IA génératives a été intégré aux négociations en cours, à la demande des eurodéputés qui insistent sur la mise en place d'un encadrement particulier pour ce type de technologies percutantes. Ils ont réclamé notamment plus de transparence sur les algorithmes et les bases de données géantes au cœur de ces systèmes.

Les États membres craignaient qu'une réglementation excessive tue dans l'œuf leurs champions naissants, comme Aleph Alpha en Allemagne et Mistal AI en France, en rendant prohibitifs les coûts de développement.

Encore du travail à faire

L'accord politique trouvé vendredi soir doit être complété par un travail technique pour finaliser le texte. Nous allons analyser attentivement le compromis trouvé aujourd'hui et nous assurer dans les prochaines semaines que le texte préserve la capacité de l'Europe à développer ses propres technologies d'intelligence artificielle et son autonomie stratégique, a réagi le ministre français du Numérique, Jean-Noël Barrot.

Le secteur de la techno se montre critique. La rapidité semble avoir prévalu sur la qualité, avec des conséquences potentiellement désastreuses pour l'économie européenne, a estimé Daniel Friedlaender, responsable Europe du CCIA, un de ses principaux lobbies. Selon lui, un travail technique est désormais nécessaire sur des détails cruciaux.

Concernant les IA génératives, le compromis prévoit une approche à deux vitesses. Des règles s'imposeront à tous pour s'assurer de la qualité des données utilisées dans la mise au point des algorithmes et pour qu'ils ne violent pas la législation sur les droits d'auteur.

Les développeurs devront par ailleurs s'assurer de bien indiquer que les sons, les images et les textes produits sont artificiels, lorsque c'est le cas.

Des contraintes renforcées s'appliqueront aux seuls systèmes les plus puissants.

Le texte reprend les principes des réglementations européennes existantes en matière de sécurité des produits qui imposent des contrôles reposant d'abord sur les entreprises.

Des règles pour les systèmes plus importants

Le cœur du projet consiste en une liste de règles imposées aux seuls systèmes jugés à haut risque, essentiellement ceux utilisés dans des domaines sensibles comme les infrastructures essentielles, l'éducation, les ressources humaines, le maintien de l'ordre...

Ces systèmes seront soumis à une série d'obligations, comme celles de prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque.

La législation prévoit un encadrement particulier des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine.

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine, ou encore l'identification biométrique à distance des personnes dans les lieux publics pour éviter une surveillance de masse des populations.

Sur ce dernier point, les États ont toutefois obtenu des exemptions pour certaines missions des forces de l'ordre comme la lutte contre le terrorisme.

Contrairement aux codes de conduite volontaires de certains pays, la législation européenne sera dotée de moyens de surveillance et de sanctions avec la création d'un office européen de l'IA, au sein de la Commission européenne. Il pourra infliger des amendes jusqu'à 7 % du chiffre d'affaires, avec un plancher de 35 millions d'euros, pour les infractions les plus graves.

Vous souhaitez signaler une erreur?Écrivez-nous (Nouvelle fenêtre)

Vous voulez signaler un événement dont vous êtes témoin?Écrivez-nous en toute confidentialité (Nouvelle fenêtre)

Vous aimeriez en savoir plus sur le travail de journaliste?Consultez nos normes et pratiques journalistiques (Nouvelle fenêtre)

Infolettre Info nationale

Nouvelles, analyses, reportages : deux fois par jour, recevez l’essentiel de l’actualité.

Formulaire pour s’abonner à l’infolettre Info nationale.