Ces dernières années, l’évolution rapide de l’utilisation de l’intelligence artificielle (“IA”) a été un sujet brûlant et a soulevé de nouvelles questions juridiques en termes de protection des données, de concurrence et de responsabilité. Le 21 avril 2021, à la suite de la publication d’un livre blanc sur l’IA en 2020, la Commission européenne (“la Commission”) a dévoilé un nouveau cadre juridique visant à réglementer l’utilisation de l’IA dans l’Union européenne (“la Proposition de Règlement”).
La Commission présente la Proposition de Règlement avec les objectifs spécifiques suivants : (i) garantir que les systèmes d’IA mis sur le marché soient sûrs et conformes aux droits fondamentaux et aux valeurs de l’Union ; (ii) garantir la sécurité juridique pour faciliter l’investissement et l’innovation dans le domaine de l’IA ; (iii) renforcer la gouvernance et l’application effective de la législation existante sur les droits fondamentaux et les exigences de sécurité applicables aux systèmes d’IA ; et (iv) faciliter le développement d’un marché unique pour des applications d’IA légales, sûres et dignes de confiance et prévenir la fragmentation du marché.
La Proposition de Règlement suit une approche fondée sur le risque, selon laquelle l’utilisation de systèmes d’IA (définis au sens large par référence à trois techniques communes de programmation) est classée en fonction des risques inacceptables, élevés et faibles ou minimes qu’ils présentent pour la sécurité humaine et les droits fondamentaux.
A l’instar du Règlement Général sur la protection des données (« RGPD »), la Proposition de Règlement est destinée à une application extraterritoriale, puisqu’elle s’appliquerait à tous les fournisseurs de systèmes d’IA, définis comme la personne mettant sur le marché ou mettant en service des systèmes d’IA dans l’UE, qu’elle soit ou non établie dans l’UE. La Proposition de Règlement impose également des exigences à certains importateurs, distributeurs et utilisateurs de systèmes d’IA.
Risques inacceptables – La Proposition de Règlement interdit certains systèmes d’IA qui ont un potentiel significatif de manipulation de certaines personnes par des techniques subliminales au-delà de leur conscience ou d’exploitation de leurs vulnérabilités d’une manière susceptible de leur causer un préjudice psychologique ou physique. Les systèmes d’IA destinés à la notation sociale par les autorités publiques et l’utilisation de systèmes d’identification biométrique à distance “en temps réel” dans les espaces accessibles au public à des fins de répression sont également interdits, à moins que certaines exceptions limitées s’appliquent.
Risques élevés – La majeure partie de la Proposition de Règlement se concentre sur les systèmes d’IA à haut risque, qui comprennent, entre autres, les systèmes utilisés comme composants de sécurité dans certains produits tels que la robotique, les jouets et les dispositifs médicaux, ainsi que les systèmes destinés à être utilisés pour l’identification biométrique, le fonctionnement d’infrastructures critiques, l’emploi ou l’évaluation de la solvabilité. Cette liste pourrait encore être étendue par la Commission, habilitée à identifier de nouvelles formes de systèmes d’IA à haut risque au fil du temps.
Les fournisseurs de systèmes d’IA à haut risque devront se conformer à un ensemble strict d’exigences obligatoires horizontales pour une IA digne de confiance et suivre des procédures d’évaluation de la conformité avant de pouvoir être mis sur le marché. Ces systèmes d’IA à haut risque devront également répondre à des exigences en termes de transparence vis-à-vis des utilisateurs, de documentation, de contrôle humain et de tenue de registres.
Les entreprises qui enfreignent les interdictions générales en matière d’IA risquent des amendes considérables, pouvant aller jusqu’à 6 % de leur chiffre d’affaires annuel mondial ou 30 millions d’euros (le montant le plus élevé étant retenu). Les États membres devront également déterminer les sanctions applicables aux autres infractions des dispositions du Règlement.
Chaque État membre désignera un régulateur national et un nouveau Conseil européen de l’intelligence artificielle sera créé au niveau de l’UE.
La proposition va maintenant faire l’objet d’intenses discussions au Conseil européen et au Parlement européen avant d’être adoptée. Cela implique que ce nouvel ensemble d’obligations ne sera probablement pas d’application avant 2024.
