Le CEPD présente ses recommandations sur le projet de règlement relatif à l’IA
Le contrôleur européen de la protection des données CEPD a publié son avis d'initiative sur la proposition de règlement sur l'intelligence artificielle (loi sur l'IA), alors que ce texte entre dans la phase finale des négociations entre les colégislateurs de l'UE.
Pour rappel, la loi sur l’IA vise à réglementer le développement et l’utilisation des systèmes d’intelligence artificielle dans l’UE, y compris dans les institutions, organes et organismes de l’UE. Par le présent avis, le CEPD formule des suggestions spécifiques axées sur les tâches futures du CEPD en tant qu'autorité chargée de superviser les systèmes d'IA dans les IUE.
Dans ce contexte, le CEPD demande que son rôle, ses tâches et ses pouvoirs soient clarifiés dans le cadre de la loi sur l'IA, en tenant compte des particularités du cadre juridique applicable aux IDE. Le CEPD réaffirme également la nécessité de disposer de ressources financières et humaines appropriées pour remplir son rôle de contrôleur de l’IA.
Selon le CEPD, il est primordial que l'utilisation de systèmes d'IA qui présentent des risques inacceptables pour les individus et leurs droits fondamentaux soit interdite. Cela inclut l’interdiction d’utiliser des systèmes d’IA pour la reconnaissance automatisée de caractéristiques humaines et d’autres signaux comportementaux dans les espaces publics, ainsi que la catégorisation des individus en fonction de leurs caractéristiques biométriques, par exemple. L’utilisation de systèmes d’IA et de systèmes d’IA à haut risque dans ces contextes devrait être interdite en raison de leur haut niveau d’intrusion dans la vie des individus et de leur impact sur la dignité humaine.
Le CEPD considère que les personnes concernées par l’utilisation de systèmes d’IA devraient avoir le droit de déposer une plainte auprès d’une autorité compétente, dans le cas où les fournisseurs et les utilisateurs de systèmes d’IA enfreignent la loi sur l’IA. À cette fin, la loi sur l’IA devrait inclure explicitement la compétence du CEPD pour recevoir des plaintes. De manière plus générale, le CEPD recommande que les autorités chargées de la protection des données soient désignées comme autorités de contrôle nationales au titre de la loi sur l'IA, afin de coopérer avec les autorités possédant une expertise spécifique dans le déploiement de systèmes d'IA, afin de garantir la fiabilité.
Persuadé qu'une approche européenne pour faire appliquer la loi sur l'IA est essentielle, en particulier dans les cas transfrontaliers, le CEPD salue la création de l'Office européen de l'intelligence artificielle (Office européen de l'intelligence artificielle). Le CEPD soutient les objectifs du Bureau de l’IA visant à centraliser l’application de la loi sur l’IA dans certains cas et à harmoniser son application dans tous les États membres de l’UE. Le CEPD est également prêt à mener des enquêtes conjointes sur un pied d'égalité avec les autorités de contrôle nationales, ainsi qu'à participer aux autres activités de l'Office AI.
En conséquence, le CEPD demande au colégislateur d'attribuer les droits de vote au CEPD en tant que membre à part entière du conseil d'administration de l'Office AI. S'appuyant sur son expérience en tant que fournisseur du secrétariat de l'EDPB, qui a conduit à des économies et à des synergies substantielles, le CEPD demande à assumer également ce rôle pour le bureau AI.