Communiqué du groupe European Digital Rights (EDRi) dont la LDH est membre
150 organisations de la société civile demandent au Parlement européen, à la Commission européenne et au Conseil de l’UE de donner la priorité aux personnes et à leurs droits fondamentaux dans la loi sur l’intelligence artificielle (IA), au moment où les institutions de l’UE entament les négociations du “trilogue”. Ces réunions décisives détermineront la législation finale et la place qu’elle accordera aux droits de l’Homme et aux préoccupations des personnes susceptibles d’être affectées par des systèmes d’IA “risqués”.
Les systèmes d’IA ont déjà un impact considérable sur nos vies. Ils sont de plus en plus utilisés pour nous surveiller et nous identifier dans les espaces publics, prédire notre probabilité de criminalité, réorienter les contrôles de police et d’immigration vers des zones déjà surveillées, faciliter les violations du droit de demander l’asile, prédire nos émotions et nous catégoriser. Ils sont également utilisés pour prendre des décisions cruciales à notre sujet, par exemple en ce qui concerne l’accès aux programmes d’aide sociale.
En l’absence d’une réglementation appropriée, elles exacerberont les préjudices sociétaux existants liés à la surveillance de masse, à la discrimination structurelle et au pouvoir centralisé des grandes entreprises technologiques.
La loi sur l’IA est une occasion cruciale de réglementer cette technologie et de donner la priorité aux droits des personnes plutôt qu’aux profits. Grâce à cette législation, l’UE doit veiller à ce que le développement et l’utilisation de l’IA soient responsables et publiquement transparents, et à ce que les personnes aient les moyens de dénoncer les préjudices subis :
– Donner aux personnes concernées les moyens d’agir en mettant en place un cadre de responsabilité, de transparence, d’accessibilité et de réparation.
Il s’agit notamment d’exiger une évaluation de l’impact sur les droits fondamentaux avant de déployer des systèmes d’IA à haut risque, l’enregistrement des systèmes à haut risque dans une base de données publique, des exigences d’accessibilité horizontales et intégrées pour tous les systèmes d’IA, le droit de porter plainte lorsque les droits des personnes sont violés par un système d’IA, ainsi que le droit à la représentation et le droit à des recours efficaces.
– Limiter la surveillance préjudiciable et discriminatoire exercée par les services de sécurité nationale, les services répressifs et les autorités chargées des migrations
Lorsque les systèmes d’IA sont utilisés à des fins de maintien de l’ordre, de sécurité et de contrôle des migrations, le risque de préjudice et de violation des droits fondamentaux est encore plus grand, en particulier pour les communautés déjà marginalisées. Des lignes rouges claires doivent être fixées pour ce type d’utilisation afin de prévenir les préjudices. Il faut notamment interdire tous les types d’identification biométrique à distance, les systèmes de police prédictive, les évaluations des risques individuels et les systèmes d’analyse prédictive dans les contextes migratoires.
– Lutter contre le lobbying des grandes entreprises technologiques et supprimer les lacunes qui nuisent à la réglementation.
Pour que la loi sur l’IA soit effectivement appliquée, les négociateurs doivent s’opposer aux efforts de lobbying déployés par les grandes entreprises technologiques pour affaiblir la réglementation. Cela est particulièrement important en ce qui concerne la classification des risques des systèmes d’IA. Cette classification doit être objective et ne doit pas laisser aux développeurs d’IA la possibilité de déterminer eux-mêmes si leurs systèmes sont suffisamment “importants” pour être classés comme étant à haut risque et nécessiter une protection juridique. Les entreprises technologiques, motivées par la recherche du profit, voudront toujours sous-classer les systèmes d’IA.
Paris, le 17 juillet 2023
