La technologie autoritaire de surveillance ou les droits fondamentaux ? La décision devrait être facile

Lettre ouverte de mai 2022 adressée aux eurodéputés par 53 organisations représentant la société civile

En Europe et dans tout le monde, l’utilisation de systèmes d’identification biométrique (SIB), tels que la reconnaissance faciale dans l’espace public, représente l’une des plus grandes menaces pour les droits fondamentaux et la démocratie que nous avons jamais vue. L’utilisation à distance de ces systèmes détruit l’anonymat en public et mise en danger l’essence de nos droits à la vie privée, la protection des données personnelles, au droit à la liberté d’expression, aux droits à la liberté de réunion et d’association (conduisant à la criminalisation de la proteste et provoquant un effet inhibitoire), et aux droits à l’égalité et à la non-discrimination.

Sans une interdiction claire et simple de l’utilisation de ces nouvelles technologies dans les espaces publics, tous les lieux où nous exerçons nos droits et nous rassemblons en tant que citoye-ne-s seront transformés en sites de surveillance de masse où nous serons tou-te-s traités comme des suspects.

Ces dégâts ne sont pas hypothétiques.

Les musulman-e-s ouïghour-e-s ont été systématiquement persécutés par le gouvernement chinois à travers la reconnaissance faciale. Des manifestant-e-s pro-démocratie et des opposant-e-s politiques ont été réprimé-e-s ou pris pour cible en Russie, en Serbie et à Hong Kong par l’utilisation – et dans certains cas, par la simple crainte de l’utilisation – du SIB dans des espaces publics.

Il existe également déjà des preuves significatives que les résident-e-s français-e et européen-e-s ont été systématiquement soumis à des pratiques de surveillance biométrique de masse. Il s’agit de cas dont les supporteur-e-s de football, d’écoliers, de navetteurs, d’acheteurs ou de personnes fréquentant les bars et les lieux de culte LGBTQ+, sont ciblé-e-s et les préjudices sont bien réels et répandus.

Même certaines des plus importantes entreprises qui fournissent des systèmes de surveillance biométrique, telles que Microsoft, IBM et Amazon, ont adopté des moratoires de leur propre gré, en raison des risques majeurs et des dommages que ces systèmes pourraient causer. Dans la même lignée, Facebook a supprimé sa base de donnée contenant des images de visages.

Le besoin de régulation se fait sentir à travers toute l’Europe, et certains états membres ont déjà pris les devants: l’Italie a été le premier pays a introduire un moratoire sur la reconnaissance faciale dans les lieux publics. La coalition au pouvoir en Allemagne a appelé à un moratoire au niveau européen de la surveillance de masse utilisant des données biométriques et le Portugal a abandonné un projet de loi qui aurait mené à la légalisation de certaines de ces pratiques. Et le parlement belge réfléchit à un moratoire sur la surveillance biométrique.

Le projet de règlement européen sur l’IA est l’outil évident dont le Parlement Européen pourrait se saisir pour créer un cadre législatif cohérent dans la protection des données et libertés individuelles. L’UE est pionnière en matière de réglementation de l’IA, les règles édictées en Europe vont influencer les pratiques et les lois partout dans le monde.

Est-ce que l’Union Européenne va autoriser une technologie de surveillance de masse qui serait dangereuse pour nos libertés ?

Pour protéger les droits fondamentaux, la loi sur l’IA doit interdire toutes les utilisations à distance (c’est-à-dire la surveillance généralisée) de l’identification biométrique (RBI) dans les espaces accessibles au public en :
• Étendant le champ d’application de l’interdiction à tous les acteurs privés ainsi qu’aux acteurs publics ;
• Garantissant que toutes les utilisations de l’identification biométrique (en temps réel ou a posteriori) dans les espaces accessibles au public sont incluses dans l’interdiction ;
• Supprimer les exceptions à l’interdiction, dont les évaluations indépendantes des droits de l’homme confirment qu’elles ne sont pas conformes aux normes européennes existantes en matière de droits fondamentaux.
• Mettre un coup d’arrêt aux formes discriminatoires ou manipulatrices de catégorisation biométrique
• Traiter correctement les risques de la reconnaissance des émotions

L’UE a pour objectif de créer un “écosystème de confiance et d’excellence” pour l’IA et se positionner en leader mondial d’une IA qui serait fiable et éthique. En régulant l’utilisation des données biométriques, nous aurions la possibilité de façonner l’IA pour qu’elle soit au service de la population, et non pas une technologie puissante.

C’est pourquoi nous devons faire en sorte que les amendements des comités IMCO et LIBE sur le règlement IA contiennent une interdiction de la surveillance de masse utilisant des données biométriques.

Lire la lettre ouverte de mai 2022 adressée aux eurodéputés par 53 organisations représentant la société civile.

Le 10 mai 2022

Share This