Communiqué LDH
English version below
Ce 24 octobre, la discussion sur le contenu de l’artificial intelligence act (AI Act) entre dans ce qu’il est convenu d’appeler un « trilogue », lorsque Commission, Parlement et Conseil cherchent un consensus entre les trois piliers des institutions européennes pour aboutir à l’adoption d’un texte.
Ce texte doit « dire le droit » en matière de ce qui est permis ou pas au sein de l’Union européenne en terme de développement des applications recourant à l’intelligence artificielle. Comme pour l’encadrement de toute industrie porteuse de danger pour les personnes, cette loi devait principalement assurer la pleine protection des citoyennes et citoyens contre les dangers spécifiques à cette nouvelle industrie.
Alors que les choses semblaient acquises pour une interdiction totale d’applications utilisant des systèmes d’intelligence artificielle dites « à risques inacceptables » et que des procédures contraignantes devaient fortement encadrer le développement d’applications « à hauts risques », la France s’est portée à l’avant-garde de propositions créant des échappatoires dans lesquels pourront s’engouffrer des acteurs malintentionnés ou peu scrupuleux, et elle cherche à exclure d’un encadrement légal et réglementaire les applications couvrant des activités régaliennes, en particulier pour l’action des services relevant des ministères de l’Intérieur et de la Défense.
Les discussions se déroulant derrière des « portes closes », il est difficile d’obtenir des informations complètes et recoupées sur les objectifs précis présentés par la France et les argumentaires mis en avant dans les discussions. Mais ce que l’on sait, c’est que ses amendements, s’ils étaient retenus, auraient des conséquences délétères sur les libertés fondamentales, la démocratie et l’Etat de droit dans toute l’Europe.
L’intervention du président de la République au salon VivaTech, le 14 juin dernier, consacrée à l’approche des autorités françaises pour le développement de l’intelligence artificielle, ne manque pas d’inquiéter. En particulier, et de façon très claire, Emmanuel Macron dénie la pertinence de l’espace européen pour définir les législations qui doivent s’imposer au secteur, y compris pour ce qui relève du respect des droits humains avec la mise en œuvre d’applications incluant des techniques d’intelligence artificielle. De plus, il met en avant sa préférence pour une autorégulation par les développeurs d’applications plutôt qu’une responsabilité donnée à des organes de l’administration qui seraient dotés des moyens de contrôle pertinents.
Les discussions pour fixer le contenu de l’AI Act vont entrer dans une phase décisive. Le gouvernement français doit rendre public les orientations qu’il va défendre, les raisons qui le conduisent à affaiblir les garanties fortes pour les personnes incluses dans le texte initial, adopté par le Parlement européen. L’enjeu de cette transparence est essentiel, puisqu’il est en relation directe et immédiate avec les libertés publiques, la dignité des personnes et la démocratie. L’enjeu sur le fond est de mettre en place les meilleures procédures pour que les applications ne nuisent pas aux individus, pour que nul ne soit privé d’un droit du fait d’un traitement inadéquat…
Parce que le résultat des négociations aura un impact sur tous nos droits, la LDH (Ligue des droits de l’Homme) fait part de ses inquiétudes et demande une réponse sans délai du gouvernement ainsi qu’un débat public sur le sujet.
Paris, le 25 octobre 2023
Télécharger le communiqué en pdf.
FRANCE MUST EXPLAIN WHY IT WANTS TO WEAKEN THE SUPERVISION OF THE USE OF ARTIFICIAL INTELLIGENCE
LDH press release (original in French)
On 24 October, the discussion on the content of the Artificial Intelligence Act (AI Act) enters what is known as a “trialogue”, when the Commission, Parliament and Council seek a consensus between the three pillars of the European institutions in order to adopt a text.
This text must “lay down the law” on what is and what is not permitted within the European Union in terms of the development of applications using artificial intelligence. As with the regulations and supervisions applying to any industry that poses a danger to people, the main aim of this law is to ensure that citizens are fully protected against the dangers specific to this new industry.
While it seemed certain that there would be a total ban on applications using artificial intelligence systems said to pose “unacceptable risks”, and that restrictive procedures would provide a strong protective framework for the development of “high-risk” applications, France is in the vanguard of proposals that create loopholes for malicious or unscrupulous actors to exploit, and is seeking to exclude applications covering sovereign activities from legal and regulatory oversight, in particular for the work of the services provided by the Ministries of the Interior and Defence.
As the discussions are taking place behind “closed doors”, it is difficult to obtain complete and cross-checked information on the precise objectives presented by France and the arguments put forward in the discussions. But what we do know is that its amendments, if adopted, would have deleterious consequences for fundamental freedoms, democracy and the rule of law throughout Europe.
The French President’s speech at the VivaTech trade fair on 14 June 2023, in which he outlined the French authorities’ approach to the development of artificial intelligence, gives cause for concern. In particular, and very clearly expressed, Emmanuel Macron denies the relevance of the European Union space in defining legislation that should apply to the sector, including with regard to respect for human rights when implementing applications that include artificial intelligence techniques. In addition, he emphasises his preference for self-regulation by application developers rather than giving responsibility to public bodies with the appropriate means of control.
Discussions on the content of the AI Act are about to enter a decisive phase. The French government must make public the policies it will be defending and the reasons why it is seeking to weaken the strong guarantees for people included in the initial text adopted by the European Parliament. This transparency is essential, as it is directly and immediately linked to public freedoms, human dignity and democracy. The fundamental issue is to put in place the best processes to ensure that AI applications do not harm individuals, and that no one is deprived of a right because of inadequate treatment…
Because the outcome of the negotiations will have an impact on all our rights, the LDH (French Ligue des droits de l’Homme) expresses its concerns and calls for an immediate response from the government and a public debate on the subject.
Paris, 25 October 2023
