Revue - Droit et société n°118-2024 - 73

Pression anomique de la numérisation
d'un nouveau type génère des bouleversements multiples et des défis nouveaux »
et que face à cela, le premier devoir de la puissance publique est de cartographier
« de façon claire et lucide » les enjeux éthiques et juridiques posés par la numérisation
afin de proposer des réponses adaptées. Face à l'affaiblissement normatif
provoqué par les nouvelles technologies, le rapport identifie comme première étape
d'élaboration du droit une réflexion éthique : « Dans ce cadre, l'éthique apparaît
comme une éclaireuse du droit, la norme éthique une préfiguration de la norme
juridique » (p. 24). La norme juridique doit être élaborée en cohérence avec des
normes éthiques à définir, puis à construire, pour pouvoir préserver l'autonomie
de la décision humaine face aux machines35, détecter les discriminations générées
par des systèmes, sauvegarder les logiques collectives parfois érodées par la puissance
de personnalisation du numérique et maintenir la logique de minimisation
de la collecte et de la conservation des données personnelles.
Lors de la concertation citoyenne organisée par la Cnil avec la Ville de Montpellier
le 14 octobre 2017, les citoyens ont perçu la pression anomique en évoquant
comme conséquences préjudiciables à l'autonomie des machines : « une " gestion
des incertitudes " jugée inefficace chez la machine comparativement à ce dont est
capable l'homme ; une incapacité à " gérer les exceptions " ou encore la " perte du
sentiment d'humanité " 36 ».
Pour éviter « de se passer d'une normativité humaine et de préférer une normativité
algorithmique » (p. 30) et se demander « si les algorithmes et l'intelligence
artificielle ne conduisent pas à une forme de dilution de figures d'autorité traditionnelles,
de décideurs, de responsables, voire de l'autorité même de la règle de
droit », la place prise par la machine ne doit pas s'analyser en une délégation de
compétence du pouvoir réglementaire. Ce serait notamment le cas si l'humain ne
maîtrisait pas le fonctionnement de l'algorithme d'une part et/ou si, d'autre part, il
se fondait exclusivement sur le résultat proposé par l'IA, ce qu'Antoinette Rouvroy
et Thomas Berns appellent la « gouvernementalité algorithmique37 ». Pour se prémunir
d'une telle dérive, le Conseil constitutionnel a ainsi rappelé l'interdiction de
fonder une décision administrative individuelle exclusivement sur un algorithme
autoapprenant, puisque son fonctionnement échappe à ses concepteurs. Le Conseil
considère en outre que dans cette même hypothèse, l'utilisation d'algorithmes
« classiques » est possible, dès lors que l'appréciation de l'administration repose
sur des « règles et critères définis à l'avance par le responsable du traitement »,
qui « n'ont ni pour objet ni pour effet d'autoriser l'administration à adopter des
décisions sans base légale, ni à appliquer d'autres règles que celles du droit en
35. Emmanuel Netter, « La part de l'Homme et celle de la machine dans les décisions automatisées.
Propositions pour une réécriture de l'article 22 du RGDP », in Vanessa Barbé (dir.), Vers un droit de
l'algorithme ?, Paris : Mare et Martin, 2022.
36. Propos notamment évoqués à propos de l'absence de recours sur « APB » (logiciel d'Admission
Post-Bac), p. 25.
37. Antoinette Rouvroy et Thomas Berns, « Gouvernementalité algorithmique et perspectives
d'émancipation. Le disparate comme condition d'individuation par la relation ? », Réseaux, 177 (1),
2013, p. 163 -196. DOI : 10.3917/res.177.0163.
Droit et Société 118/2024 ■
509

Revue - Droit et société n°118-2024

Table des matières de la publication Revue - Droit et société n°118-2024