Hors collection - Droit de l'intelligence artificielle - 1re - 99

CHAPITRE 3 - QUESTIONS SECTORIELLES
99
Selon Marius Bertolucci, dans son article précité, les administrations « sont au cœur d'une tension
avec d'une part, la volonté de protéger les citoyens des algorithmes et d'autre part, la tentation
d'innover avec les algorithmes pour améliorer les performances organisationnelles, ce qui revient à
augmenter le poids et la dépendance vis-à-vis des algorithmes dans le fonctionnement des organisations
(...). »
Pour que l'IA soit utilisée de manière optimale, sans nuire à la qualité des services ni à la confiance des
administrés dans leurs institutions, cette utilisation doit être encadrée et contrôlée. L'utilisation de
l'intelligence artificielle par l'administration est connue de 46% des Français et les trois quarts
d'entre eux se disent préoccupés par cet usage. Les principaux risques qu'ils pointent sont les erreurs
et la perte de contact humain25
.
La crise de confiance des organisations publiques pourrait être influencée par l'IA qui peut soit
améliorer, soit diminuer la confiance des citoyens26
. Un exemple est le scandale de l'attribution des
allocations familiales aux Pays-Bas à partir de 2013, généré par le fait que des familles ont été faussement
accusées de fraudes, entraînant des dettes et des séparations familiales. En 2021, cela a conduit à
la démission du gouvernement.
Le Conseil d'État, dans son étude précitée27
documentés, sept principes structurants de l'IA publique de confiance :
- la primauté humaine ;
- la performance ;
- l'équité et la non-discrimination ;
- la transparence ;
- la sûreté et cybersécurité ;
- la soutenabilité environnementale ;
- l'autonomie stratégique.
Il existe déjà des règles de droit faisant écho à ces principes fondamentaux et le droit européen, avec
l'AI Act, vient renforcer ce corpus juridique visant à garantir les droits et libertés fondamentaux. Les
règles de droit « classiques » touchent essentiellement aux traitements de données personnelles, à la
transparence des traitements algorithmiques et à de grands principes communs aux systèmes d'information
publics. Ces règles sont complétées par l'ensemble des normes supérieures qui font obstacle à
ce que les conditions de fonctionnement et les résultats produits par un SIA n'aboutissent pas à une
méconnaissance des droits fondamentaux.
De plus, des normes spécifiquement applicables aux relations entre l'administration et le public viennent
étayer ce corpus. Ces normes sont :
- le droit à la communication des documents administratifs ;
- la publication des règles des principaux traitements algorithmiques ;
- l'obligation de motivation de décision prise sur le fondement d'un traitement algorithmique ;
- les contrats de commandes publiques ;
- les chartes et règles internes.
25. Les agents publics face à la vague de l'IA, Acteurs publics, édition spéciale numérique, juin 2024.
26. Sun T.-Q., Medaglia, R., « Mapping the challenges of Artificial Intelligence in the public sector: Evidence from public
healthcare », Government Information Quarterly, 36(2), 2019, pp. 368-383.
27. « Intelligence artificielle et action publique : construire la confiance, servir la performance », Étude, Conseil d'État,
31 mars 2022.
, propose de sélectionner, au regard des risques connus et

Hors collection - Droit de l'intelligence artificielle - 1re

Table des matières de la publication Hors collection - Droit de l'intelligence artificielle - 1re