Hors collection - Écosystème numérique : défis juridiques et sociétaux - 13

CHAPITRE 1 - IA, DATA, MÉTAVERS...
13
date du 15 décembre 2017, la CNIL pose ainsi les bases de ces deux principes fondateurs devant
gouverner l'encadrement des algorithmes et de l'intelligence artificielle.
Les préjugés de genre devraient être évités ou du moins minimisés dans le développement des algorithmes,
dans les grands ensembles de données utilisés pour leur apprentissage. Le rapport du Conseil
d'État9
propose de confier à la CNIL le rôle de régulateur des systèmes d'IA, notamment publics, que
le projet de règlement européen envisage de consacrer. Sous-dimensionnée actuellement, elle devra
être profondément transformée pour incarner à la fois l'enjeu de la protection des droits et libertés
fondamentaux, d'une part, et de l'innovation et de la performance publique, d'autre part.
C. Réglementation et sanctions
Dans la mesure où l'intelligence artificielle (IA) utilise des données numériques en les maniant par des
algorithmes, comme nous avons pu le constater ci-dessus, des risques de dérives et de biais ne sont pas
à exclure10
.C'est pourquoi un consensus se dégage afin d'encadrer le recours à l'intelligence artificielle.
Dans ces objectifs, l'Union européenne a annoncé en avril 2021, la mise en place d'un
nouveau cadre juridique spécialement dédié à l'IA, sur le modèle du Règlement général sur la protection
des données (RGPD). Le Conseil de l'Europe, par la voix de son directeur de l'information, Jan
Kleijssen, partage cette analyse en soulignant que la régulation de l'IA est désormais l'un des défis
majeurs pour la société11
.
Le Conseil d'État, dans son rapport récent « S'engager dans l'Intelligence artificielle pour un meilleur
service public » publié en août 202212
, indique qu'il est nécessaire d'anticiper l'entrée en vigueur du
futur règlement européen et de mettre en place un cadre normatif des systèmes d'intelligence artificielle
(SIA) dans la sphère publique. Des lignes directrices doivent être définies ce qui permettrait
d'anticiper le texte européen. Ces lignes permettraient au législateur français de suivre les progrès de
la technologie et d'anticiper les contentieux à venir et d'imaginer les sanctions qui devront être
prises dans le cas du non-respect de la future législation européenne.
Le droit national dispose de plusieurs textes généraux en matière de lutte contre les discriminations
numériques qui sont complétés par des législations spécifiques afin de protéger les citoyens. Il convient
tout d'abord de rappeler que les dispositions du RGPD sont applicables en matière d'intelligence artificielle
et elles garantissent la protection des droits des citoyens. Cependant, en l'état, il n'existe pas
encore de cadre juridique global au plan international pour réglementer l'IA. Les cadres juridiques en
vigueur fournissent des références seulement partielles, qu'il s'agisse de la protection des données
personnelles - avec en particulier, au sein de l'Union européenne, le RGPD ou de la non-discrimination.
Cela demeure toutefois insuffisant dès lors qu'un grand nombre de systèmes d'IA fonctionnent à
partir de données non identifiantes et peuvent avoir des conséquences sur les droits fondamentaux
excédant la protection des données personnelles et la non-discrimination, sans compter les formes de
discriminations susceptibles de viser des groupes non couverts par les critères de discrimination
prohibés par le droit.
9. V. https://www.conseil-etat.fr/actualites/s-engager-dans-l-intelligence-artificielle-pour-un-meilleur-service-public
10. V. Bensoussan A. et Bensoussan J., Algorithmes et droit, 2023, Lexing éditions.
11. V. J. Kleijssen, « Comment encadrer le développement de l'intelligence artificielle ? », in https://www.coe.int/fr/web/artificial-intelligence/directeur-jan-kleijssen
12.
V. https://www.conseil-etat.fr/actualites/s-engager-dans-l-intelligence-artificielle-pour-un-meilleur-service-public

https://www.conseil-etat.fr/actualites/s-engager-dans-l-intelligence-artificielle-pour-un-meilleur-service-public https://www.coe.int/fr/web/arti https://www.conseil-etat.fr/actualites/s-engager-dans-l-intelligence-artificielle-pour-un-meilleur-service-public

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux