Hors collection - Droit de l'intelligence artificielle - 1re - 124

124
DROIT DE L'INTELLIGENCE ARTIFICIELLE
L'IA pourrait avoir un grave impact sur la protection des données, tant les données personnelles que
celles protégées par le secret des affaires ou la propriété intellectuelle. Son usage serait également
susceptible de créer un risque de marchés, d'après l'ESMA79
. Selon une approche plus systémique,
l'IA aura un effet sur l'emploi et menacerait, selon une étude du cabinet Roland Berger, certains
postes administratifs et comptables80
.
L'IA peut représenter un risque pour la démocratie. La création des deepfakes (génération d'images et
contenus trompeurs par l'IA générative) et la manipulation des opinions sur les réseaux sociaux
contribuent à polariser l'espace public et peuvent avoir des conséquences politiques majeures.
D'autres risques sont liés à l'émergence possible d'un petit nombre d'acteurs économiques incontournables
pour l'usage de ces techniques dans le secteur financier et aux rapports de force qu'un tel
phénomène induirait, comme une distorsion de la concurrence et une atteinte à la souveraineté
nationale.
C. Les réflexions des régulateurs financiers et de l'assurance
Les régulateurs du secteur financier se sont penchés sur l'usage de l'IA et les risques associés.
L'ACPR (Autorité de Contrôle Prudentiel et de Résolution) a mené des travaux sur l'IA depuis 2018
et publié un premier document de réflexion sur les enjeux pour le secteur financier81
. Le Document
indique notamment la nécessité de progresser sur les techniques de preuves de la fiabilité et de l'explicabilité
des algorithmes utilisés.
Cette publication montre la volonté des autorités de contrôle de rester attentives à l'impact à terme
des développements de l'intelligence artificielle sur la structure du marché, afin d'anticiper les changements
nécessaires dans l'exercice de leurs missions.
En mars 2019, l'ACPR lance d'autres travaux exploratoires afin d'éclairer les enjeux d'explicabilité et
de gouvernance de l'IA, au sens essentiellement de Machine Learning. Son document de réflexion est
publié en juin 2020 : « Gouvernance des algorithmes d'intelligence artificielle dans le secteur
financier »82
. Pour une intégration prudente de l'IA dans les processus métiers en finance, l'ACPR
recommande plusieurs axes de gouvernance :
- des interactions entre humain et algorithme pour une industrialisation techniquement
satisfaisante ;
- une sécurité adaptée, notamment en cas d'externalisation ;
- une adaptation des schémas de gouvernance dès la conception des projets d'IA ;
- un processus de validation continue du traitement des données, des performances prédictives, de
l'absence d'instabilité et de la validité des explications de décision ;
- une méthodologie d'audit d'analyse du code, des données, de la documentation, des modèles
prédictifs et des méthodes explicatives.
79. ESMA50-165-737, European Securities and Market Authority, February 28 2019.
80. Fagot V., « L'intelligence artificielle menace de nombreux métiers », Le Monde, 29 nov. 2023.
81. Intelligence artificielle : enjeux pour le secteur financier, document de réflexion, ACPR, déc. 2018.
82. Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier, document de réflexion, Pôle FintechInnovation,
ACPR, juin 2020.

Hors collection - Droit de l'intelligence artificielle - 1re

Table des matières de la publication Hors collection - Droit de l'intelligence artificielle - 1re