Hors collection - Écosystème numérique : défis juridiques et sociétaux - 14

14
ÉCOSYSTÈME NUMÉRIQUE : DÉFIS JURIDIQUES ET SOCIÉTAUX
I - Projet de règlement de l'IA
Le règlement sur l'IA est une proposition législative pour réglementer la technologie de l'IA en fonction
des risques qu'elle comporte. Au cœur de la proposition se trouve la catégorie à haut risque, qui
implique des exigences plus strictes en termes de robustesse et de gestion des risques de la part des
développeurs d'IA.
La proposition de règlement de la Commission européenne met en exergue le fournisseur du système,
sur lequel repose le cadre de conformité. Les autres acteurs doivent néanmoins être vigilants, au risque
d'être requalifiés de fournisseurs et d'être tenus des obligations inhérentes à ce statut.
La Commission européenne a rendu public le 21 avril 2021 un projet de règlement sur l'intelligence
artificielle13
afin de créer un cadre juridique avec une vision européenne basée sur l'éthique en prévenant
les risques liés à cette technologie pour éviter certaines dérives.il vise à « renforcer les règles en
matière de cybersécurité afin de garantir une plus grande sécurité des produits matériels et logiciels ». Ce règlement,
le « Cyber Résilience Act14
Toujours selon le projet de texte, « les entités concernées doivent dès à présent entamer une réflexion
sur la mise en conformité pour éviter les lourdes sanctions à venir en cas de non-respect. Les autorités
seront habilitées à prononcer des amendes administratives pouvant atteindre 20 millions d'euros ou
4 % du chiffre d'affaires annuel total d'une entreprise, le montant le plus élevé étant retenu. Le
manquement à l'obligation de surveiller, détecter et corriger les biais par une politique de gouvernance
des données adéquate sera quant à lui sanctionné par une amende pouvant atteindre 30 millions
d'euros ou 4 % du chiffre d'affaires (500 000 € pour les institutions, agences et organes de l'UE).
Enfin, le manquement aux obligations d'information à délivrer aux organismes notifiés et aux autorités
nationales compétentes en réponse à une demande sera passible d'une amende de 10 millions
d'euros ou de 2% du chiffre d'affaires. »
Le règlement sur l'intelligence artificielle « EU AI Act »15
vise la mise en place d'une gouvernance
forte des systèmes d'IA au sein des organisations en utilisant un principe de classification des risques
en quatre catégories : inacceptables, élevés, avec obligation de transparence, minimaux. Cette catégorisation
imposera des normes garantissant ainsi aux utilisateurs un degré de protection face au risque
de biais, d'atteinte à la vie privée ou de manipulation cognitive. Cet ensemble de lois devrait être
adopté et mis en place dans les deux prochaines années et s'appliquera aux fournisseurs de systèmes
et aux utilisateurs de solutions dans l'UE, qu'ils soient eux-mêmes résidents ou non de l'Union.
Il faut relever que certains usages de l'IA peuvent être attentatoires à la liberté et aux droits des
personnes. À cet égard, dans un avis de la CNCDH16
communication institutionnelle, une terminologie plus neutre et objective que l'expression
13. V. https://ec.europa.eu/commission/presscorner/detail/fr/ip_21_1682
14. Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence
artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'union Commission
européenne, 21 avril 2021 (2021/0106 (COD)).
15. V. https://artificialintelligenceact.eu/
16. Avis relatif à l'impact de l'intelligence artificielle sur les droits fondamentaux (A - 2022-6), Journal Officiel du 17 avril
2022, nº 91.
» (CRA), a pour objectif de mieux sécuriser les objets connectés qui
contiennent de l'IA (IoT). Le texte accroît la responsabilité des fabricants et des éditeurs en leur
imposant la notion de « security by design ». Il pourrait devenir une norme mondiale, comme le
RPGD.
, il est recommandé de privilégier, dans la

https://ec.europa.eu/commission/presscorner/detail/fr/ip_21_1682 https://www.artificialintelligenceact.eu/

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux