Hors collection - Droit de l'intelligence artificielle - 1re - 21

CHAPITRE 1 - ENCADREMENT DE L'INTELLIGENCE ARTIFICIELLE
21
B. Les risques
L'utilisation de l'IA peut exposer les personnes et les organisations à des risques spécifiques, avec des
conséquences potentiellement graves.
La liste des risques, énoncés dans la presse et les rapports officiels, est longue. Elle comprend, entre
autres, les accidents physiques, les erreurs et imprécisions, les biais des algorithmes, la discrimination,
la difficulté d'expliquer les décisions, la violation de la sécurité de l'information, l'atteinte à la vie
privée, l'automatisation de la prise de décision, le risque environnemental, la limitation des emplois,
les préjudices à la propriété intellectuelle, le risque de réputation, la dépendance technique à quelques
acteurs clés, le renforcement de la fracture technologique, l'atteinte à la souveraineté et la sécurité
nationale, la limitation de la réflexion et de la pensée critique et l'implosion du corps social8
.
Cette liste n'est pas nécessairement structurée ni exhaustive. Quelles sont les typologies de risques liés
àl'usage de l'IA proposées par les chercheurs9
les classifier. Cette catégorisation permet d'en améliorer la compréhension et de les maîtriser.
Selon Scott McLean qui cible l'IA générale10
suivante :
- la perte de contrôle par l'humain ;
- le développement d'objectifs dangereux ;
- le développement de SIA dangereux ;
- la médiocrité de l'éthique ;
- les risques existentiels.
Certains articles sont consacrés aux risques éthiques qui sont classés selon les principes violés11
. Transparence,
respect de la vie privée, imputabilité et équité sont les plus mentionnés.
Certaines typologies ciblent un domaine, par exemple la santé : les risques liés aux données cliniques,
les risques techniques et les risques socio-éthiques sont identifiés par Apoorva Muley et ses
coauteurs12
.
Le groupe de travail AIRS (Artificial Intelligence Risk and Security13
quatre catégories :
- risques relatifs aux données ;
- attaques contre les systèmes de machine learning ;
- risques liés au manque de transparence, incluant les biais ;
- risque de non-conformité.
8. Bertolucci M., Ménard B., « L'intelligence artificielle fait peser un risque d'implosion du corps social », La Croix, 27 oct.
2024.
9. Akoka J., Comyn-Wattiau I., « Risques induits par l'intelligence artificielle, une approche d'aide à l'identification »,
Inforsid, 2024.
10. McLean G. & al., The risks associated with Artificial General Intelligence: A systematic review, Journal of Experimental
and Theoretical Artificial Intelligence, 2023.
11. Ali Khan A. & al., « Ethics of AI: A systematic literature review of principles and challenges », in Proceedings of the 26th
Intl. Conf. on Evaluation and Assessment in Software Engineering, 2022.
12. Muley A., Muzumdar P., Kurian G., Basyal G., Risk of AI in healthcare: A comprehensive literature review and study
framework, arXiv preprint arXiv:2309.14530, 2023.
13. Artificial Intelligence Risks & Security Association : airsgroup.ai
) propose une classification en
, les risques peuvent être catégorisés de la manière
? Leurs travaux permettent d'identifier les risques et de

http://www.airsgroup.ai

Hors collection - Droit de l'intelligence artificielle - 1re

Table des matières de la publication Hors collection - Droit de l'intelligence artificielle - 1re