Hors collection - Écosystème numérique : défis juridiques et sociétaux - 12

12
ÉCOSYSTÈME NUMÉRIQUE : DÉFIS JURIDIQUES ET SOCIÉTAUX
§1. Intelligence artificielle (IA) et data
Des acteurs de plus en plus nombreux participent au processus aboutissant à l'utilisation d'un système
d'intelligence artificielle (IA) et il est important de connaître les réponses juridiques qui se construisent
progressivement afin de développer ces nouvelles opportunités tout en les régulant.
A. Définition et enjeux
L'intelligence artificielle (IA) associe des techniques combinant données, algorithmes et puissance de
calcul2
. La Commission européenne a publié un Livre blanc en février 20203
dans lequel elle a tracé
les axes de la vision européenne en la matière basés sur l'excellence et la confiance. L'IA représente
pour la plupart des grands États l'un des vecteurs majeurs d'influence stratégique des années à venir
et un facteur considérable de croissance économique.
B. Les risques de biais
Les techniques liées à l'IA peuvent être redoutées par les citoyens en raison des risques de dérives,
qualifiés généralement de biais4
. Le danger d'intrusions étatiques dans la vie privée et autres utilisations
pouvant être discriminantes de l'intelligence artificielle ne sont pas pour autant l'apanage
d'États totalitaires. On peut noter la montée en puissance du courant transhumaniste et de la fracture
numérique avec notamment le développement d'outils criminalistiques basés sur des technologies de
reconnaissance faciale afin d'évaluer le taux de dangerosité d'un individu en fonction de son
comportement5
riés peu productifs comme a pu le faire Amazon6
sociaux pour truquer des élections.
Certaines startups7
,ou l'utilisation de l'intelligence artificielle pour licencier automatiquement des sala,
ou encore le détournement des données des réseaux
proposent des solutions pour tester la qualité des modèles d'intelligence artificielle,
éliminer les biais et mettre au point plus rapidement les solutions.
Les systèmes d'intelligence artificielle (IA) peuvent donner des résultats faussés car la technologie des
moteurs de recherche n'est pas neutre. En effet, ces moteurs de recherche traitent des données
complexes et hiérarchisent les résultats en fonction des préférences de l'utilisateur et de sa localisation.
Ainsi, un moteur de recherche peut devenir une chambre d'écho qui maintient les préjugés du monde
réel et les enracine davantage lorsqu'ils sont diffusés en ligne.
La loi pour une République numérique de 20168
a confié à la CNIL la mission de conduire une
réflexion sur les enjeux éthiques et les questions de société soulevées par l'évolution des technologies
numériques. Dans son rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle en
2. V. Glossaire de l'intelligence artificielle produit par la CNIL : https://www.cnil.fr/fr/intelligence-artificielle/glossaire-ia
3. V. https://fr.scribd.com/document/489693535/commission-white-paper-artificial-intelligence-feb2020-fr#
4. C. Villani, rapport « Donner un sens à l'intelligence artificielle », pour une stratégie nationale et européenne :
https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation
5. S. Le Janne, « Une intelligence artificielle peut-elle réellement prédire un crime ? », 30 juill. 2017, disponible sur
https://www.ulyces.co/longs-formats/une-intelligence-artificielle-peut-elle-reellement-predire-un-crime/
6. V. l'exemple de Amazon, https://iatranshumanisme.com/2019/04/28/amazon-a-utilise-une-ia-pour-licencier-automatiquement-des-travailleurs-peu-productifs/
7.
Par exemple Giskard : https://www.giskard.ai/
8. V. L. nº 2016-1321, 7 octobre 2016 pour une République numérique. G. Haas, S. Astier, « Les biais de l'intelligence artificielle
: quels enjeux juridiques », Répertoire Dalloz IP/IT et Communication, juill. 2019.

https://www.cnil.fr/fr/intelligence-artificielle/glossaire-ia https://fr.scribd.com/document/489693535/commission-white-paper-artificial-intelligence-feb2020-fr# https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation https://www.ulyces.co/longs-formats/une-intelligence-artificielle-peut-elle-reellement-predire-un-crime/ https://www.iatranshumanisme.com/2019/04/28/amazon-a-utilise-une-ia-pour-licencier-automati https://www.giskard.ai/

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux