Hors collection - Écosystème numérique : défis juridiques et sociétaux - 17

CHAPITRE 1 - IA, DATA, MÉTAVERS...
17
Le 17 octobre 2022, la Commission nationale de l'informatique et des libertés (Cnil) a prononcé la sanction pécuniaire
maximale de 20 millions d'euros prévue par le règlement général sur la protection des données (RGPD), soit
20 millions d'euros, à l'encontre de l'entreprise américaine Clearview AI, société américaine dédiée à la reconnaissance
faciale. Cette startup construit ses bases de données à partir de la technique du web-scraping23
qui consiste
pour un logiciel à aspirer de façon automatique le contenu des pages web et en particulier sur les photos collectées
sur les médias sociaux.
Délibération Cnil SAN-2022-019 du 17 oct. 2022.
Le RGPD encadre le traitement des données personnelles sur le territoire de l'Union européenne. Il s'applique à
toute organisation, publique et privée, qui traite des données personnelles pour son compte ou non.
Le consentement libre est obligatoire pour récolter les données nécessaires à l'usage de la reconnaissance faciale. Le
recours à une identification biométrique ne peut être imposé à un individu et ces données récoltées ne peuvent être
conservées par la suite.
II - La guerre des Chatbot : ChatGPT et Bard
Lancé en novembre 2022, ChatGPT24
est un outil conversationnel basé sur une intelligence artifi.
Cette IA a un potentiel très important qui lui permet de réaliser des
cielle soutenu par Microsoft qui permet d'échanger avec un interlocuteur en répondant à ses questions
de façon précise et argumentée25
écrits proches de ce que peut faire un humain ce qui n'est pas sans inquiéter les scientifiques et
universitaires26
. Il est capable de rédiger par exemple des dissertations ou des réponses à des questions
d'analyse, ce qui inquiète le monde de l'enseignement et qui a conduit Sciences Po à en interdire l'utilisation
en raison des risques de plagiat. Ainsi, dans un courrier adressé aux étudiants et aux enseignants,
la direction de Sciences Po annonce que l'utilisation de ChatGPT est pour l'instant strictement
interdite lors de la production de travaux écrits ou oraux par les étudiants sous peine de
sanctions qui peuvent aller jusqu'àl'exclusion de l'établissement voire de l'enseignement supérieur.
L'interdiction s'applique à tout autre outil ayant recours à l'intelligence artificielle.
Le recours à ce chatbot présente des risques notamment au regard des protections des données à caractère
personnel et de propriété intellectuelle sur les œuvres exploitées par cette IA. Ce chatbot fait le
buzz car il peut fournir des discours entiers et des réponses élaborées structurées si bien qu'il pourrait à
l'avenir concurrencer les moteurs de recherche comme Google qui s'en inquiète légitimement27
a réagi aussitôt a en présentant un nouveau Chatbot, Bard28
qui va aussi offrir un service conversationnel
réservé dans un premier temps à un groupe de testeurs de confiance.
Il convient aussi de relever que la société Open AI qui a lancé cet outil se réfère non pas au RGPD
mais à la législation de l'État de Californie (California privacy rights) ce qui n'est pas sans interroger le
dispositif quant au respect des droits des individus et de leurs données personnelles.
Il apparaît certain que les enjeux liés à ces outils de génération de langage vont faire évoluer les
métiers de l'enseignement et de la recherche mais face à ces prouesses technologiques, il ne faudra
jamais oublier l'humain qui doit rester au centre de ces évolutions numériques.
23. Le web scraping est la récupération de données de pages web, de façons automatique.
24. G. Loiseau, A. Martinon, BJT févr. 2023, nº BJT202e1, 1er
février 2023.
25. V. https://platform.openai.com/docs/quickstart/introduction
26. D. Leglu, « Chat GPT-3 sème un vent de panique dans le monde réel », Challenges nº 772, p. 45.
27. V. https://www.ladn.eu/tech-a-suivre/google-en-panique-face-a-chatgpt-rappelle-ses-fondateurs
28. Bard, en référence à William Shakespeare, surnommé le Barde d'Avon.
et qui

https://platform.openai.com/docs/quickstart/introduction https://www.ladn.eu/tech-a-suivre/google-en-panique-face-a-chatgpt-rappelle-ses-fondateurs

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux