Hors collection - Droit de l'intelligence artificielle - 1re - 152

152
DROIT DE L'INTELLIGENCE ARTIFICIELLE
Les fournisseurs veillent à ce que leurs solutions techniques soient efficaces, interopérables, robustes et
fiables, dans la mesure où cela est techniquement possible, compte tenu des spécificités et des limites
des différents types de contenu, des coûts de mise en œuvre et de l'état de la technique généralement
reconnu, tel qu'il peut être reflété dans les normes techniques pertinentes12
.
Les déployeurs d'un système de reconnaissance des émotions ou d'un système de catégorisation biométrique
informent les personnes physiques qui y sont exposées du fonctionnement du système et traitent
les données à caractère personnel conformément aux règlements (UE) 2016/679 et (UE) 2018/1725
et à la directive (UE) 2016/680, selon le cas.
Ces obligations de transparence ne s'appliquent pas aux systèmes d'IA autorisés par la loi à détecter,
prévenir, enquêter ou poursuivre des infractions pénales, sous réserve de garanties appropriées pour
les droits et libertés des tiers, à moins que ces systèmes ne soient mis à la disposition du public pour
signaler une infraction pénale.
Les personnes qui déploient un système d'IA qui génère ou manipule un contenu image, audio ou
vidéo constituant une contrefaçon profonde doivent indiquer que le contenu a été généré ou manipulé
artificiellement.
Lorsque le contenu fait partie d'une œuvre ou d'un programme manifestement artistique, créatif, satirique,
fictif ou analogue, les obligations de transparence énoncées dans le présent paragraphe sont
limitées à la divulgation de l'existence d'un tel contenu généré ou manipulé d'une manière appropriée
qui n'entrave pas la présentation ou la jouissance de l'œuvre. Les utilisateurs d'un système d'IA qui
génère ou manipule un texte publié dans le but d'informer le public sur des questions d'intérêt public
doivent indiquer que le texte a été généré ou manipulé artificiellement.
Les informations permettant la transparence doivent être fournies aux personnes physiques concernées
de manière claire et distincte au plus tard au moment de la première interaction ou exposition.
Les informations sont conformes aux exigences applicables en matière d'accessibilité.
Cette obligation de transparence semble complexe à mettre en œuvre13
. Le principe fait l'objet de
critiques de la part de chercheurs et praticiens de l'IA qui considèrent que la mise en œuvre de la
transparence présente des difficultés14
.
L'Office AI encourage et facilite l'élaboration de codes de pratique au niveau de l'Union afin de faciliter
la mise en œuvre effective des obligations relatives à la détection et à l'étiquetage des contenus
générés ou manipulés artificiellement.
Obligations associées au SIA à risque minimal ou nul : la législation sur l'IA autorise la libre utilisation
de l'IA à risque minimal. Cela inclut des applications telles que les jeux vidéo compatibles avec
l'IA ou les filtres anti-spam. La grande majorité des systèmes d'AI actuellement utilisés dans l'UE
entrent dans cette catégorie.
Aucune obligation n'incombe aux fournisseurs et déployeurs de SIA dans ce cas.
Rien n'empêche cependant les opérateurs de SIA à risque minimal ou nul, d'étiqueter leur contenu
comme étant généré par IA, afin d'informer les utilisateurs finaux.
12. Transparence et responsabilité, les enjeux de l'intelligence artificielle, France diplomatie, ministère de l'Europe et des
Affaires étrangères.
13. Seramour C., « Stanford crée un indice de transparence des LLM », Le Monde informatique, 20 oct. 2023.
14. Gerbaix S., « Redevabilité, explicabilité et transparence de l'IA - Une mission impossible ? », Management et Data
science, sept. 2023.

Hors collection - Droit de l'intelligence artificielle - 1re

Table des matières de la publication Hors collection - Droit de l'intelligence artificielle - 1re