Hors collection - Droit de l'intelligence artificielle - 1re - 150

150
DROIT DE L'INTELLIGENCE ARTIFICIELLE
Model ou LLM) tels que ceux proposés par les sociétés Mistral AI ou OpenAI, ce qui les rend difficiles
à classer dans les catégories précédentes.
E. Les obligations associées à chaque catégorie de SIA
En fonction des niveaux de risque, les obligations spécifiques sont adaptées. Des obligations différentes,
selon les articles 8 à 17 de l'AI Act,s'appliquent aux fournisseurs et aux déployeurs de SIA.
I - Les obligations applicables aux fournisseurs de SIA
Obligations associées au SIA à haut risque : les fournisseurs d'IA à haut risque doivent respecter un
ensemble d'obligations :
- mettre en place un système de gestion des risques tout au long du cycle de vie du système d'IA à
haut risque ;
- assurer la gouvernance des données, en veillant à ce que les ensembles de données de formation,
de validation et de test soient pertinents, suffisamment représentatifs et, dans la mesure du
possible, exempts d'erreurs et complets conformément à l'objectif visé ;
- établir une documentation technique pour démontrer la conformité et fournir aux autorités les
informations nécessaires à l'évaluation de cette conformité ;
- concevoir leur système d'IA à haut risque pour qu'il enregistre automatiquement les événements
pertinents pour l'identification des risques au niveau national et les modifications substantielles
tout au long du cycle de vie du système ;
- fournir des instructions d'utilisation aux utilisateurs en aval pour leur permettre de se conformer à
la réglementation ;
- concevoir leur système d'IA à haut risque pour permettre aux déployeurs de mettre en place une
surveillance humaine ;
- concevoir leur système d'IA à haut risque pour atteindre les niveaux appropriés de précision, de
robustesse et de cybersécurité ;
- mettre en place un système de gestion de la qualité pour garantir la conformité.
Obligations associées au modèle d'IA à usage général : pour cette catégorie de modèles d'IA à usage
général (General Purpose Artificial Intelligence ou GPAI), l'AI Act prévoit plusieurs niveaux d'obligation,
allant de mesures de transparence et de documentation minimales (article 53) à une évaluation
approfondie.
Dans le cas d'une évaluation approfondie de SIA, notamment en raison de leur puissance, il est nécessaire
de mettre en place des mesures d'atténuation des risques systémiques (article 55) : risques d'accidents
majeurs, d'utilisation à mauvais escient pour lancer des cyberattaques, propagation de biais aux
effets discriminatoires à l'encontre de certaines personnes, etc.
Les modèles GPAI présentent des risques systémiques lorsque la quantité cumulée de calcul utilisée
pour la formation est supérieure à 1 025 opérations en virgule flottante (floating-point operations per
second ou FLOP). Dans ce cas, les fournisseurs doivent notifier à la Commission si leur modèle
répond à ce critère dans un délai de deux semaines. Le fournisseur peut présenter des arguments
selon lesquels, bien que répondant aux critères, son modèle ne présente pas de risques systémiques.
La Commission peut décider d'elle-même, ou par le biais d'une alerte qualifiée du groupe scientifique
d'experts indépendants, qu'un modèle a des capacités d'impact élevées, ce qui le rend systémique.
Hors collection - Droit de l'intelligence artificielle - 1re

Table des matières de la publication Hors collection - Droit de l'intelligence artificielle - 1re
