Hors collection - Écosystème numérique : défis juridiques et sociétaux - 40

40
ÉCOSYSTÈME NUMÉRIQUE : DÉFIS JURIDIQUES ET SOCIÉTAUX
comportant un traitement de données algorithmique dont l'apprentissage a été réalisé à partir de
données massives »), dans le respect des principes éthiques.
La Commission européenne a élaboré une proposition de règlement sur l'intelligence artificielle (Artificial
Intelligence Act ou AI Act) afin d'encadrer son utilisation dans le secteur de la santé. L'objectif
étant que les systèmes en question soient contrôlés et encadrés au sein du marché de l'Union
européenne.
Cette proposition de règlement crée une hiérarchie des risques entre les systèmes dotés d'intelligence
artificielle. La distinction s'établit entre les risques inacceptables (utilisation interdite), élevés (utilisation
soumise à certaines exigences) et faibles (obligation de transparence). Une deuxième distinction
est par ailleurs prévue : si des systèmes d'intelligence artificielle à risque limité sont utilisés dans des
contextes sensibles relevant de la liste des risques élevés, ils devront respecter des obligations de
conformité strictes ou, dans le cas où ils relèveraient de la liste des risques inacceptables, seront interdits.
Les systèmes d'intelligence artificielle utilisés dans le domaine de la santé, par leur caractère
sensible, risquent d'être considérés comme relevant des outils présentant un risque élevé. Les
exigences à prévoir sont donc notamment l'établissement d'un système de gestion des risques, d'une
documentation technique préalable à la mise sur le marché ou encore une surveillance humaine
pendant la période d'utilisation de l'outil.
Des sanctions particulièrement dissuasives sont prévues par l'AI Act en cas de manquement des
systèmes d'intelligence artificielle aux obligations explicitées, notamment une amende administrative
pouvant aller jusqu'à 20 millions d'euros ou, si l'auteur de l'infraction est une entreprise, jusqu'à4%
du chiffre d'affaires annuel total.
Le domaine de la santé est de plus en plus impacté par le numérique ; la protection des données de
santé, particulièrement sensibles, est au cœur de nos libertés fondamentales. Afin de développer des
logiciels, il est conseillé d'adopter un système de gestion de qualité en conformité avec la norme ISO
13485 et également d'obtenir une certification CE avant de pouvoir lancer les solutions sur le marché.
§2. Réglementation de l'e-santé
A. L'action de l'agence du numérique en santé (ANS)
Objet
Statut
L'ANS encourage le développement des services et outils numériques utilisés dans le cadre de la prise en
charge sanitaire et du suivi social et médico-social des usagers du système de santé. Elle a publié la 4e
édition de la doctrine du numérique en santé6
.
L'ANS est un groupement d'intérêt public créé en 2009 et placé sous l'autorité de la délégation ministérielle
du numérique en santé (DNS), qui définit la stratégie nationale du numérique en santé mise en œuvre par
l'ANS.
Missions - Régulation du numérique en santé : labellisation et certification en matière d'urbanisation,
d'interopérabilité, de sécurité et d'éthique des systèmes d'information.
- Conduite de projets numériques d'intérêt national : télémédecine, répertoire opérationnel des ressources...
- Accompagnement du déploiement national et territorial d'outils et de services numériques au bénéfice des
usagers et des professionnels.
6. V. https://esante.gouv.fr/espace-presse/4eme-edition-de-la-doctrine-du-numerique-en-sante

https://esante.gouv.fr/espace-presse/4eme-edition-de-la-doctrine-du-numerique-en-sante

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux