Grands colloques - Le droit à l'épreuve des drones militaires - 35

ANNE MILLEt-DEVALLE

notions de capacité d'auto-apprentissage des systèmes, de distinction entre
automatisation et autonomie et surtout de contrôle humain qui constituent
les attributs les plus malaisés à définir.
Les systèmes d'armes pilotés par des algorithmes, capables de repérer,
d'identifier et d'attaquer des cibles sans intervention d'un opérareur
humain, qui pourraient être opérationnels aux alentours de 2030, ne seraient
pas soumis à des limites spatio-temporelles et seraient capables de s'adapter
à toute une série de situations, grâce à une capacité d'apprentissage, dont les
experts soulignent qu'elle pourrrait rendre la pré-programmation obsolète.
La position française met d'ailleurs particulièrement en exergue les
difficultés concrètes de caractérisation du contrôle dans cette perspective :
prolixe en matière de capacités d'auto-apprentissage, elle considère que la
complexité et la diversité des scénarios militaires potentiels ne pourraient
pas être « préprogrammées ». Le système aurait besoin d'« apprendre » et
la « plateforme de livraison », qui pourrait ostensiblement être séparée
des autres composants du système d'arme, « serait capable de bouger,
d'adapter, [...] de cibler et de tirer un effecteur létal ». Cet apprentissage,
suggère la France, signifierait que « le système de livraison serait capable de
sélectionner une cible indépendamment des critères qui ont été prédéfinis
pendant la phase de programmation »32. Le CICr est également préoccupé par l'incompatibilité entre la nécessité d'un contrôle humain et les
algorithmes d'apprentissage automatique, dans la mesure où le fonctionnement et les effets des systèmes d'armes seraient alors intrinsèquement
imprédictibles33.
La décision d'ouvrir le feu serait le résultat d'un calcul effectué par
la machine34, soulevant des interrogations sur le caractère autonome ou
automatique de ces armes. Les systèmes d'armes automatisés, conçus pour
exécuter une tâche dans une situation précise sont en effet anciens et variés
(les mines par exemple mais également des systèmes défensifs anti-navires
ou terrestres35). Les systèmes qui font l'objet des discussions actuelles
possèderaient donc une autonomie d'une nature différente, dont on ne sait
encore exactement si elle doit être définie par un potentiel anti-personnel
32. https://cd-geneve.delegfrance.org/-robots-letaux-autonomes
33. https://www.icrc.org/fr/document/reunion-dexperts-sur-les-systemes-darmes-letalesautonomes.
34. L'autonomie se comprend comme le degré d'intervention de l'opérateur humain dans
la boucle ooDA (observer, s'orienter, décider, agir). United States Air Force Unmanned
Aircraft Systems Flight Plan 2009-2047, Headquarters, united States Air Force Washington
DC, 18 May, 2009.
35. Des systèmes déjà anciens, qui possèdent une possibilité de supervision humaine,
peuvent détruire sans engagement humain des objets ayant une signature radar pré-définie,
afin de permettre une réaction rapide qu'une supervision humaine rendrait impossible (par
exemple le Phalanx CIWS).

https://cd-geneve.delegfrance.org/-robots-letaux-autonomes https://www.icrc.org/fr/document/reunion-dexperts-sur-les-systemes-darmes-letales

Grands colloques - Le droit à l'épreuve des drones militaires

Table des matières de la publication Grands colloques - Le droit à l'épreuve des drones militaires