Grands colloques - Le droit à l'épreuve des drones militaires - 38

LAW FOR LAWS ?

Mais de quelle marge de manœuvre dispose un humain sur des systèmes
conçus pour des situations pour lesquelles le temps d'engagement est trop
court pour qu'un humain traite l'information de manière appropriée ?
Suivant une telle approche, des armes qui ciblent et engagent un objectif
sous la supervision d'un humain pourraient être concernées par une éventuelle interdiction. Inversement, le critère du contrôle pourrait être satisfait
dès lors qu'il s'exprime dans « l'établissement des règles d'engagement du
système, la décision d'activer le système, la supervision humaine en temps
réel des opérations conduites et la possibilité d'arrêter le système si les
circonstances l'exigent »44.
La définition française de 2016 se concentre sur l'extrémité la plus
éloignée du spectre des capacités d'autonomie, à l'exclusion, par exemple,
des systèmes « autonomes » supervisés. Dans le document français, toute
supervision - même d'un système qui peut agir indépendamment et
sans intervention humaine - est exclue du concept et de la définition de
l'autonomie. La supervision nécessite une certaine forme de liaison de
communication (qu'elle soit unidirectionnelle de l'utilisateur vers l'objet
ou bidirectionnelle, l'objet pouvant également communiquer avec l'utilisateur). Bien qu'il soit certainement possible que certains systèmes autonomes
fonctionnent sans lien de communication (au moins dans certaines circonstances), on pourrait considérer que cela peut s'avérer une exigence trop
restrictive pour qu'un système soit considéré comme « entièrement »
autonome. La notion d'autonomie pourrait également exclure la prise en
compte de systèmes qui peuvent être constitués de nombreuses pièces ou
munitions de sous-composants, dont chacune n'est pas considérée comme
« autonome » isolément, mais qui par leur utilisation conjointe font émerger
un tel comportement. Dans ces cas, il pourrait y avoir un « manque total
de supervision humaine » au moment de l'attaque, mais pas pendant les
phases de planification ou de déploiement initial.
Le CICr a également précisé, dans un document de novembre 201745,
sa position en matière de contrôle humain. Dès 2016, il considérait qu'« un
certain niveau de contrôle humain sur les attaques est indispensable au
respect des règles du DIH en matière de distinction, de proportionnalité et de précaution »46. Il propose que les États évaluent le type et le
44. C'est par exemple la position défendue par le Center for a new american security, qui
défend une conception assouplie du « contrôle » humain. M. Horowitz, P. Scharre, An
Introduction to Autonomy in Weapon Systems
45. ICrC, Expert Meeting on Lethal Autonomous Weapons Systems, 15 novembre 2017 :
https://www.icrc.org/en/document/expert-meeting-lethal-autonomous-weapons-systems.
46. ICrC, Autonomous Weapon Systems : Implications of Increasing Autonomy
in the Critical Functions of Weapons, 15-16 mars 2016 : https://www.icrc.org/fr/
publication/4283-autonomous-weapons-systems.

https://www.icrc.org/en/document/expert-meeting-lethal-autonomous-weapons-systems https://www.icrc.org/fr/

Grands colloques - Le droit à l'épreuve des drones militaires

Table des matières de la publication Grands colloques - Le droit à l'épreuve des drones militaires