Hors collection - Lectures critiques du Code des relations entre le public et l'administration - 210

202

LES ALGORITHMES

(dans le cas des systèmes de régulation par la technique) comporterait
des bénéfices pour l'administration.
Malgré les limitations de ces systèmes techniques, il est toujours possible
pour un individu qui se sentirait injustement traité par ces systèmes de faire
un recours contre une décision juridique, fût-elle assistée par un ordinateur
(s'il le sait), ou de remettre en question l'applicabilité de certaines normes
techniques qui n'auraient apparemment pas lieu d'être.
Puisque le langage juridique représente la source ultime de ces applications informatiques, il est possible de vérifier la légitimité de ces systèmes,
en comparant leurs effets avec ceux de la ou des normes juridiques qu'ils
étaient censés mettre en œuvre.
La situation a changé depuis quelques années, avec l'arrivée du Big Data
et l'élaboration des techniques de data mining et de machine learning.
Ces dernières ont conduit à une reformulation progressive des outils de
régulation juridique et technique, vers de nouveaux outils fondés sur une
approche statistique, ayant pour but de mieux comprendre les comportements passés et de prévoir les comportements futurs des citoyens 28.
L'engouement pour les algorithmes concerne autant le secteur privé (en des
systèmes de recommandations, de profilage, ou de marketing en général...)
que le secteur public.
On se dirige alors vers une modalité de gouvernement dite « algorithmique » caractérisée par une utilisation croissante des algorithmes pour les
décisions administratives29.
Cette tendance à utiliser des algorithmes pour la gestion de questions
administratives constitue une rupture par rapport aux tendances précédentes
qui se limitaient à transposer des règles juridiques ou administratives en
un langage informatique, afin d'en faciliter l'interprétation et l'application.
Ce tournant algorithmique, fondé sur des analyses statistiques et la
fouille de données, nous fait perdre désormais les éléments de langage
(juridique ou informatique) qui nous permettaient de remonter aux règles
de droit sources de ces nouvelles modalités de régulation par la technique30.
Nous analyserons dans cette partie l'une des problématiques fondamentales de cette « algorithmisation » du droit, en ce qui concerne notamment
la question de l'auditabilité des algorithmes.

28. G. Adomavicius, A. Tuzhilin, « Using Data Mining Methods to Build Customer
Profiles », Computer 2001, vol. 34, p. 74.
29. A. Supiot, La gouvernance par les nombres, Fayard, 2015.
30. A. Rouvroy, T. Berns, « Le nouveau pouvoir statistique », Multitudes 2010, p. 88 ;
A. Rouvroy, « Face à la gouvernementalité algorithmique,... », op. cit.

Hors collection - Lectures critiques du Code des relations entre le public et l'administration

Table des matières de la publication Hors collection - Lectures critiques du Code des relations entre le public et l'administration