Revue - Gazette du Palais - Hors Série du 25 juin 2024 - Nouvelles technologies : Des Horizons élargis pour les juristes ? - 16

Actes de colloque
33. Revoici notre logiciel embarqué dans ses hallucinations (8)
. Encore plus troublant : lorsqu'on repose à ChatGPT la même
question le lendemain, il donne une autre réponse et prétend cette fois-là que le texte sur lequel on l'interroge n'existe
tout simplement pas, tout en indiquant au début de sa réponse que l'article 1832-2 est relatif aux SARL. En clair, le texte
n'existe pas mais il concerne une forme de société particulière.
34. Le problème est que l'on aimerait savoir comment
fonctionne ce logiciel pour envisager de lui faire confiance
ou de renoncer à l'utiliser. Une fois passé l'effet d'émerveillement
relatif lié à l'apparente compréhension par la
machine de nos questions et au fait que ses réponses sont
rédigées dans un langage clair et cohérent, on regrette
de ne pas avoir la possibilité de connaître précisément la
manière dont fonctionne le logiciel.
35. La question de la cohérence des réponses données mérite
une observation, au vu de la dernière réponse fournie
par ChatGPT dans le cadre de notre interrogation sur l'article
1832-2 du Code civil. Chaque phrase donnée possède
sa propre cohérence, mais cette cohérence est beaucoup
plus incertaine lorsque l'on rapproche les phrases de la
réponse entre elles. Dans la dernière réponse obtenue,
ChatGPT nous indique d'abord que l'article 1832-2 du Code
civil concerne une forme de société donnée, la SARL ; puis
il relève que cet article n'existe pas dans le Code civil
français jusqu'à la date de sa dernière mise à jour, en janvier
2022 ; il envisage enfin que « cet article ait été ajouté
ou modifié après cette date ». Tout cela, une fois rapproché,
n'a pas grand sens. Voilà un article qui concerne une
société donnée, mais n'existe pas ; un article qui n'existe
pas, mais a été modifié après une certaine date. On n'est
pas loin du chat de Schrödinger...
B. Faire confiance à l'IA ?
36. Si l'on confie à la machine, en l'occurrence à l'IA,
une mission dans le cadre d'une activité professionnelle,
susceptible d'engager notre responsabilité, il faut être
en confiance. Il faut s'assurer que la machine n'est pas
sujette à ce que l'on appelle des « hallucinations », ce
qui désigne des résultats qui n'existent pas ou qui sont
erronés mais que le logiciel croit être la réalité et qu'il
présente donc comme tels à ses utilisateurs. Le danger
de ces hallucinations se double de l'incapacité manifeste
de l'IA générative à dire qu'elle ne sait pas.
37. L'utilisateur de l'IA trouvera utile de pouvoir, une fois
ou de manière récurrente, « ouvrir le capot » pour comprendre
comment fonctionne le logiciel. Pour paraphraser
la citation souvent attribuée à Churchill à propos des statistiques,
on pourrait dire : « Je ne fais confiance qu'à l'IA
que j'ai moi-même trafiquée », ou plutôt, « que j'ai moimême
éduquée »... Simplement, éduquer correctement
une IA demande un temps et des moyens dont on devine
qu'ils sont nécessairement très importants. Et si l'on veut
vérifier la manière dont fonctionne une IA, il faut faire rien
de moins, finalement, que recréer l'algorithme par une
sorte de mécanisme de reverse engineering.
38. L'alternative est donc soit de faire aveuglément
confiance à l'IA, soit de vérifier ou de faire vérifier comment
elle fonctionne, avant de savoir si l'on peut lui
accorder sa confiance.
39. Il apparaît clair que la seule manière satisfaisante de
procéder avant d'utiliser une IA est de soumettre l'algorithme
à une procédure de certification, qui garantira à
ses utilisateurs qu'il n'est pas générateur de résultats
erronés. Que l'on recoure aux nouvelles technologies,
certainement, mais à des nouvelles technologies qui ont
été contrôlées. Le droit est une matière trop importante
pour que la machine seule le traite sans le contrôle des
juristes.(8)
40. Si nous revenons pour conclure ce propos introductif à
notre juriste armé de son stylo à encre, en admettant que
cet instrument ne soit en réalité pas qu'un simple stylo
et qu'il ait une capacité propre à proposer des réponses
lorsqu'on l'interroge, la question est de savoir jusqu'où
l'humain laissera la machine répondre à sa place. Mais
c'est en réalité l'entière responsabilité de l'humain qui utilise
la machine que de savoir quelle marge de liberté (ou
plutôt d'absence de contrôle des résultats) est donnée à
la machine. Simplement, cela suppose qu'on puisse faire
confiance à la technologie.
464v2
(8) Sur ce terme, v. infra, n° 36.
14
GAZETTE DU PALAIS - mardi 25 juin 2024 - n O
hor s-sér ie

Revue - Gazette du Palais - Hors Série du 25 juin 2024 - Nouvelles technologies : Des Horizons élargis pour les juristes ?

Table des matières de la publication Revue - Gazette du Palais - Hors Série du 25 juin 2024 - Nouvelles technologies : Des Horizons élargis pour les juristes ?