Legaltech et droits

fondamentaux: l’exemple
des logiciels « prédictifs »
Mustapha Mekki
Agrégé des Facultés de droit
Professeur à l’Université Paris 13 – Sorbonne Paris Cité
Co-directeur de l’IRDA

S
 Introduction

S  Legaltech ?
S  « Toute organisation qui fait usage de la technologie pour développer,
proposer, fournir ou permettre l’accès des justiciables ou des professionnels
du droit à des services facilitant l’accès au droit et à la justice » (Charte
éthique des legaltech du 7 décembre 2017).

S  Logiciels prédictifs : résolution, évaluation ou argumentation.

S  Droits fondamentaux : droits vecteurs de valeurs fondamentales

(substantiels et processuels)
 Introduction

S  Contexte favorable au développement des « logiciels prédictifs »:

S  Contexte technologique (art. R. 414-1 CJA; Medicys; e-just pour
arbitrage…) : numérisation des actes et processus
S  Contexte politique (libérer le juge, conception économique de la
justice, essor de l’amiable…)
S  Contexte juridique (meilleure qualité de motivation, projet de
créer système d’opinions dissidentes, multiplication de sjuges
uniques…)

S  Devoir de vigilance des juristes face au « numérisme juridique »

 Annonce du plan

S  I. Les logiciels prédictifs, une menace pour les droits

fondamentaux substantiels

S  II. Les logiciels prédictifs, une menace pour les droits

fondamentaux processuels
Partie I. Les « logiciels prédictifs », une menace
pour les droits fondamentaux substantiels ?

A. Les bienfaits attendus

1. Renforcer l’égalité devant la Loi
•  Utilité dans les contentieux indemnitaires et quantitatifs ?

2. Améliorer la prévisibilité du droit

•  Probabilités et logiciels prédictifs

•  Incertitude scientifique et logiciels prédictifs

è Vigilance : mettre en place une cyberéthique (Y. Méneceur).

Partie I. Les « logiciels prédictifs », une menace
pour les droits fondamentaux substantiels ?

B. Les méfaits escomptés

1. En amont, lors de la récolte des données

•  Utilisation de données personnelles

•  Définition des données personnelles : article 2 loi du 6 janvier 1978; article
4 § 1 du règlement du 27 avril 2016
•  Définition des données personnelles sensibles: article 8 de la loi du 6
janvier 1978; article 9§1 du règlement du 27 avril 2016

è Constitution d’un « casier juridique géant » avec les Machine et deep

learning (algorithmes d’apprentissage) capables de réidentifier un profil
 Partie I B. Les méfaits
escomptés

•  Protection des données personnelles:

- l’existant:
•  Point 25 du Rapport explicatif à la Convention 108
•  Point 1 des considérants du règlement du 27 avril 2016
•  art. 226-1 Code pénal (vie privée)
•  loi du 29 juillet 1881 (protection de l’anonymat dans les procès en diffamation)
•  art. 133-11 Codee pénal (amnistie)…
- A l’avenir:
•  Renforcer l’anonymat
•  Repenser la notion de données personnelles
•  Améliorer la transparence
•  Améliorer le contrôle et les sanctions
 Partie I B. Les méfaits
escomptés

2. En aval, lors de l’utilisation des données récoltées

•  Place du droit à l’oubli ?

•  Les principes du droit pénal :

•  Individualisation de la peine
•  Prohibition des peines automatiques
•  Principe de non-discrimination
Partie II. Les « logiciels prédictifs », menace pour
les droits fondamentaux processuels ?

A. Une menace pour le procès équitable

1. Les vertus certaines

•  Meilleur accès au droit

•  Meilleure cohérence des décisions

Partie II. Les « logiciels prédictifs », menace pour
les droits fondamentaux processuels ?

2. Les vices probables

•  Risques pour les justiciables :
•  Inégalité d’accès à la justice
•  Effectivité de l’accès au juge ?
•  Inégalité devant le juge

•  Risques pour les juges :

•  Une menace pour l’impartialité du juge
•  Une menace pour l’indépendance du juge ?
Partie II. Les « logiciels prédictifs », menace
pour les droits fondamentaux processuels ?

B. Une menace pour la fonction juridictionnelle

1. Une menace pour la fonction du procès

•  Quelle place pour le procès lieu du social ?

•  Le droit à une jurisprudence évolutive

Partie II. B. Une menace pour l’équité du procès

2. Une menace pour la fonction de juger

•  Une justice sans droit

•  Un jugement sans humanité

•  La complexité du droit
 Conclusion

Hugo dans Matrix (1999) :

« N’envoyez jamais un humain faire le travail d’un programme ».

On peut répliquer, à l’inverse:

« N’envoyez jamais un programme faire le travail d’un humain ».

A méditer !