


"CHERcheursPanthéonAssas"
ASSOCIATION DES CHERCHEURS
PARIS-PANTHéON-ASSAS-UNIVERSITé
"CHERcheursPanthéonAssas"
LES ALGORITHMES DANS LE DROIT :
ILLUSIONS ET (R)ÉVOLUTIONS.
-
Dans Droit et société 2019/3 (N° 103), pages 501 à 515
Considérant que le droit est composé de discours, de savoirs, de normes et de matérialité coproduits de manière réciproque et permanente, les différentes contributions de ce dossier analysent comment l’introduction des technologies algorithmiques affecte les processus de production des services juridiques et, plus largement, le droit.
Les articles rassemblés ici éclairent en outre plusieurs facettes des interactions entre ces technologies et le droit, dans différents contextes nationaux (français, belge et néerlandais notamment) et divers contextes d’activité (administrations, entreprises, start-up, magistrature, avocature, conception juridique, etc.). Ils soulignent en outre l’importance des rencontres et des collaborations entre les professionnels du droit et ceux du monde informatique, sans occulter les difficultés inhérentes à ces interactions.
Ainsi, l’article d’Ivar Timmer et Rachel Rietveld offre un large panorama des systèmes de prise de et d’aide à la décision juridique utilisés aux Pays-Bas. Après les avoir distingués des systèmes basés sur les données, les auteurs rendent compte de l’usage croissant des systèmes se fondant sur des règles dans les prises de décisions administratives, dans la réalisation de tâches simples et routinières au sein des départements juridiques de grandes entreprises, dans l’aide et le conseil juridique destiné aux petites et moyennes entreprises (PME) et aux citoyens en matière de consommation, de droit social, de divorce, etc. Ils discutent ensuite les avantages et les enjeux de ces systèmes dits « experts », en traitant certaines questions cruciales relatives, notamment, à la qualité des services produits, aux conditions d’accès à ces derniers, à l’attitude – souvent empreinte de résistance – des professionnels, ou encore aux risques d’opacité et aux biais d’automatisation de ces systèmes déci-sionnels dus, le plus souvent, à des problèmes de conception ainsi qu’à leur nature même. Ensuite, la contribution de Christian Licoppe et Laurence Dumoulin analyse l’expérimentation d’un dispositif de justice prédictive auprès des magistrats d’une cour d’appel française.
Ce dispositif, que les juges peuvent consulter pour éclairer leurs propres décisions, intègre des bases de données de jugements et propose une distribution statistique des décisions antérieures portant sur différents types de contentieux. Cette étude de cas met en évidence les tensions révélées par le dispositif d’expérimentation entre, d’une part, les logiques participatives, collaboratives et intégratives suivies par la start-up qui a développé l’application et, d’autre part, les revendications d’indépendance et d’autonomie portées par les juges.
L’analyse montre également que, bien avant les développements judiciaires des technologies algorithmiques, la décision judiciaire est « équipée » par divers « investissements de forme » 60 tels que des trames informatiques pré-formatant l’écriture de la décision judiciaire, des « grilles » d’estimation d’indemnisation ou encore des « référentiels ». La mise en évidence de ces investissements de forme permet par conséquent de relativiser la portée des discours et des outils relatifs à la justice prédictive, lesquels oublient souvent que les contextes dans lesquels ils vont s’intégrer sont déjà équipés. Le texte de Christophe Dubois, Valérie Mansvelt et Pierre Delvenne concerne quant à lui le contexte dans lequel une politique publique de digitalisation de la Justice a été rendue possible grâce à la coopération de l’ordre des barreaux en Belgique.
Les auteurs retracent tout d’abord la genèse des réformes qui, au cours des vingt dernières années, ont successivement inscrit le nouveau management public, l’informatisation et la digitalisation à l’agenda des politiques de « modernisation » de la justice. Ils analysent ensuite les stratégies politiques et organisationnelles ayant permis aux ordres des barreaux francophones et néerlandophones de développer deux plateformes numériques indispensables pour mettre en œuvre la politique de digitalisation de la Justice. Cette étude éclaire d’une part l’engagement moral, politique et financier de l’ordre dans ce processus, lequel apparaît – mais est-ce vraiment le cas, et pour qui et pourquoi ? – comme une nécessité.
D’autre part, l’analyse permet de saisir les intérêts des acteurs impliqués et les opportunités qu’ils sont parvenus à saisir pour définir les moyens (digitalisation) davantage que les fins de cette entreprise de modernisation de la Justice. Enfin, la contribution de Stefan Larsson traite de certains enjeux légaux et normatifs de l’intelligence artificielle. En effet, il ne fait aucun doute que l’intelligence artificielle et les systèmes algorithmiques utilisant de grandes quantités de données peuvent rendre de nombreux processus plus efficaces et plus pertinents pour les usagers sur leur lieu de travail, dans leur gestion financière familiale, dans le partage de leurs informations personnelles et l’accès au savoir médical par exemple.
Mais la possible « personnalisation » des applications, de même que les capacités du machine-learning et la prise de décision automatisée posent un certain nombre de défis sociojuridiques, notamment lorsqu’il s’agit d’assurer la légitimité, l’équité, la délégation de responsabilité et la transparence des décisions automatisées.
Pour analyser les implications sociojuridiques de ces questions, l’auteur s’appuie sur certains cas problématiques concernant diverses situations sociales et marchandes telles que la reconnaissance d’images fondée sur des bases de données sexistes, l’implication de véhicules autonomes dans les accidents mortels et les défis normatifs relatifs à la conception de plateformes numériques à grande échelle. Enfin, il insiste sur la nécessité politique d’imposer des règles et des limites à ces développements technologiques.