{"id":2072,"date":"2022-04-22T19:39:43","date_gmt":"2022-04-22T17:39:43","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=2072"},"modified":"2022-09-02T01:48:31","modified_gmt":"2022-09-01T23:48:31","slug":"jurimetrie-lalea-judiciaire-dirige","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2022\/04\/22\/jurimetrie-lalea-judiciaire-dirige\/","title":{"rendered":"Jurim\u00e9trie\u00a0: l\u2019al\u00e9a judiciaire dirig\u00e9"},"content":{"rendered":"\n

De la certitude des pr\u00e9dictions \u00e0 l\u2019incertitude des probabilit\u00e9s<\/em><\/strong><\/p>\n\n\n\n

Texte pr\u00e9par\u00e9 et pr\u00e9sent\u00e9 dans le cadre du colloque \u00ab L\u2019intelligence artificielle et la fonction de juger \u00bb, organis\u00e9 \u00e0 la Cour de cassation le 21 avril 2022 par l\u2019Institut de recherche pour un droit attractif de l\u2019Universit\u00e9 Sorbonne Paris Nord (IRDA) et le Centre de droit civil des affaires et du contentieux \u00e9conomique (CEDCACE), axe justice judiciaire, amiable et num\u00e9rique de l\u2019Universit\u00e9 Paris Nanterre<\/em><\/p>\n\n\n\n

Texte publi\u00e9 le 22 avril 2022 et r\u00e9vis\u00e9 le 24 avril 2022 <\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

La r\u00e9surgence de l\u2019intelligence artificielle (\u00ab IA[1]<\/a> \u00bb) dans notre quotidien depuis le d\u00e9but des ann\u00e9es 2010 doit beaucoup \u00e0 la science statistique. Les diff\u00e9rentes m\u00e9thodes d\u2019apprentissage automatique empruntent en effet nombre d\u2019approches de la discipline, en traitant et en interpr\u00e9tant de grands ensembles de donn\u00e9es. Les r\u00e9sultats remarquables obtenus, notamment pour la reconnaissance d\u2019images ou de sons, ont conduit \u00e0 un vif enthousiasme des entrepreneurs qui ont cherch\u00e9 \u00e0 en g\u00e9n\u00e9raliser l\u2019application. Le secteur de la justice n\u2019a pas \u00e9chapp\u00e9 \u00e0 cette \u00e9volution en France, essentiellement \u00e0 l\u2019initiative de tr\u00e8s dynamiques startups sp\u00e9cialis\u00e9es dans le droit (legaltechs<\/em>), qui ont affin\u00e9 leurs offres depuis le milieu des ann\u00e9es 2010.<\/p>\n\n\n\n\n\n\n\n

La mode de la \u00ab justice pr\u00e9dictive \u00bb, apr\u00e8s un emballement assez typique des technologies num\u00e9riques si l\u2019on en croit les courbes d\u2019adoption de l\u2019innovation[2]<\/a>, para\u00eet maintenant s\u2019\u00eatre normalis\u00e9e avec des discours plus matures, moins centr\u00e9s sur la \u00ab pr\u00e9diction[3]<\/a> \u00bb que sur la recherche et l\u2019analyse juridique. Il doit \u00eatre constat\u00e9 que les narrations disruptives de certains jeunes entrepreneurs, typiques de la Silicon Valley, ont eu du mal \u00e0 convaincre largement les professionnels (notamment les magistrats), moins du fait de la r\u00e9sistance au changement que de la perception de la r\u00e9elle valeur ajout\u00e9e des outils propos\u00e9s (et de la d\u00e9ception en d\u00e9coulant)[4]<\/a>. Il semble maintenant que ce soit au tour du terme de \u00ab jurim\u00e9trie[5]<\/a> \u00bb d\u2019occuper l\u2019espace public, en lieu et place du marketing de la \u00ab justice pr\u00e9dictive \u00bb. Le glissement s\u00e9mantique a du sens, puisque ce terme, ressuscit\u00e9 des ann\u00e9es 1950[6]<\/a>, para\u00eet rev\u00eatir plus de scientificit\u00e9 et moins de parapsychologie.<\/p>\n\n\n\n

Le pr\u00e9sent propos n\u2019ambitionnera pas de proc\u00e9der \u00e0 une \u00e9tude critique des argumentaires commerciaux de ces offres, mais cherchera, au travers de cas concrets, \u00e0 ouvrir la r\u00e9flexion sur le sens exact de l\u2019information produite. Les r\u00e9sultats des outils mobilis\u00e9s, venant de la statistique ou des probabilit\u00e9s, paraissent devoir, a minima<\/em>, \u00eatre interpr\u00e9t\u00e9s avec beaucoup de pr\u00e9cautions et mis en perspective avec la place de la jurisprudence dans notre syst\u00e8me juridique. Des enseignements pourraient aussi \u00eatre tir\u00e9s \u00e0 la suite de l\u2019arr\u00eat de l\u2019exp\u00e9rimentation publique de l\u2019algorithme DataJust. Sauf \u00e0 consid\u00e9rer comme acceptable de voir des calculs, souvent bien opaques, s\u2019imposer comme une potentielle nouvelle source de droit, le march\u00e9 devrait donc \u00eatre s\u00e9rieusement r\u00e9gul\u00e9 pour \u00e9viter notamment des violations de l\u2019article 6 de la Convention europ\u00e9enne des droits de l\u2019homme (sous la perspective essentiellement de l\u2019acc\u00e8s au juge). La \u00ab proposition de r\u00e8glement sur l\u2019intelligence artificielle \u00bb en cours de discussion au sein des institutions de l\u2019Union europ\u00e9enne devrait consid\u00e9rer ces applications comme \u00e0 \u00ab haut risque \u00bb et leur imposer probablement une certification dans les ann\u00e9es \u00e0 venir. Apr\u00e8s un expos\u00e9 de la m\u00e9thode de la jurim\u00e9trie (I) et de ce qu\u2019elle entend r\u00e9v\u00e9ler (II), nous verrons ce qu\u2019elle r\u00e9v\u00e8le plus probablement (III) et les nombreux autres probl\u00e8mes de fond que son emploi soul\u00e8ve (IV).<\/p>\n\n\n\n

I. La jurim\u00e9trie : un emploi combin\u00e9 d\u2019apprentissage automatique, de probabilit\u00e9s et de statistique<\/strong><\/h2>\n\n\n\n

\u00c9tablir un profil type et approfondi des solutions de jurim\u00e9trie n\u2019est pas ais\u00e9. La propri\u00e9t\u00e9 intellectuelle et le secret des affaires prot\u00e8gent les r\u00e9alisations du secteur priv\u00e9 et les publications scientifiques, m\u00eame \u00e9manant directement ou indirectement des legaltechs<\/em>, ne documentent que tr\u00e8s partiellement les m\u00e9canismes en \u0153uvre[7]<\/a>. Il semble m\u00eame que des solutions ad hoc<\/em>, m\u00e9langeant plusieurs approches, soient parfois construites selon les types de contentieux \u00e0 traiter. Pour r\u00e9aliser cet \u00e9tat des lieux, nous croiserons donc plusieurs publications publiques, notamment une relative \u00e0 l\u2019indemnisation du pr\u00e9judice corporel[8]<\/a>. Il doit \u00eatre pr\u00e9cis\u00e9 qu\u2019en France, seuls certains contentieux de nature civile ou commerciale, avec des indemnisations chiffr\u00e9es \u2013 donc quantifiables, ont fait l\u2019objet de d\u00e9veloppements du secteur priv\u00e9 avec des outils qualifi\u00e9s \u00ab d\u2019IA[9]<\/a> \u00bb. Ce terme sera aussi \u00e0 interpr\u00e9ter de mani\u00e8re g\u00e9n\u00e9rale avec pr\u00e9caution, puisqu\u2019il peut d\u00e9signer des approches tout \u00e0 fait diff\u00e9rentes selon les op\u00e9rateurs, avec des cons\u00e9quences notables sur l\u2019explicabilit\u00e9 du fonctionnement du syst\u00e8me.<\/p>\n\n\n\n

L\u2019un des premiers cas significatifs d\u2019utilisation de \u00ab l\u2019IA \u00bb avec de la jurisprudence, largement \u00e9tudi\u00e9 et comment\u00e9 du fait de sa transparence et de sa documentation, est celui de l\u2019University College London (UCL) qui annon\u00e7ait pouvoir reproduire 79% des d\u00e9cisions de la Cour europ\u00e9enne des droits de l\u2019homme. En 2016, ces chercheurs avaient employ\u00e9 des algorithmes de traitement de langage naturel (NLP \u2013 Natural Language Processing<\/em>) et des machines \u00e0 vecteur de support (SVM \u2013 Support Vector Machine<\/em>) pour identifier des r\u00e9currences linguistiques dans 584 arr\u00eats de la juridiction et \u00e9mettre ainsi l\u2019hypoth\u00e8se que les m\u00eames constantes de termes juridiques menaient aux m\u00eames d\u00e9cisions[10]<\/a>. La t\u00e2che confi\u00e9e ici \u00e0 la machine est une t\u00e2che dite de \u00ab classification \u00bb, pour trier de mani\u00e8re \u00ab pr\u00e9dictive \u00bb les arr\u00eats constatant une violation de la Convention de ceux constatant une non-violation. Le processus \u00ab d\u2019entra\u00eenement \u00bb de la machine d\u00e9crit dans cette exp\u00e9rimentation est tout \u00e0 fait commun \u00e0 tous les emplois d\u2019apprentissage automatique (machine learning<\/em>) employ\u00e9 par les legaltechs<\/em>. L\u2019id\u00e9e est de regrouper une masse plus ou moins importante de d\u00e9cisions de justice et de la s\u00e9parer en deux groupes. Le premier groupe est employ\u00e9 pour \u00ab apprendre \u00bb \u00e0 la machine les constantes des d\u00e9cisions et le second groupe sert \u00e0 tester la fiabilit\u00e9 de cet apprentissage. L\u00e0 o\u00f9 les processus commencent \u00e0 diff\u00e9rer entre les diff\u00e9rentes solutions, c\u2019est, en amont, sur la mani\u00e8re de rendre intelligibles les d\u00e9cisions pour une machine et sur le choix de la forme d\u2019apprentissage.<\/p>\n\n\n\n

Au sens strict, ces deux approches ne sont pas de la statistique, puisqu\u2019il ne s\u2019agit pas d\u2019\u00e9tablir, pour des affaires similaires, une moyenne ou une m\u00e9diane d\u2019indemnisation par exemple<\/p><\/blockquote>\n\n\n\n

Dans cet autre exemple venant d\u2019une legaltech<\/em>[11]<\/a> en mati\u00e8re de contentieux de la r\u00e9paration du pr\u00e9judice corporel[12]<\/a>, il a \u00e9t\u00e9 retenu 7 000 arr\u00eats de cour d\u2019appel dans le domaine, permettant d\u2019informer chacun des 100 \u00e0 200 crit\u00e8res d\u00e9finis par les concepteurs pour exercer une influence sur la prise de d\u00e9cision[13]<\/a>. Il doit \u00eatre rappel\u00e9 que l\u2019exp\u00e9rimentation d\u2019utilisation de \u00ab l\u2019IA \u00bb men\u00e9e par le minist\u00e8re de la justice en France, sur le m\u00eame type de contentieux, regroupait moins d\u2019une cinquantaine de crit\u00e8res[14]<\/a>. Ici, l\u2019extraction des informations de ces d\u00e9cisions pour renseigner la centaine de crit\u00e8res n\u2019est pas automatis\u00e9e par un algorithme de traitement de langage naturel. Ce sont des juristes qui op\u00e8rent ce traitement et traduisent ainsi pour la machine les informations qui vont lui \u00eatre utiles. La machine est ensuite entra\u00een\u00e9e avec 5 000 de ces 7 000 d\u00e9cisions \u00ab traduites \u00bb, pour chercher \u00e0 \u00e9tablir des liens (corr\u00e9lations) entre la centaine de crit\u00e8res et le montant de l\u2019indemnisation. La solidit\u00e9 des param\u00e9trages du mod\u00e8le math\u00e9matique ainsi constitu\u00e9 est v\u00e9rifi\u00e9e \u00e0 l\u2019aide des 2 000 d\u00e9cisions restantes, en testant si l\u2019emploi des valeurs particuli\u00e8res de ces affaires, renseign\u00e9es dans la centaine de crit\u00e8res, permet de se rapprocher du montant d\u2019indemnisation effectivement prononc\u00e9. Cette forme d\u2019apprentissage para\u00eet s\u2019apparenter \u00e0 de la r\u00e9gression lin\u00e9aire, c\u2019est-\u00e0-dire \u00e0 une recherche de relation entre une variable dite expliqu\u00e9e (le montant de l\u2019indemnisation) et une ou plusieurs variables dites explicatives (la centaine de crit\u00e8res choisis).<\/p>\n\n\n\n

Au sens strict, ces deux approches ne sont pas de la statistique[15]<\/a>, puisqu\u2019il ne s\u2019agit pas d\u2019\u00e9tablir, pour des affaires similaires, une moyenne ou une m\u00e9diane d\u2019indemnisation par exemple[16]<\/a>. L\u2019id\u00e9e est d\u2019\u00e9tablir un mod\u00e8le math\u00e9matique permettant, avec l\u2019introduction de nouvelles donn\u00e9es d\u2019entr\u00e9e, de \u00ab pr\u00e9dire \u00bb une donn\u00e9e de sortie. Au sens large, des moteurs de recherche avanc\u00e9s, permettant par exemple de pr\u00e9senter de mani\u00e8re graphique des distributions de d\u00e9cisions en fonction des montants d\u2019indemnisation, pourraient \u00eatre consid\u00e9r\u00e9s \u00e9galement comme une forme moins sophistiqu\u00e9e de  jurim\u00e9trie.<\/p>\n\n\n\n

II. Ce que la jurim\u00e9trie entend r\u00e9v\u00e9ler<\/strong><\/h2>\n\n\n\n

L\u2019objectif annonc\u00e9 par les legaltechs<\/em> a \u00e9volu\u00e9 en France, m\u00eame si certaines sont rest\u00e9es tr\u00e8s prudentes d\u00e8s leur lancement. La capacit\u00e9 de \u00ab pr\u00e9dire \u00bb le montant d\u2019une indemnisation dans divers contentieux (divorce, licenciement, r\u00e9paration du pr\u00e9judice corporel, rupture brutale des relations commerciales, etc.), avec une valeur ajout\u00e9e bien incertaine notamment \u00e0 l\u2019issue d\u2019une exp\u00e9rimentation dans les cours d\u2019appel de Rennes et de Douai[17]<\/a>, n\u2019est plus mise en avant par les op\u00e9rateurs. Il y est aujourd\u2019hui pr\u00e9f\u00e9r\u00e9 \u00ab la recherche et l\u2019analyse \u00bb, \u00ab l\u2019analyse du risque juridique \u00bb ou la \u00ab ma\u00eetrise de l\u2019al\u00e9a du quantum \u00bb o\u00f9 l\u2019appr\u00e9ciation de la probabilit\u00e9 de la r\u00e9solution d\u2019un litige a donc remplac\u00e9 la tr\u00e8s ambitieuse \u00ab pr\u00e9diction \u00bb.<\/p>\n\n\n\n

Autrement dit, l\u2019id\u00e9e se rapproche maintenant plus d\u2019\u00e9tablir des bar\u00e8mes dynamiques distribu\u00e9s par probabilit\u00e9 de prononc\u00e9 d\u2019un montant d\u2019indemnisation par une juridiction. Si certains \u00e9diteurs juridiques produisaient d\u00e9j\u00e0 ce type de repr\u00e9sentation dans des moteurs de recherche, au moyen d\u2019un d\u00e9nombrement de d\u00e9cisions pr\u00e9sentant des crit\u00e8res communs, les deux exemples \u00e9voqu\u00e9s cherchent \u00e0 tirer avantage de diverses formes d\u2019apprentissage automatique pour mod\u00e9liser math\u00e9matiquement un traitement contentieux. Une legaltech <\/em>annonce ainsi \u00eatre parvenue \u00e0 \u00ab reproduire le raisonnement des magistrats \u00bb. Son originalit\u00e9 est de ne pas pr\u00e9senter \u00e0 ses utilisateurs qu\u2019un seul r\u00e9sultat issu de leur mod\u00e8le math\u00e9matique, mais une distribution de 100 \u00ab solutions \u00bb calcul\u00e9es de mani\u00e8re concurrente avec diff\u00e9rents param\u00e8tres (baptis\u00e9e \u00ab juges virtuels \u00bb), cens\u00e9e couvrir les diversit\u00e9s des pratiques et embrasser l\u2019ensemble des r\u00e9ponses possibles des juridictions[18]<\/a>. Les concepteurs enrichissent de plus le mod\u00e8le de mani\u00e8re continue avec de nouvelles d\u00e9cisions afin de le faire \u00e9voluer avec la pratique des juridictions et de ne pas \u00eatre qu\u2019un simple \u00ab r\u00e9troviseur \u00bb sur le pass\u00e9.<\/p>\n\n\n\n

La jurim\u00e9trie para\u00eet donc pr\u00e9sent\u00e9e aujourd\u2019hui bien plus en compl\u00e9ment d\u2019une d\u00e9marche globale de d\u00e9termination d\u2019une strat\u00e9gie pour un traitement contentieux que comme une solution en elle-m\u00eame. <\/p><\/blockquote>\n\n\n\n

Une autre ambition consiste \u00e9galement \u00e0 chercher \u00e0 r\u00e9v\u00e9ler, dans un esprit de \u00ab r\u00e9alisme juridique[19]<\/a>\u00bb, les pratiques concr\u00e8tes des juges. Une legaltech<\/em> a ainsi document\u00e9 ce qu\u2019elle appelle \u00ab le sourire d\u2019indemnisation[20]<\/a> \u00bb en mati\u00e8re de r\u00e9paration du pr\u00e9judice corporel. Les concepteurs de cette solution affirment avoir identifi\u00e9 un lien entre le montant de l\u2019indemnisation prononc\u00e9e par les juges et le montant propos\u00e9 initialement \u00e0 la victime, confortant l\u2019id\u00e9e que faire une offre trop basse peut exposer un assureur \u00e0 devoir payer plus que s\u2019il avait choisi de se montrer plus g\u00e9n\u00e9reux. Un article post\u00e9 sur les r\u00e9seaux sociaux et leur site internet montre une courbe en forme de sourire dans un graphique liant, en abscisse, la proposition des assureurs et, en ordonn\u00e9e, le montant de l\u2019indemnisation prononc\u00e9e par les cours d\u2019appel. La mod\u00e9lisation du contentieux d\u00e9montrerait ainsi qu\u2019il existerait une proposition \u00ab optimale \u00bb pour limiter l\u2019\u00e9cart entre les deux. Cette intuition est aussi qualifi\u00e9e par un sondage informel d\u2019une quarantaine de magistrats (sondage tout \u00e0 fait reconnu comme \u00e9tant peu rigoureux et simplement indicatif par la legaltech<\/em>). Selon cet \u00e9chantillon de professionnel, un tiers des magistrats corrigeraient effectivement d\u2019eux-m\u00eames les propositions manifestement peu r\u00e9alistes, un autre tiers se rapprocherait de la demande la plus r\u00e9aliste et un dernier tiers n\u2019examinerait aucune des propositions, sauf pour s\u2019assurer qu\u2019il ne statuerait pas ultra petita<\/em>[21]<\/a>.<\/p>\n\n\n\n

La jurim\u00e9trie para\u00eet donc pr\u00e9sent\u00e9e aujourd\u2019hui bien plus en compl\u00e9ment d\u2019une d\u00e9marche globale de d\u00e9termination d\u2019une strat\u00e9gie pour un traitement contentieux que comme une solution en elle-m\u00eame. C\u2019est pourquoi ces outils int\u00e9resseront bien plus les avocats, les directions juridiques ou les compagnies d\u2019assurances, qui cherchent \u00e0 provisionner leur risque, que les magistrats. Il faut dire que le raisonnement judiciaire est surtout affaire d\u2019appr\u00e9ciation et d\u2019interpr\u00e9tation, celles des faits prouv\u00e9s et pertinents du litige, et des r\u00e8gles de droit applicables, afin d\u2019\u00e9laborer une d\u00e9cision individualis\u00e9e au cas d\u2019esp\u00e8ce et non pas de r\u00e9aliser une quantification des solutions pr\u00e9c\u00e9dentes.<\/p>\n\n\n\n

III. Ce que la jurim\u00e9trie r\u00e9v\u00e8le (probablement)<\/strong><\/h2>\n\n\n\n

Un premier constat pourrait \u00eatre dress\u00e9 : m\u00eame si le discours a chang\u00e9, l\u2019ambition est la m\u00eame. Rappelons que l\u2019objectif des probabilit\u00e9s est bien de d\u00e9terminer la chance (ou le risque) qu\u2019un \u00e9v\u00e9nement al\u00e9atoire se produise. Donc, m\u00eame si le terme de jurim\u00e9trie para\u00eet renvoyer \u00e0 des disciplines \u00e0 forte scientificit\u00e9 comme l\u2019\u00e9conom\u00e9trie (et non de vagues \u00ab pr\u00e9dictions \u00bb), une certaine prudence reste de mise avec les discours commerciaux trop enthousiastes.<\/p>\n\n\n\n

La d\u00e9marche n\u2019ambitionne donc \u00e0 aucun moment de reproduire un code informatique explicite imitant le raisonnement juridique ni d\u2019\u00e9tablir \u00e0 proprement parler des statistiques g\u00e9n\u00e9rales<\/p><\/blockquote>\n\n\n\n

Sur le fond, la construction d\u2019un mod\u00e8le math\u00e9matique bas\u00e9 sur un nombre plus ou moins grand de crit\u00e8res pour identifier des r\u00e9gularit\u00e9s n\u2019a rien de commun avec la compr\u00e9hension et l\u2019analyse d\u2019un raisonnement juridique. Annoncer que \u00ab l\u2019intelligence artificielle a appris \u00e0 reproduire le raisonnement des magistrats \u00bb est donc un raccourci qui doit \u00eatre explicit\u00e9 : en utilisant de l\u2019apprentissage automatique, il n\u2019a pas \u00e9t\u00e9 cherch\u00e9 \u00e0 \u00e9tablir une cartographie des \u00e9tapes d\u2019une r\u00e9flexion humaine. L\u2019objectif est de mod\u00e9liser math\u00e9matiquement un \u00ab ordre secondaire \u00bb, cach\u00e9 et impersonnel produisant, pour un jeu d\u2019informations d\u2019entr\u00e9e, un r\u00e9sultat proche d\u2019un traitement humain. La d\u00e9marche n\u2019ambitionne donc \u00e0 aucun moment de reproduire un code informatique explicite imitant le raisonnement juridique ni d\u2019\u00e9tablir \u00e0 proprement parler des statistiques g\u00e9n\u00e9rales dans ce domaine contentieux. \u00ab L\u2019apprentissage \u00bb de la machine produit en r\u00e9alit\u00e9 une \u00e9quation relativement peu intelligible dont le bon fonctionnement est valid\u00e9 si l\u2019introduction de donn\u00e9es de test permet d\u2019obtenir un r\u00e9sultat proche de la r\u00e9alit\u00e9.<\/p>\n\n\n\n

Les concepteurs ont donc peu d\u2019int\u00e9r\u00eat pour le sens du mod\u00e8le \u00e9tabli et son explicabilit\u00e9 puisqu\u2019ils se satisfont, comme dans d\u2019autres domaines d\u2019application de \u00ab l\u2019IA \u00bb, de constater que \u00ab cela fonctionne \u00bb. Apr\u00e8s tout, est-ce que nous avons besoin de savoir comment notre cerveau fonctionne pour en exploiter ses capacit\u00e9s ? C\u2019est cet exact raisonnement qui avait conduit le r\u00e9dacteur en chef de Wired, c\u00e9l\u00e8bre revue am\u00e9ricaine sur les technologies, \u00e0 d\u00e9clarer obsol\u00e8te la th\u00e9orie scientifique, les corr\u00e9lations primant, selon lui, sur les causalit\u00e9s[22]<\/a>. Appliqu\u00e9e \u00e0 la jurisprudence, la compr\u00e9hension des exactes raisons, juridiques ou psychologiques, ayant pu conduire \u00e0 telle ou telle issue n\u2019est donc pas indispensable pour construire un mod\u00e8le math\u00e9matique. L\u2019id\u00e9e est d\u2019emprunter un tout autre chemin, abstrait, insensible aux contingences de chaque dossier et aux strat\u00e9gies individuelles des parties, pour r\u00e9v\u00e9ler une \u00ab loi \u00bb, au sens math\u00e9matique. La tr\u00e8s grande complexit\u00e9 et l\u2019intelligibilit\u00e9 de cette loi importent peu si, appliqu\u00e9es \u00e0 des faits jamais observ\u00e9s par la machine, l\u2019on parvient \u00e0 en extrapoler des r\u00e9sultats relativement r\u00e9alistes.<\/p>\n\n\n\n

Il est vrai que l\u2019approche math\u00e9matique de ph\u00e9nom\u00e8nes avec de forts al\u00e9as n\u2019a rien d\u2019original, et c\u2019est m\u00eame tout l\u2019objet des \u00ab sciences de l\u2019al\u00e9atoire \u00bb. Nombre de ph\u00e9nom\u00e8nes, dont les plus improbables \u00e0 un niveau fin d\u2019observation, semblent en effet r\u00e9pondre \u00e0 des \u00ab lois \u00bb impersonnelles et spontan\u00e9es que les algorithmes d\u2019apprentissage excellent \u00e0 r\u00e9v\u00e9ler. Il a pu ainsi \u00eatre d\u00e9montr\u00e9 qu\u2019\u00e0 une \u00e9chelle globale, il existe un \u00ab ordre cach\u00e9 \u00bb du basket, obtenu par l\u2019agr\u00e9gation de 1,25 million de scores dans 40 000 parties. Si cet \u00ab ordre \u00bb n\u2019est recherch\u00e9 par aucun des protagonistes d\u2019un match et ne permet pas de pr\u00e9dire l\u2019issue d\u2019un match, il parvient en revanche de pr\u00e9dire le nombre de fois o\u00f9 une \u00e9quipe m\u00e8ne puis est men\u00e9e au cours d\u2019un match, ainsi que la probabilit\u00e9 qu\u2019un certain nombre de points d\u2019avance suffise \u00e0 remporter le match \u00e0 quelques minutes de la fin[23]<\/a>.<\/p>\n\n\n\n

Mais dans le cas des contentieux judiciaires ainsi traduits en mod\u00e8les math\u00e9matiques, qu\u2019est-ce qui est effectivement traduit ? Il est loin d\u2019\u00eatre s\u00fbr que ce soit effectivement un ordre spontan\u00e9 capturant l\u2019essence du raisonnement des juges. D\u2019autres hypoth\u00e8ses pourraient \u00eatre test\u00e9es, en revenant \u00e0 une \u00e9vidence : la mati\u00e8re trait\u00e9e par les algorithmes est avant tout linguistique. Ainsi, est-ce l\u2019on ne r\u00e9v\u00e8lerait pas plut\u00f4t simplement l\u2019homog\u00e9n\u00e9it\u00e9 linguistique (r\u00e9gularit\u00e9 de termes ou de concepts) ou quantitative (pour les contentieux chiffr\u00e9s) du mat\u00e9riel \u00e9crit que repr\u00e9sente une d\u00e9cision de justice ? Pour le dire autrement, la similarit\u00e9 formelle d\u2019une nouvelle d\u00e9cision ou d\u2019\u00e9l\u00e9ments de cette d\u00e9cision avec les pr\u00e9c\u00e9dentes, ce qui est tout \u00e0 fait distinct de l\u2019application de la r\u00e8gle de droit. Ainsi, l\u2019exemple de la machine entra\u00een\u00e9e par l\u2019UCL avec la jurisprudence de la CEDH a en r\u00e9alit\u00e9 \u00ab appris \u00bb la fr\u00e9quence de mots dans les d\u00e9cisions de violations (ou de non-violations). D\u2019autres recherches ont comment\u00e9 ces travaux en rappelant notamment que la meilleure pr\u00e9dictibilit\u00e9 de la partie factuelle d\u2019une d\u00e9cision par rapport \u00e0 la partie d\u2019analyse juridique devrait conduire avant tout \u00e0 conclure\u2026 que l\u2019on ne peut pas conclure \u00e0 grand-chose[24]<\/a>. Outre la restitution de l\u2019activit\u00e9 de la Cour (le terme \u00ab Ukraine \u00bb apparait comme un pr\u00e9dictif de violation au visa de l\u2019article 3 de la CEDH), il serait int\u00e9ressant de voir si ce traitement ne r\u00e9v\u00e8le pas aussi d\u2019autres pratiques comme l\u2019utilisation de mod\u00e8les de d\u00e9cision par le greffe. Moins qu\u2019un mod\u00e8le permettant de la pr\u00e9vision, l\u2019on aurait donc plut\u00f4t affaire \u00e0 la description du vocabulaire employ\u00e9 dans le jeu de donn\u00e9es d\u2019apprentissage et \u00e0 l\u2019\u00e9valuation des r\u00e9gularit\u00e9s linguistiques. Le m\u00eame constat est \u00e0 dresser avec les autres emplois de l\u2019apprentissage automatique et la recherche de relations entre variables. La r\u00e9currence de liens entre l\u2019\u00e2ge des parties, la dur\u00e9e du mariage, les salaires, le nombre d\u2019enfants et le montant d\u2019une prestation compensatoire ne sera que la description de l\u2019\u00e9tat des relations entre ces variables dans le jeu de donn\u00e9es d\u2019entra\u00eenement, dans un environnement tr\u00e8s contraint par des r\u00e8gles, avec toute l\u2019incertitude li\u00e9e au risque de corr\u00e9lations fallacieuses[25]<\/a> ou \u00e0 des discriminations inattendues du fait de \u00ab variables proxys[26]<\/a> \u00bb. La signification de l\u2019extrapolation avec de nouvelles donn\u00e9es, m\u00eame distribu\u00e9e en utilisant diff\u00e9rents param\u00e8tres, reste tr\u00e8s ind\u00e9termin\u00e9e. Tout comme pour le basket, o\u00f9 les chercheurs ont conclu que les r\u00e9gularit\u00e9s provenaient vraisemblablement de \u00ab contraintes communes sur le comportement collectif \u00bb, cet ordre nous renseigne peut-\u00eatre plus sur la rigueur d\u2019application d\u2019une r\u00e8gle que sur la mani\u00e8re d\u2019interpr\u00e9ter effectivement cette r\u00e8gle ou m\u00eame l\u2019intention du juge[27]<\/a>. <\/p>\n\n\n\n

C\u2019est d\u2019ailleurs bien pour cela que dans certaines legaltechs<\/em> ont fait le choix de pr\u00e9senter les montants calcul\u00e9s sous forme de probabilit\u00e9, renvoyant \u00e0 l\u2019utilisateur la responsabilit\u00e9 de l\u2019interpr\u00e9tation. La m\u00e9thode laisse par ailleurs le champ ouvert \u00e0 une explication a posteriori<\/em> o\u00f9 l\u2019on gagne chaque fois : si le montant effectivement prononc\u00e9 se trouve dans la fourchette majoritaire, l\u2019algorithme l\u2019aura pr\u00e9vu ; si le montant se trouve dans l\u2019une des fourchettes minoritaires, l\u2019algorithme l\u2019aura aussi pr\u00e9vu. \u00c0 se demander si une approche moins complexe, sans apprentissage automatique, bornant simplement les minima<\/em> et les maxima<\/em> d\u2019affaires relativement similaires, ne fournirait finalement pas le m\u00eame service[28]<\/a>.<\/p>\n\n\n\n

IV. Les probl\u00e8mes de fond communs \u00e0 toutes les initiatives de jurim\u00e9trie<\/strong><\/h2>\n\n\n\n

Avant de conclure sur les importants probl\u00e8mes de fond communs \u00e0 toutes les initiatives de jurim\u00e9trie, il doit \u00eatre constat\u00e9 que ceux-ci sont malheureusement trop souvent minimis\u00e9s ou renvoy\u00e9s \u00e0 des d\u00e9bats d\u2019experts. Fortement inspir\u00e9s de l\u2019h\u00e9ritage id\u00e9ologique de Hayek, nombre de discours aujourd\u2019hui paraissent simplement \u00ab croire \u00bb \u00e0 la fois \u00e0 un monde d\u00e9terministe et aux m\u00e9rites d\u2019un ordre spontan\u00e9 pour organiser les affaires humaines, surtout s\u2019il est r\u00e9v\u00e9l\u00e9 par des algorithmes. Pourtant, l\u2019interpr\u00e9tation des mod\u00e8les produits par l\u2019emploi de \u00ab l\u2019IA \u00bb sur de la jurisprudence n\u00e9cessiterait un travail extr\u00eamement approfondi de revue par les pairs avant de conclure \u00e0 quoi que ce soit.<\/p>\n\n\n\n

La premi\u00e8re difficult\u00e9 \u00e0 soulever est une question pr\u00e9alable pourtant fondamentale, mais peu trait\u00e9e quand l\u2019on discute de \u00ab jurim\u00e9trie \u00bb : quelle est la place exacte de la jurisprudence dans notre syst\u00e8me juridique ? Si l\u2019on essaye de la situer en tant que source de droit, l\u2019apport de la masse des d\u00e9cisions de premi\u00e8re instance et d\u2019appel reste tr\u00e8s peu significatif et l\u2019on devrait s\u2019interroger d\u00e8s lors sur la normativit\u00e9 de cet ensemble si impatiemment attendu sous le format d\u2019open data<\/em>. Ce n\u2019est pas un hasard si le \u00ab r\u00e9alisme juridique \u00bb nous vient d\u2019un pays de Common Law, o\u00f9 l\u2019entier syst\u00e8me repose sur les pr\u00e9c\u00e9dents. Il y aurait donc une erreur d\u2019interpr\u00e9tation par les legaltechs<\/em> du r\u00f4le, de la place et m\u00eame de la teneur d\u2019une d\u00e9cision de justice en France, du m\u00eame niveau qu\u2019appeler \u00ab votre Honneur \u00bb le juge ou en se demandant pourquoi il ne dispose pas d\u2019un marteau.<\/p>\n\n\n\n

Si l\u2019on admet toutefois l\u2019int\u00e9r\u00eat de chercher \u00e0 mieux conna\u00eetre la production des tribunaux par un formalisme math\u00e9matique, toute une autre s\u00e9rie de difficult\u00e9s demeure.<\/p>\n\n\n\n

Cette probl\u00e9matique renvoie aussi \u00e0 l\u2019id\u00e9e, fortement r\u00e9pandue chez les non-juristes ou des juristes peu exp\u00e9riment\u00e9s, que le mat\u00e9riel de la d\u00e9cision judiciaire contient tous les \u00e9l\u00e9ments n\u00e9cessaires \u00e0 son exploitation<\/p><\/blockquote>\n\n\n\n

L\u2019une des difficult\u00e9s les plus structurelles tient \u00e0 la qualit\u00e9 des donn\u00e9es employ\u00e9es pour concevoir les mod\u00e8les. La s\u00e9lection de d\u00e9cisions op\u00e9r\u00e9e pour correspondre \u00e0 un cadre d\u2019analyse laisse de c\u00f4t\u00e9 un nombre potentiellement substantiel de d\u00e9cisions, dont l\u2019int\u00e9r\u00eat pour enrichir la diversit\u00e9 du mod\u00e8le aurait pu \u00eatre d\u00e9cisif. Pour le reformuler, ce \u00ab datasnooping<\/em> \u00bb conduit \u00e0 un biais dans les donn\u00e9es, pour ne s\u00e9lectionner par exemple que les seules d\u00e9cisions de juridictions ou de formations au contenu particuli\u00e8rement riche et adapt\u00e9 pour l\u2019entra\u00eenement. Les d\u00e9cisions se bornant, sur le fondement de l\u2019art.455 du code de proc\u00e9dure civile, \u00e0 effectuer un visa aux \u00e9critures des parties pour exposer les pr\u00e9tentions des parties sont-elles employables par exemple ? De mani\u00e8re plus sp\u00e9cifique sur le contentieux de la r\u00e9paration du pr\u00e9judice corporel, rien n\u2019indique si des transactions ont pu intervenir sur certains postes de pr\u00e9judice, minorant ainsi sensiblement les donn\u00e9es chiffr\u00e9es d\u2019apprentissage.<\/p>\n\n\n\n

De mani\u00e8re g\u00e9n\u00e9rale, cette probl\u00e9matique renvoie aussi \u00e0 l\u2019id\u00e9e, fortement r\u00e9pandue chez les non-juristes ou des juristes peu exp\u00e9riment\u00e9s, que le mat\u00e9riel de la d\u00e9cision judiciaire contient tous les \u00e9l\u00e9ments n\u00e9cessaires \u00e0 son exploitation. M\u00eame si la th\u00e9orie juridique et la compr\u00e9hension des causes paraissent quelque peu indiff\u00e9rentes \u00e0 certains concepteurs des legaltechs<\/em>, il doit \u00eatre rappel\u00e9 que la formalisation d\u2019un jugement n\u2019est qu\u2019une traduction a posteriori<\/em> sous la forme d\u2019un syllogisme, permettant de justifier la validit\u00e9 d\u2019un raisonnement juridique pour en d\u00e9duire une solution. Deux raisonnements valides dans un ordre juridique donn\u00e9 peuvent aboutir \u00e0 des d\u00e9cisions parfaitement conformes en droit, mais diam\u00e9tralement oppos\u00e9es. Cette \u00ab texture ouverte du droit \u00bb est tout ce que les mod\u00e8les ne parviendront jamais \u00e0 capturer, aplatissant tous les raisonnements isol\u00e9s ou aberrants (statistiquement) dans des grands nombres.<\/p>\n\n\n\n

L\u2019apprentissage automatique ne permettant pas de revenir du mod\u00e8le math\u00e9matique aux d\u00e9cisions d\u2019apprentissage, l\u2019on se prive \u00e9galement d\u2019une indispensable capacit\u00e9 \u00e0 \u00ab zoomer \u00bb sur ce qui a influenc\u00e9 l\u2019entra\u00eenement. En l\u2019absence de certification du processus d\u2019alimentation des algorithmes des legaltechs<\/em>, rien aujourd\u2019hui ne permet de d\u00e9montrer que le mod\u00e8le ne fait pas l\u2019objet de biais, volontaires ou involontaires. Si ces applications de \u00ab l\u2019IA \u00bb se g\u00e9n\u00e9ralisent et influencent effectivement le choix d\u2019aller en justice ou les d\u00e9bats, il deviendra indispensable de d\u00e9montrer que les calculs ne sont pas favorables \u00e0 certains int\u00e9r\u00eats, en ayant \u00e9t\u00e9 infl\u00e9chis par des jeux de d\u00e9cisions favorables \u00e0 l\u2019un des investisseurs de la legaltech<\/em> par exemple. Le pouvoir de s\u00e9lectionner les d\u00e9cisions et de d\u00e9terminer les caract\u00e9ristiques qui vont influencer l\u2019entra\u00eenement est central dans ce type de d\u00e9marche et il peut para\u00eetre peu opportun de le d\u00e9l\u00e9guer \u00e0 des entit\u00e9s priv\u00e9es, sans aucune l\u00e9gitimit\u00e9 d\u00e9mocratique.<\/p>\n\n\n\n

Une autre difficult\u00e9 est d\u2019ordre plus th\u00e9orique, mais a \u00e9t\u00e9 bien illustr\u00e9e dans un article publi\u00e9 par l\u2019un des concepteurs de ces syst\u00e8mes[29]<\/a>. L\u2019id\u00e9e, avec ces dispositifs calculatoires, est clairement de faire \u00e9merger une nouvelle forme de normativit\u00e9 (qualifi\u00e9e dans l\u2019article cit\u00e9 \u00ab d\u2019isom\u00e9trique \u00bb) conciliant \u00ab une meilleure connaissance de l\u2019application de la r\u00e8gle de droit, une homog\u00e9n\u00e9isation de la justice qui renforce la confiance des citoyens, et une stabilit\u00e9 de la norme par la prise en compte de la pens\u00e9e collective des magistrats \u00bb.<\/p>\n\n\n\n

Mais cette normativit\u00e9 fait \u00e9merger en r\u00e9alit\u00e9 une toute nouvelle forme d\u2019\u00c9tat, au sein de laquelle la primaut\u00e9 du droit n\u2019est plus assur\u00e9e. S\u2019il a \u00e9t\u00e9 abondamment \u00e9crit sur la gouvernementalit\u00e9 des nombres[30]<\/a>, la gouvernementalit\u00e9 algorithmique[31]<\/a> ou le \u00ab coup data[32]<\/a> \u00bb, il faut bien prendre conscience que l\u2019ambition de la jurim\u00e9trie est autant de chercher \u00e0 r\u00e9duire l\u2019al\u00e9a judiciaire que de devenir une source \u00e0 part enti\u00e8re de normativit\u00e9 \u00e0 part enti\u00e8re, sans pour autant assurer la pleine accessibilit\u00e9 et la transparence de son fonctionnement. Si une d\u00e9cision de justice est accessible \u00e0 tous, au prix d\u2019un effort de compr\u00e9hension du langage juridique, le mod\u00e8le math\u00e9matique restera, lui, insondable m\u00eame pour ses concepteurs. Sans parler des risques de transformer le juge en arbitre entre des algorithmes produisant des probabilit\u00e9s diff\u00e9rentes, au d\u00e9triment de son office premier, qui est d\u2019appliquer le droit.<\/p>\n\n\n\n

Bien entendu, les biais humains des juges ne sont certainement pas plus acceptables que les biais algorithmiques, mais ces derniers sont malheureusement souvent trop bien enfouis sous un vernis de modernit\u00e9 et une neutralit\u00e9 fallacieuse. Un juge est d\u2019abord s\u00e9lectionn\u00e9 pour ses qualit\u00e9s professionnelles et humaines. Il est ensuite longuement form\u00e9 pour justifier de ses d\u00e9cisions. Il n\u2019est enfin jamais seul, puisque des appels sont possibles. Aucune de ces garanties ne s\u2019applique \u00e0 des machines, dont l\u2019\u00e9laboration r\u00e9pond avant tout \u00e0 des int\u00e9r\u00eats particuliers. De mani\u00e8re tout \u00e0 fait substantielle, c\u2019est donc le d\u00e9ficit d\u00e9mocratique de cet \u00ab \u00c9tat des algorithmes \u00bb qui devrait nous pr\u00e9occuper avec urgence, puisqu\u2019il op\u00e8re un transfert in\u00e9dit de responsabilit\u00e9 vers des concepteurs qui n\u2019ont d\u2019autre mandat que la viabilit\u00e9 de leurs entreprises et le respect de leurs engagements envers leurs investisseurs.<\/p>\n\n\n\n

La derni\u00e8re difficult\u00e9 qui sera \u00e9voqu\u00e9e ici est d\u2019ordre technique et tient \u00e0 la fragilit\u00e9 des mod\u00e8les entra\u00eenant dans un syst\u00e8me juridique de droit continental. Si l\u2019on comprend que les variations d\u2019interpr\u00e9tation ont vocation \u00e0 coloniser progressivement les mod\u00e8les math\u00e9matiques par de nouveaux entra\u00eenements, deux questions demeurent : a) si une interpr\u00e9tation, m\u00eame tr\u00e8s minoritaire, entra\u00eene un revirement rapide de jurisprudence comment le mod\u00e8le s\u2019adapte ? ; b) si la loi change, que faire du mod\u00e8le si savamment entra\u00een\u00e9 ? De m\u00eame, si l\u2019on consid\u00e8re qu\u2019un sens \u00e9merge de la somme des pratiques professionnelles des magistrats, l\u2019impact de leur forte mobilit\u00e9 sur la qualit\u00e9 des mod\u00e8les est alors \u00e0 consid\u00e9rer. Ces simples questions d\u00e9montrent que la construction de cath\u00e9drales algorithmiques est extr\u00eamement fragile quand, par nature, les fondations sont mouvantes. Si l\u2019on risque relativement peu de r\u00e9volution en entra\u00eenant une machine \u00e0 distinguer un chat d\u2019un chien, la mati\u00e8re juridique s\u2019av\u00e8re bien plus versatile.<\/p>\n\n\n\n

La fragilit\u00e9 de ces mod\u00e8les tient aussi \u00e0 leur extr\u00eame sensibilit\u00e9 aux biais, parfois renforc\u00e9s au travers de \u00ab variables proxys \u00bb paraissant anodines, mais avantageant (ou d\u00e9savantageant) une cat\u00e9gorie sensible de population. L\u2019exemple de l\u2019algorithme am\u00e9ricain COMPAS en mati\u00e8re d\u2019\u00e9valuation du risque de r\u00e9cidive est certainement le plus c\u00e9l\u00e8bre et le mieux document\u00e9 : c\u2019est bien le code postal qui a indirectement qualifi\u00e9 l\u2019origine ethnique des individus et a conduit \u00e0 appliquer un haut score de r\u00e9cidive \u00e0 toutes les populations afro-am\u00e9ricaines. Il ne semblerait pas d\u00e9raisonnable de devoir tester ces mod\u00e8les, m\u00eame en mati\u00e8re civile, pour voir si la localisation g\u00e9ographique d\u2019un contentieux ne conduit pas indirectement \u00e0 proposer des indemnisations plus basses \u00e0 des justiciables d\u2019immigration r\u00e9cente par exemple.<\/p>\n\n\n\n

C\u2019est pourquoi le futur r\u00e8glement europ\u00e9en sur l\u2019intelligence artificielle va vraisemblablement classer les syst\u00e8mes d\u2019IA comme \u00e9tant \u00ab \u00e0 haut risque \u00bb et leur imposer une proc\u00e9dure de certification. Il peut \u00eatre esp\u00e9r\u00e9 que ces proc\u00e9dures parviennent \u00e0 op\u00e9rer une s\u00e9lection de ces syst\u00e8mes, pour leur permettre de se d\u00e9ployer avec des fonctionnalit\u00e9s moins pol\u00e9miques et plus matures. Qu\u2019il s\u2019agisse d\u2019un moteur de recherche, de la recherche d\u2019arguments ou de preuves pouvant int\u00e9resser une proc\u00e9dure (legal discovery<\/em>), les applications imaginables de \u00ab l\u2019IA \u00bb ne manquent pas.<\/p>\n\n\n\n

La g\u00e9n\u00e9ralisation de la jurim\u00e9trie, en revanche, requiert le temps de l\u2019\u00e9tude et ne devrait pas \u00eatre instrumentalis\u00e9e comme une solution de politique publique viable afin de servir de nouvelles formes de bar\u00e8mes ou pour d\u00e9courager les justiciables d\u2019acc\u00e9der aux tribunaux. Il ne s\u2019agit pas, en effet, d\u2019un simple outillage compl\u00e9mentaire \u00e0 une expertise humaine. Les outils algorithmiques s\u2019imposent \u00e0 nous avec une autorit\u00e9 particuli\u00e8re, conduisant, par biais d\u2019automatisation et biais d\u2019ancrage, \u00e0 leur d\u00e9l\u00e9guer la prise de d\u00e9cision. Et m\u00eame si l\u2019on peut consid\u00e9rer qu\u2019en l\u2019\u00e9tat de notre syst\u00e8me juridique, une marge d\u2019interpr\u00e9tation restera de toute mani\u00e8re laiss\u00e9e aux juges, celle-ci se r\u00e9duit en r\u00e9alit\u00e9 avec la charge de travail qui leur est impos\u00e9e et la crainte de voir leur responsabilit\u00e9 engag\u00e9e s\u2019ils motivent contre un algorithme qui serait reconnu comme une r\u00e9f\u00e9rence publique[33]<\/a>.<\/p>\n\n\n\n

L\u2019abandon de l\u2019exp\u00e9rimentation DataJust, au vu de la multiplicit\u00e9 des crit\u00e8res \u00e0 prendre en compte pour caract\u00e9riser l\u2019\u00e9tendue d\u2019un pr\u00e9judice corporel et l’importance des moyens \u00e0 mobiliser pour \u00e9tudier et pr\u00e9venir les biais algorithmiques, est, dans un sens, relativement rassurant.<\/p>\n\n\n

\"\"<\/div>
Yannick MENECEUR<\/span><\/a><\/div>

Magistrat et ma\u00eetre de conf\u00e9rences associ\u00e9 \u00e0 l’universit\u00e9 de Strasbourg
\nAuteur des ouvrages \u00ab\u00a0L’intelligence artificielle en proc\u00e8s<\/a>\u00a0\u00bb (Bruylant) et \u00ab\u00a0IA g\u00e9n\u00e9rative et professionnels du droit<\/a>\u00a0\u00bb (LexisNexis)<\/p>\n

Les opinions exprim\u00e9es n’engagent que son auteur.<\/em><\/p>\n<\/div><\/div>

<\/div>
<\/path><\/svg><\/span><\/a><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/div><\/div><\/div><\/div>\n\n\n
\n\n\n\n

[1]<\/a> L\u2019acronyme d\u2019intelligence artificielle sera pr\u00e9sent\u00e9 entre guillemets par commodit\u00e9 \u00e9ditoriale. L\u2019ensemble des technologies recouvertes par ce terme ne constituent naturellement pas une personnalit\u00e9 autonome et, afin de se garder de tout anthropomorphisme, il a \u00e9t\u00e9 choisi de r\u00e9sumer les termes plus appropri\u00e9s \u00ab de syst\u00e8mes d\u2019intelligence artificielle \u00bb, \u00ab d\u2019outils d\u2019intelligence artificielle \u00bb ou \u00ab d\u2019applications d\u2019intelligence artificielle \u00bb par le seul terme \u00ab d\u2019IA \u00bb entre guillemets.<\/p>\n\n\n\n

[2]<\/a> Voir par exemple la courbe du \u00ab hype cycle \u00bb de Gartner : https:\/\/www.gartner.fr\/fr\/methodologies\/hype-cycle<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[3]<\/a> Y. Meneceur, \u00ab Quel avenir pour la \u2018justice pr\u00e9dictive\u2019 ? Enjeux et limites des algorithmes d’anticipation des d\u00e9cisions de justice \u00bb, JCP 2018. 190<\/p>\n\n\n\n

[4]<\/a> S. Le Nev\u00e9, Xavier Ronsin : \u201cCe logiciel de justice pr\u00e9dictive ne nous apportait aucune plus-value\u201d, Acteurs Publics, 30 novembre 2017<\/p>\n\n\n\n

[5]<\/a> L. Loevinger, \u201cJurimetrics–The Next Step Forward\u00a0\u00bb, Minnesota Law Review, 33: 455, 1949 \u2013 Le terme qualifie pr\u00e9cis\u00e9ment l\u2019emploi de m\u00e9thodes quantitatives, telles que les probabilit\u00e9s ou la statistique, au droit<\/p>\n\n\n\n

[6]<\/a> Voir les \u00ab Pr\u00e9conisations d\u2019actions pour les legaltechs du domaine de la jurim\u00e9trie \u00bb du Conseil National des Barreaux, 13 octobre 2020 \u2013 Accessible sur : https:\/\/www.cnb.avocat.fr\/fr\/actualites\/preconisations-dactions-pour-les-legaltechs-du-domaine-de-la-jurimetrie<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[7]<\/a> Voir notamment L.D. Godefroy, F. Lebaron, J. L\u00e9vy-Vehel, \u00ab Comment le num\u00e9rique transforme le droit et la justice vers de nouveaux usages et un bouleversement de la prise de d\u00e9cision \u00bb, Rapport de recherche \u00e9crit pour la Mission de recherche Droit et Justice, 2019 ou encore M. R. S. Marques, T. Bianco, M. Roodnedaj, T. Baduel, C ; Berrou, \u00ab Machine learning for explaining and ranking the most influential matters of law \u00bb, ICAIL \u201919, 17-21 juin 2019<\/p>\n\n\n\n

[8]<\/a> L. Tavitian, \u00ab L\u2019indemnisation du pr\u00e9judice corporel : la mod\u00e9lisation au service de l’\u00e9quit\u00e9 \u00bb, Blog de Case Law Analytics, 19 novembre 2020 \u2013 Accessible sur : https:\/\/blog.caselawanalytics.com\/modelisation-indemnisation-prejudice-corporel\/<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[9]<\/a> Rappelons que le recours \u00e0 \u00ab l\u2019IA \u00bb pour \u00e9valuer la dangerosit\u00e9 d\u2019un individu en mati\u00e8re p\u00e9nale par exemple est interdit en France puisque \u00ab aucune d\u00e9cision de justice impliquant une appr\u00e9ciation sur le comportement d\u2019une personne ne peut avoir pour fondement un traitement automatis\u00e9 de donn\u00e9es \u00e0 caract\u00e8re personnel destin\u00e9 \u00e0 \u00e9valuer certains aspects de la personnalit\u00e9 de cette personne \u00bb – Loi n\u00b0 78-17 du 6 janvier 1978 relative \u00e0 l\u2019informatique, aux fichiers et aux libert\u00e9s, art. 47 modifi\u00e9 par l\u2019ordonnance n\u00b02018-1125 du 12 d\u00e9cembre 2018.<\/p>\n\n\n\n

[10]<\/a> N. Aletras, D. Tsarapatsanis, D. Preo\u0163iuc-Pietro, V. Lampos, Predicting judicial decisions of the European Court of Human Rights : a Natural Language Processing perspective, 24 octobre 2016 \u2013 Accessible sur : https:\/\/peerj.com\/articles\/cs-93\/<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[11]<\/a> L. Tavitian, \u00ab L\u2019indemnisation du pr\u00e9judice corporel : la mod\u00e9lisation au service de l’\u00e9quit\u00e9 \u00bb,op.cit.<\/em><\/p>\n\n\n\n

[12]<\/a> Rappelons que, dans le contentieux de la r\u00e9paration du pr\u00e9judice corporel, le juge intervient en cas de contestation d\u2019une offre d\u2019indemnisation \u00e9mise par les d\u00e9biteurs de cr\u00e9ance d\u2019indemnisation, qui peuvent \u00eatre des personnes physiques ou morales (organismes payeurs publics ou priv\u00e9s comme les assureurs)<\/p>\n\n\n\n

[13]<\/a> Ces crit\u00e8res sont ceux pouvant \u00eatre d\u00e9termin\u00e9s par la loi mais aussi ceux d\u00e9sign\u00e9s par les concepteurs comme pouvant avoir une influence sur les diff\u00e9rents postes de pr\u00e9judice, au vu de la pratique des juges.<\/p>\n\n\n\n

[14]<\/a> Y. Meneceur, DataJust face aux d\u00e9fis de l’intelligence artificielle, JCP G n\u00b040, LexisNexis, 28 septembre 2020<\/p>\n\n\n\n

[15]<\/a> Afin de ne pas entretenir des confusions, il ne sera pas d\u00e9velopp\u00e9 ici le fait que l\u2019apprentissage automatique est aussi qualifi\u00e9 d\u2019apprentissage\u2026 statistique.<\/p>\n\n\n\n

[16]<\/a> Rappelons que la population de dossiers totalement similaires \u00e0 un nouveau cas, quel que soit le contentieux, est en g\u00e9n\u00e9ral extr\u00eamement faible.<\/p>\n\n\n\n

[17]<\/a> Entretien avec X. Ronsin, \u00ab L\u2019utilisation de l\u2019outil Predictice d\u00e9\u00e7oit la cour d\u2019appel de Rennes \u00bb, Dalloz Actualit\u00e9, 16 octobre 2017 et droit de r\u00e9ponse exerc\u00e9 par Predictice en bas d\u2019article- Accessible sur : https:\/\/www.dalloz-actualite.fr\/interview\/l-utilisation-de-l-outil-predictice-decoit-cour-d-appel-de-rennes#.Yl0j2vNBydY<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[18]<\/a> Y.Eudes, \u00ab Des \u2018juges virtuels\u2019 pour d\u00e9sengorger les tribunaux \u00bb, Le Monde, Pixels, 1er<\/sup> janvier 2018 \u2013 Accessible sur : https:\/\/www.lemonde.fr\/pixels\/article\/2018\/01\/01\/des-juges-virtuels-pour-desengorger-les-tribunaux_5236479_4408996.html<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[19]<\/a> Le r\u00e9alisme est un courant de la th\u00e9orie g\u00e9n\u00e9rale du droit, qui se d\u00e9finit comme une approche consistant \u00e0 vouloir d\u00e9crire le droit tel qu’il est \u00ab r\u00e9ellement \u00bb et non tel qu’il devrait \u00eatre selon telle ou telle philosophie morale ou politique.<\/p>\n\n\n\n

[20]<\/a> L\u2019auteur de cet article avait \u00e9t\u00e9 contact\u00e9 par cette legaltech<\/em> qui avait qualifi\u00e9, de mani\u00e8re humoristique, cette relation comme \u00e9tant un potentiel \u00ab taux d\u2019irritabilit\u00e9 \u00bb du juge<\/p>\n\n\n\n

[21]<\/a> En mati\u00e8re civile, un juge ne peut prononcer plus que ce qui a \u00e9t\u00e9 demand\u00e9 par l\u2019une des parties. Art. 5, 464 C.Proc.CIv.<\/p>\n\n\n\n

[22]<\/a> C. Anderson, The End of Theory. The Data deluges makes the scientific method obsolete, Wired, 23 juin 2008<\/p>\n\n\n\n

[23]<\/a> A. Clauset, M. Kogan, S. Redner, Safe Leads and Lead Changes in Competitive Team Sports, Physical Review E, covering statistical, nonlinear, biological, and soft matter physics, vol.91, n\u00b06, 2015<\/p>\n\n\n\n

[24]<\/a> M. Hildebrandt, Algorithmic regulation and the rule of law, Phil. Trans. R. Soc. A. 376 \u2013 Accessible sur : https:\/\/doi.org\/10.1098\/rsta.2017.0355<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[25]<\/a> Un c\u00e9l\u00e8bre site a montr\u00e9 l\u2019existence d\u2019une forte relation statistique entre le taux de divorce dans l\u2019\u00c9tat du Maine aux \u00c9tats-Unis et la consommation de margarine par habitant. Accessible sur : https:\/\/www.tylervigen.com\/spurious-correlations<\/a> [Consult\u00e9 le 22 avril 2022]<\/p>\n\n\n\n

[26]<\/a> Une variable proxy est une variable qui n’est pas significative en soi, mais qui a une forte corr\u00e9lation avec une variable non observable ou non mesurable.<\/p>\n\n\n\n

[27]<\/a> N. Regis, \u00ab L\u2019intentionnalit\u00e9 du juge \u00bb, Archives de philosophie du droit n\u00b063, 2022, pp.463-476)<\/p>\n\n\n\n

[28]<\/a> Il ne sera pas d\u00e9velopp\u00e9 ici \u00e9galement l\u2019inutile complexit\u00e9 de certains algorithmes. M\u00eame si la technologie n\u2019\u00e9tait pas pleinement comparable, il a \u00e9t\u00e9 d\u00e9montr\u00e9 par des travaux de recherche que les centaines de param\u00e8tres de l\u2019algorithme d\u2019\u00e9valuation du risque de r\u00e9cidive \u00ab COMPAS \u00bb aux \u00c9tats-Unis pouvaient \u00eatre r\u00e9duits drastiquement pour obtenir les m\u00eames r\u00e9sultats\u2026 voire \u00eatre surpass\u00e9s par un panel d\u2019humains, profanes en mati\u00e8re p\u00e9nale.<\/p>\n\n\n\n

[29]<\/a> L. Larret-Chahine, \u00ab le droit isom\u00e9trique : un nouveau paradigme juridique n\u00e9 de la justice pr\u00e9dictive \u00bb, Archives de philosophie du droit n\u00b060, 2018, pp.287-295<\/p>\n\n\n\n

[30]<\/a> A. Supiot, La gouvernance par les nombres \u2013 Cours au Coll\u00e8ge de France (2012-2014), Fayard, coll. Poids et mesures du monde, 2015<\/p>\n\n\n\n

[31]<\/a> A. Rouvroy et T. Berns, Gouvernementalit\u00e9 algorithmique et perspectives d\u2019\u00e9mancipation, R\u00e9seaux 2013\/1, n\u00b0177, 2013, pp163-196<\/p>\n\n\n\n

[32]<\/a> A. Basdevant, J-P. Mignard, L\u2019empire des donn\u00e9es, Essai sur la soci\u00e9t\u00e9, les algorithmes et la loi, Don Quichotte, 2018<\/p>\n\n\n\n

[33]<\/a> Voir notamment une analyse r\u00e9trospective sur l\u2019emploi de l\u2019algorithme VioG\u00e9n en Espagne : M. Catanzaro, In Spain, the VioG\u00e9n algorithm attempts to forecast gender violence, Algorithm Watch, 27 avril 2020<\/p>\n","protected":false},"excerpt":{"rendered":"

De la certitude des pr\u00e9dictions \u00e0 l\u2019incertitude des probabilit\u00e9s Texte pr\u00e9par\u00e9 et pr\u00e9sent\u00e9 dans le cadre du colloque \u00ab L\u2019intelligence artificielle et la fonction de juger \u00bb, organis\u00e9 \u00e0 la Cour de cassation le 21 avril 2022 par l\u2019Institut de recherche pour un droit attractif de l\u2019Universit\u00e9 Sorbonne Paris Nord (IRDA) et le Centre de droit civil… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":false,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[15],"tags":[100,24,48,121,25,4,140,3],"coauthors":[17],"class_list":["post-2072","post","type-post","status-publish","format-standard","hentry","category-billetsetudes","tag-cour-de-cassation","tag-cyberjustice","tag-etat-de-droit","tag-etat-des-algorithmes","tag-ia","tag-intelligence-artificielle","tag-justice","tag-justice-predictive"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2072","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=2072"}],"version-history":[{"count":19,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2072\/revisions"}],"predecessor-version":[{"id":2184,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2072\/revisions\/2184"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=2072"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=2072"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=2072"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=2072"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}