{"id":562,"date":"2019-01-26T18:40:13","date_gmt":"2019-01-26T17:40:13","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=562"},"modified":"2020-04-09T16:45:11","modified_gmt":"2020-04-09T14:45:11","slug":"pourquoi-la-justice-resiste-t-elle-aux-mathematiques","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2019\/01\/26\/pourquoi-la-justice-resiste-t-elle-aux-mathematiques\/","title":{"rendered":"Pourquoi la justice r\u00e9siste-t-elle aux math\u00e9matiques ?"},"content":{"rendered":"\n<p><em>Texte\u00a0et vid\u00e9o de la 2\u00e8me s\u00e9ance du\u00a0<a rel=\"noreferrer noopener\" aria-label=\"s\u00e9minaire\u00a0&quot;Droit\u00a0et\u00a0math\u00e9matiques&quot; (opens in a new tab)\" href=\"https:\/\/ihej.org\/agenda\/seminaire-droit-et-mathematiques\/\" target=\"_blank\">s\u00e9minaire\u00a0 de l&rsquo;IHEJ \u00ab\u00a0Droit\u00a0et\u00a0math\u00e9matiques\u00a0\u00bb<\/a><\/em> &#8211; <em>8\u00a0novembre\u00a02018\u00a0(ENM\u00a0Paris)<\/em><\/p>\n\n\n\n<figure class=\"wp-block-embed-youtube wp-block-embed is-type-video is-provider-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"S\u00e9ance 2 \/  S\u00e9minaire &quot;Droit et Math\u00e9matiques&quot;\/ Yannick Meneceur \/ 2018\" width=\"525\" height=\"295\" src=\"https:\/\/www.youtube.com\/embed\/HHsGDuMA-Ts?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p><em>Retrouvez l&rsquo;enregistrement vid\u00e9o de la 2\u00e8me s\u00e9ance du s\u00e9minaire sur Youtube en <\/em><a rel=\"noreferrer noopener\" href=\"https:\/\/youtu.be\/HHsGDuMA-Ts\" target=\"_blank\"><em>cliquant ici<\/em><\/a><em>. <\/em><\/p>\n\n\n\n<!--more-->\n\n\n\n<p>&nbsp;\u00ab&nbsp;Tout ce qui est neuf n\u2019est pas\nn\u00e9cessairement nouveau&nbsp;\u00bb. Cette pens\u00e9e, pr\u00eat\u00e9e \u00e0 Paul Ric\u0153ur, semble\nparfaitement pouvoir temp\u00e9rer les derniers d\u00e9veloppements de la transformation\nnum\u00e9rique que nous vivons, dont les tentatives de traiter des d\u00e9cisions de justice\navec le formalisme math\u00e9matique \u00e0 des fins pr\u00e9dictives. L\u2019on conna\u00eet pourtant\nd\u00e9j\u00e0 bien les limites des tentatives de description des ph\u00e9nom\u00e8nes sociaux par\ndes \u00e9quations&nbsp;: mais l\u2019enchantement collectif op\u00e9r\u00e9 par le seul \u00e9nonc\u00e9 du\nterme, vague et marketing, d\u2019\u00ab&nbsp;intelligence artificielle&nbsp;\u00bb (IA) semble\navoir parfaitement occult\u00e9 la r\u00e9alit\u00e9 concr\u00e8te de la technologie sous-jacente\nde cette derni\u00e8re mode. L\u2019apprentissage automatique (<em>machine learning<\/em>) et ses d\u00e9riv\u00e9s ne sont en fait qu\u2019une mani\u00e8re de cr\u00e9er\nde l\u2019information en donnant du sens \u00e0 des donn\u00e9es par diverses m\u00e9thodes\nstatistiques bien connues (comme la r\u00e9gression lin\u00e9aire).<\/p>\n\n\n\n<p>Dans ce contexte de confusion assez g\u00e9n\u00e9ralis\u00e9e, les math\u00e9matiques seraient devenues pour Cathy O\u2019Neil, scientifique des donn\u00e9es (<em>data scientist<\/em>), une nouvelle \u00ab&nbsp;arme de destruction massive&nbsp;\u00bb car, malgr\u00e9 leur apparente neutralit\u00e9, elles serviraient \u00e0 des calculs algorithmiques si denses qu\u2019il serait difficile, voire impossible, de rendre transparent les choix parfois arbitraires de leurs concepteurs<a href=\"#_ftnref1\">[1]<\/a>. Leur utilisation d\u00e9complex\u00e9e serait m\u00eame susceptible de renforcer de mani\u00e8re in\u00e9dite les discriminations et les in\u00e9galit\u00e9s en \u00ab&nbsp;utilisant les peurs des personnes et leur confiance dans les math\u00e9matiques pour les emp\u00eacher de poser des questions<a href=\"#_ftnref2\">[2]<\/a>&nbsp;\u00bb.<\/p>\n\n\n\n<p>Le constat ainsi pos\u00e9 est pertinent&nbsp;: ne devons-nous pas traiter prioritairement des questions de la difficult\u00e9 \u00e0 utiliser ce formalisme pour d\u00e9crire les ph\u00e9nom\u00e8nes sociaux et des changements profonds de gouvernance induits au lieu de sp\u00e9culer de mani\u00e8re st\u00e9rile sur des risques relevant de la pure science-fiction, notamment en ce qui concerne l\u2019IA<a href=\"#_ftn3\">[3]<\/a> ? Il y a donc un effort de d\u00e9finition \u00e0 r\u00e9aliser avant toute tentative d\u2019analyse car sans vocabulaire clair, l\u2019on ne peut construire de pens\u00e9e claire (1). Appliqu\u00e9 aux d\u00e9cisions de justice, les mod\u00e8les math\u00e9matiques peinent \u00e0 rendre compte de l\u2019enti\u00e8re r\u00e9alit\u00e9 qu\u2019ils pr\u00e9tendent d\u00e9crire et ne peuvent se pr\u00eater qu\u2019imparfaitement \u00e0 des finalit\u00e9s pr\u00e9dictives ou actuarielles (2). La critique de la commercialisation h\u00e2tive de solutions d\u2019IA aux potentialit\u00e9s parfois sur\u00e9valu\u00e9es risque par ailleurs de troubler la compr\u00e9hension des r\u00e9els enjeux de transformation num\u00e9rique qui se jouent pourtant devant nos yeux (3).<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>1. Un formalisme math\u00e9matique performant pour des t\u00e2ches tr\u00e8s sp\u00e9cialis\u00e9es<\/strong><\/h2>\n\n\n\n<p>La croissance exponentielle de\nl\u2019efficacit\u00e9 du traitement informatique des donn\u00e9es depuis 2010 est totalement \u00e0\ndistinguer des progr\u00e8s consid\u00e9rables restant \u00e0 r\u00e9aliser par la recherche\nfondamentale pour parvenir \u00e0 mod\u00e9liser une intelligence aussi agile que\nl\u2019intelligence humaine. Certains avaient cru pouvoir r\u00e9duire celle-ci \u00e0 \u00ab 10\nmillions de r\u00e8gles<a href=\"#_ftn4\">[4]<\/a>&nbsp; \u00bb : des chercheurs comme Yann LeCun affirment\naujourd\u2019hui que l\u2019IA se heurte en r\u00e9alit\u00e9 \u00e0 une bonne repr\u00e9sentation du monde,\nqui est une question \u00ab fondamentale scientifique et math\u00e9matique, pas une\nquestion de technologie<a href=\"#_ftn5\">[5]<\/a> \u00bb.\nUne dichotomie est donc parfois r\u00e9alis\u00e9e entre l\u2019\u00ab IA forte \u00bb de\nscience-fiction (g\u00e9n\u00e9raliste, auto-apprenante et adaptable de mani\u00e8re autonome\n\u00e0 des contextes tout \u00e0 fait diff\u00e9rents), et les IA \u00ab faibles \u00bb ou \u00ab mod\u00e9r\u00e9es \u00bb\nactuelles, ultra-sp\u00e9cialis\u00e9es et non-adaptables de mani\u00e8re totalement autonome\n\u00e0 des changements complets de paradigme<a href=\"#_ftn6\">[6]<\/a>.\nCette distinction ne clarifie toutefois pas ce que l\u2019on entend par \u00ab\nintelligence \u00bb et alimente nombre de malentendus et de fantasmes, entretenus et\nv\u00e9hicul\u00e9s par les m\u00e9dias, qui ne parviennent pas toujours \u00e0 d\u00e9crypter les\ndiscours commerciaux et \u00e0 vulgariser des concepts en jeu<a href=\"#_ftn7\">[7]<\/a>.<\/p>\n\n\n\n<p>Commen\u00e7ons par rappeler que les m\u00e9canismes actuellement mis en \u0153uvre sous le terme tr\u00e8s plastique \u00ab d\u2019IA \u00bb sont pluriels et connus pour la plupart de longue date<a href=\"#_ftn8\">[8]<\/a>. Ce qui est nouveau, en revanche, c\u2019est leur synergie avec d\u2019autres technologies (blockchains, biotechnologies, nanotechnologies, sciences cognitives) ainsi que leur efficacit\u00e9 de traitement rendues possibles par la performance des processeurs actuels (notamment des cartes graphiques, \u00e0 m\u00eame d\u2019ex\u00e9cuter avec performances des m\u00e9thodes dites d\u2019apprentissage, nous y reviendrons) et la disponibilit\u00e9 d\u2019une quantit\u00e9 consid\u00e9rable de donn\u00e9es (<em>big data<\/em>) depuis quelques ann\u00e9es.<\/p>\n\n\n\n<p>Pour \u00eatre plus pr\u00e9cis, l\u2019apprentissage\nautomatique (sous ses diverses formes) a contourn\u00e9 de mani\u00e8re extr\u00eamement\nastucieuse les limites des anciens syst\u00e8mes experts, qui exigeaient de\nprogrammer a priori des r\u00e8gles logiques de traitement de donn\u00e9es pour imiter un\nraisonnement. Les approches actuelles sont plus inductives : l\u2019id\u00e9e est de\nr\u00e9unir un nombre suffisant de donn\u00e9es d\u2019entr\u00e9e et de r\u00e9sultats attendus en\nsortie afin de rechercher de mani\u00e8re (plus ou moins) automatis\u00e9e les r\u00e8gles\npouvant les lier. En d\u2019autres termes, cette recherche automatis\u00e9e (qui est ce\nque l\u2019on entend par apprentissage) est une repr\u00e9sentation math\u00e9matique et\nstatistique d\u2019un environnement donn\u00e9. L\u2019objectif pour les ing\u00e9nieurs n\u2019est pas prioritairement\nde comprendre les r\u00e8gles ou les mod\u00e8les automatiquement construits par\nl\u2019ordinateur mais de s\u2019assurer que la machine arrive \u00e0 reproduire de mieux en\nmieux les r\u00e9sultats attendus, si n\u00e9cessaire avec toujours plus de donn\u00e9es par\ndes phases successives ou continues de recherche.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img loading=\"lazy\" decoding=\"async\" width=\"1437\" height=\"434\" src=\"https:\/\/i2.wp.com\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/ML.png?fit=525%2C158&amp;ssl=1\" alt=\"\" class=\"wp-image-564\" srcset=\"https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/ML.png 1437w, https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/ML-300x91.png 300w, https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/ML-768x232.png 768w, https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/ML-1024x309.png 1024w\" sizes=\"auto, (max-width: 767px) 89vw, (max-width: 1000px) 54vw, (max-width: 1071px) 543px, 580px\" \/><\/figure>\n\n\n\n<p>Pour reformuler les concepts\nesquiss\u00e9s :<\/p>\n\n\n\n<p>\u2022&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <strong>l\u2019IA n\u2019est pas un objet unique et homog\u00e8ne<\/strong>\n: il s\u2019agit en r\u00e9alit\u00e9 d\u2019une discipline tr\u00e8s large aux contours mouvants,\nassemblage de sciences et techniques (math\u00e9matiques, statistiques,\nprobabilit\u00e9s, neurobiologie, informatique) ; le terme, auparavant confondu avec\n\u00ab&nbsp;syst\u00e8mes experts&nbsp;\u00bb, est maintenant g\u00e9n\u00e9ralement confondu avec\nl\u2019apprentissage automatique (<em>machine\nlearning<\/em>), dont il est principalement question dans la plupart des\nd\u00e9veloppements commerciaux actuels&nbsp;;<\/p>\n\n\n\n<p>\u2022&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <strong>l\u2019apprentissage automatique fonctionne par\nune approche<\/strong> <strong>inductive<\/strong> tr\u00e8s diff\u00e9rente\nde la cognition humaine : l\u2019id\u00e9e est d\u2019associer de mani\u00e8re plus ou moins\nautomatis\u00e9e un ensemble d\u2019observations (entr\u00e9es) \u00e0 un ensemble de r\u00e9sultats\npossibles (sorties) \u00e0 l\u2019aide de diverses propri\u00e9t\u00e9s pr\u00e9configur\u00e9es afin de\nd\u00e9tecter des corr\u00e9lations (susceptibles d\u2019ailleurs \u00eatre fallacieuses et non repr\u00e9sentatives\nd\u2019une causalit\u00e9<a href=\"#_ftn9\">[9]<\/a>)\n;<\/p>\n\n\n\n<p>\u2022&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <strong>la fiabilit\u00e9 du mod\u00e8le construit sur cette\nbase d\u00e9pend fortement de la qualit\u00e9 des donn\u00e9es<\/strong> utilis\u00e9es&nbsp;: les biais\npr\u00e9sents dans les donn\u00e9es seront in\u00e9luctablement reproduits dans les mod\u00e8les\nqui, sans correctif, ne feront que les renforcer.<\/p>\n\n\n\n<p>Le concept d\u2019IA est donc\nglobalement \u00e0 d\u00e9mystifier si l\u2019on s\u2019en tient \u00e0 une interpr\u00e9tation stricte du\nmot \u00ab intelligence \u00bb. Nous avons en r\u00e9alit\u00e9 affaire \u00e0 des syst\u00e8mes computationnels\ncomplexes et non \u00e0 des r\u00e9pliques (m\u00eame sommaires) du cerveau humain (qui inclut\ndes processus perceptifs, l\u2019apprentissage, l\u2019auto-organisation, l\u2019adaptation).\nPrenons l\u2019une de sous-classes de l\u2019apprentissage automatique, les r\u00e9seaux de\nneurones : si leur conception est bien inspir\u00e9e des neurones biologiques, leur\nfonctionnement est en r\u00e9alit\u00e9 fortement optimis\u00e9 par des m\u00e9thodes probabilistes\ndites bay\u00e9siennes. En d\u2019autres termes, ces r\u00e9seaux sont aussi comparables \u00e0 de\nr\u00e9els neurones que les ailes d\u2019un avion sont similaires \u00e0 celles d\u2019un oiseau<a href=\"#_ftn10\">[10]<\/a>.<\/p>\n\n\n\n<p>Utilis\u00e9 dans des environnements\nferm\u00e9s, comme le jeu de go ou avec des donn\u00e9es quantifiables sans aucune\nambigu\u00eft\u00e9, les r\u00e9sultats peuvent \u00eatre tout \u00e0 fait exaltants au prix d\u2019un tr\u00e8s\nfort (et co\u00fbteux) investissement\u2026 humain<a href=\"#_ftn11\">[11]<\/a>.\nMais il serait tr\u00e8s h\u00e2tif d\u2019interpr\u00e9ter ces r\u00e9ussites dans des champs tr\u00e8s\n\u00e9troits comme les pr\u00e9misses de l\u2019av\u00e8nement d\u2019une IA g\u00e9n\u00e9rale, nouveau Saint\nGraal des chercheurs<a href=\"#_ftn12\">[12]<\/a>\nni comme ais\u00e9ment transf\u00e9rables telles quelles pour d\u2019autres applications.\nEx\u00e9cut\u00e9 dans des environnements ouverts et moins facilement quantifiables, ce\nformalisme est plus difficilement op\u00e9rant&nbsp;: ce constat est\nparticuli\u00e8rement vrai lorsque l\u2019on tente de mesurer des ph\u00e9nom\u00e8nes sociaux o\u00f9 \u00ab\nil est bien plus difficile de retrouver une relation stable \u00bb que dans les\nsciences naturelles, riches de \u00ab faits t\u00eatus que l\u2019on ne peut \u00e9liminer d\u2019un\nrevers de main&nbsp;\u00bb<a href=\"#_ftn13\">[13]<\/a>. <\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>2. Un formalisme math\u00e9matique insuffisant \u00e0 traduire fid\u00e8lement la m\u00e9moire de la justice&nbsp;<\/strong><\/h2>\n\n\n\n<p>Malgr\u00e9 ce simple constat, il n\u2019aura toutefois pas fallu attendre tr\u00e8s longtemps\npour que des entrepreneurs tirent profit de l\u2019engouement suscit\u00e9 par l\u2019apprentissage\nautomatique pour d\u00e9velopper des solutions commerciales dans de tr\u00e8s nombreux\nsecteurs d\u2019activit\u00e9 (commerces, transports, industries, urbanisme, m\u00e9decine, \u2026)\n\u00e0 la recherche de nouveaux march\u00e9s, sans r\u00e9elle conscience de la complexit\u00e9 de\ncertains objets trait\u00e9s<a href=\"#_ftn14\">[14]<\/a>.\nAinsi, le droit a \u00e9t\u00e9 une cible de choix, l\u2019apparente logique du raisonnement\njuridique (dont le syllogisme des d\u00e9cisions judiciaires) conduisant les\nmath\u00e9maticiens \u00e0 penser qu\u2019il y avait l\u00e0 mati\u00e8re \u00e0 exploitation. Conjugu\u00e9 \u00e0 un\nbesoin (celui de rendre la r\u00e9ponse judiciaire plus pr\u00e9visible) et \u00e0 quelques id\u00e9es\nre\u00e7ues en d\u00e9coulant (tel que le fait que \u00ab&nbsp;l\u2019al\u00e9a judiciaire&nbsp;\u00bb ne\nserait le r\u00e9sultat que des biais humains des juges et non d\u2019un effort\nd\u2019individualisation des d\u00e9cisions), des investisseurs, comme les assureurs, ont\nsponsoris\u00e9 les co\u00fbteux d\u00e9veloppements de solutions d\u2019apprentissage automatique\navec des d\u00e9cisions judiciaires<a href=\"#_ftn15\">[15]<\/a>.<\/p>\n\n\n\n<p>Quelle que soit la d\u00e9nomination commerciale (justice pr\u00e9dictive,\nquantitative ou actuarielle), les applications d\u00e9velopp\u00e9es recouvrent une m\u00eame\net unique r\u00e9alit\u00e9 qui consiste \u00e0 \u00e9tablir, pour des contentieux chiffrables\ncomme la r\u00e9paration du pr\u00e9judice corporel, le droit du travail ou le divorce,\ndivers types de probabilit\u00e9s sur la possible issue d\u2019un litige en traitant non\nun r\u00e9cit brut mais des faits d\u00e9j\u00e0 qualifi\u00e9s juridiquement. La construction de\nmod\u00e8les math\u00e9matiques va donc s\u2019appuyer sur une mati\u00e8re premi\u00e8re, les d\u00e9cisions\nde justice d\u00e9j\u00e0 rendues dans ces types de contentieux, et l\u2019apprentissage\nautomatique pour d\u00e9couvrir des corr\u00e9lations. Concr\u00e8tement la machine va\nrechercher dans divers param\u00e8tres identifi\u00e9s par les concepteurs (comme la\ndur\u00e9e du mariage, la situation professionnelle, la disparit\u00e9 de situation\npatrimoniale, l\u2019\u00e2ge et l\u2019\u00e9tat de sant\u00e9 des parties pour les prestations\ncompensatoires) les possibles liens avec les r\u00e9sultats prononc\u00e9s par le\ntribunal (le montant de la prestation prononc\u00e9e en fonction de ces crit\u00e8res).\nL\u2019application de cette d\u00e9marche au contenu d\u2019un jugement&nbsp;exige toutefois\nune extr\u00eame rigueur, les corr\u00e9lations d\u2019ordre linguistique d\u00e9couvertes dans les\nd\u00e9cisions \u00e9tant loin de pouvoir \u00eatre interpr\u00e9t\u00e9es de mani\u00e8re irr\u00e9futable comme\ndes rapports de cause \u00e0 effet<a href=\"#_ftn16\">[16]<\/a>.\n<\/p>\n\n\n\n<p>Trois critiques principales\nsont \u00e0 formuler \u00e0 l\u2019encontre de cette d\u00e9marche de traitement de donn\u00e9es issues\nde d\u00e9cisions judiciaires&nbsp;:<\/p>\n\n\n\n<p><strong>Ce\nformalisme, tout d\u2019abord, ne permet pas de r\u00e9v\u00e9ler la complexit\u00e9 des raisonnements\njuridiques op\u00e9r\u00e9s<a href=\"#_ftn17\"><strong>[17]<\/strong><\/a><\/strong>\n\u2013 Il doit en effet \u00eatre rappel\u00e9, comme l&rsquo;a mis en lumi\u00e8re la th\u00e9orie du droit, que le\nraisonnement judiciaire est surtout affaire d&rsquo;interpr\u00e9tation. C&rsquo;est que le\nfameux syllogisme judiciaire est plus un mode de pr\u00e9sentation du raisonnement\njuridique que sa traduction logique, il ne rend pas compte de l&rsquo;int\u00e9gralit\u00e9 du\nraisonnement tenu par le juge, lequel est ponctu\u00e9 d&rsquo;une multitude de choix\ndiscr\u00e9tionnaires, non formalisables <em>a priori<\/em>. La coh\u00e9rence d&rsquo;ensemble\ndes d\u00e9cisions de justice n&rsquo;est jamais assur\u00e9e et rel\u00e8verait davantage d&rsquo;une\nmise en r\u00e9cit <em>a posteriori<\/em>, que d&rsquo;une description stricte de\nl&rsquo;int\u00e9gralit\u00e9 de ces d\u00e9cisions<a href=\"#_ftn18\">[18]<\/a>.\nOr, l\u2019apprentissage automatique est inop\u00e9rant \u00e0 effectuer ce travail d&rsquo;interpr\u00e9tation,\nles concepteurs esp\u00e9rant tout au plus que la d\u00e9tection de r\u00e9gularit\u00e9 dans les contextes\nlexicaux r\u00e9ussisse \u00e0 reproduire en sortie les m\u00eames effets que le processus\nd\u00e9cisionnel r\u00e9el ayant produit ces donn\u00e9es. <\/p>\n\n\n\n<p>Un examen des travaux de l&rsquo;<em>University College of London<\/em>,\nlaquelle a annonc\u00e9 \u00eatre parvenue cat\u00e9goriser correctement 79&nbsp;% des\nd\u00e9cisions de la Cour europ\u00e9enne des droits de l&rsquo;homme (violation ou non\nviolation), confirme bien ce diagnostic<a href=\"#_ftn19\">[19]<\/a>.\nCes chercheurs n\u2019ont en r\u00e9alit\u00e9 \u00e9t\u00e9 capables de ne produire une probabilit\u00e9 qu&rsquo;\u00e0\npartir d\u2019un mat\u00e9riel d\u00e9j\u00e0 trait\u00e9 juridiquement, qui renseignerait davantage sur\nla pratique professionnelle des juristes du greffe de la Cour (qui utilisent\nparfois des paragraphes pr\u00e9-r\u00e9dig\u00e9s en fonction du traitement et de l&rsquo;issue\ndonn\u00e9s \u00e0 l&rsquo;affaire) que sur le sens de la r\u00e9flexion juridique<a href=\"#_ftn20\">[20]<\/a>.\nMiroir de la repr\u00e9sentation graphique d\u2019un \u00e9chantillon de d\u00e9cision, elle\nparvient au mieux \u00e0 grouper des documents respectant le m\u00eame formalisme mais\npeinerait sans nul doute tr\u00e8s fortement \u00e0 partir d\u2019un r\u00e9cit brut d&rsquo;un futur\nrequ\u00e9rant devant la Cour de Strasbourg. Ces r\u00e9sultats sont surtout totalement\n\u00e9trangers \u00e0 la question de la conformit\u00e9 en droit de telle ou telle solution,\nd\u00e8s lors que ces calculs de probabilit\u00e9s ne peuvent pas discriminer entre les\nraisonnements juridiquement valides et ceux qui ne le sont pas. <\/p>\n\n\n\n<p>Enfin, de tels calculs probabilistes ne sauraient en aucun\ncas \u00e9puiser le sens de la loi, comme l&rsquo;a montr\u00e9 la question de l&rsquo;utilisation\ndes bar\u00e8mes judiciaires&nbsp;: si tant est que ces bar\u00e8mes aient toujours une\npertinence statistique, ils ne sauraient, du seul fait de leur existence, se\nsubstituer \u00e0 la loi elle-m\u00eame, en r\u00e9duisant notamment la marge d&rsquo;interpr\u00e9tation\nque celle-ci offre n\u00e9cessairement au juge<a href=\"#_ftn21\">[21]<\/a>.<\/p>\n\n\n\n<p><strong>Ce formalisme seul ne permet pas, par\nailleurs, d\u2019expliciter le comportement des juges<\/strong><a href=\"#_ftn22\"><strong>[22]<\/strong><\/a> \u2013 L&rsquo;autre grand mythe v\u00e9hicul\u00e9 par le\ndiscours de promotion des outils issus de l\u2019IA serait leur capacit\u00e9 \u00e0 expliquer\nles d\u00e9cisions de justice. Certaines <em>legaltech<\/em>\nont en effet affirm\u00e9 pouvoir identifier d&rsquo;\u00e9ventuels biais dus \u00e0 la personne des\nmagistrats, de nature \u00e0 nourrir des suspicions de partialit\u00e9. L&rsquo;exploitation\ndes noms des pr\u00e9sidents de formation de jugement des juridictions\nadministratives en <em>open data<\/em> avait\npermis un temps de construire un indicateur nominatif du taux de rejet de\nrecours contre les obligations de quitter le territoire fran\u00e7ais<a href=\"#_ftn23\">[23]<\/a>.\nIl n&rsquo;est d\u00e8s lors pas \u00e9tonnant que l&rsquo;une des principales questions qui animent encore\nle d\u00e9bat autour de ces nouveaux outils porte sur l&rsquo;acc\u00e8s au nom des\nprofessionnels dans les d\u00e9cisions judiciaires ouvertes, notamment des\nmagistrats<a href=\"#_ftn24\">[24]<\/a>.\nMais, peut-on r\u00e9ellement parvenir \u00e0 \u00e9clairer le comportement des juges sur la\nbase d&rsquo;un traitement algorithmique des occurrences de leurs noms dans certaines\nd\u00e9cisions de justice ? <\/p>\n\n\n\n<p>D&rsquo;un point de vue scientifique, expliquer un ph\u00e9nom\u00e8ne ou, pour ce qui\nnous concerne, un comportement humain (celui d&rsquo;un juge), revient \u00e0 d\u00e9terminer\nles m\u00e9canismes de causalit\u00e9 ayant conduit \u00e0 ce comportement en pr\u00e9sence d&rsquo;un\ncertain nombre de donn\u00e9es contextuelles. Cela n\u00e9cessite la constitution pr\u00e9alable\nd&rsquo;un cadre interpr\u00e9tatif, constitu\u00e9 par les hypoth\u00e8ses ou points de vue adopt\u00e9s\npar les diff\u00e9rentes disciplines des sciences sociales<a href=\"#_ftn25\">[25]<\/a>.<\/p>\n\n\n\n<p>Rappelons que l\u2019IA b\u00e2ti des mod\u00e8les en tentant de r\u00e9v\u00e9ler des corr\u00e9lations\ndissimul\u00e9es dans un grand nombre de donn\u00e9es. Or, la seule corr\u00e9lation\nstatistique entre deux \u00e9v\u00e9nements est insuffisante pour expliquer les facteurs\nr\u00e9ellement causatifs<a href=\"#_ftn26\">[26]<\/a>.\nAppliqu\u00e9 au droit et aux d\u00e9cisions judiciaires, on mesure imm\u00e9diatement ce\nqu&rsquo;il peut y avoir de scientifiquement erron\u00e9 et d&rsquo;id\u00e9ologique dans l&rsquo;ambition de\nrendre objective la d\u00e9cision des juges gr\u00e2ce \u00e0 des algorithmes. Fournir une\nv\u00e9ritable explication d&rsquo;un jugement n\u00e9cessiterait une analyse beaucoup plus\nfine des donn\u00e9es de chaque affaire et ne saurait na\u00eetre spontan\u00e9ment d&rsquo;une\nmasse de liens lexicaux dans lesquels figure le nom d&rsquo;un magistrat. Par\nexemple, le fait qu&rsquo;un juge aux affaires familiales fixe statistiquement\ndavantage la r\u00e9sidence habituelle d&rsquo;un enfant chez la m\u00e8re dans un ressort\nd\u00e9termin\u00e9 ne traduit pas n\u00e9cessairement un parti-pris de ce magistrat en faveur\ndes femmes, mais s&rsquo;explique davantage par l&rsquo;existence de facteurs\nsociaux-\u00e9conomiques et culturels propres \u00e0 la population de sa juridiction. De\nm\u00eame, il para\u00eet difficile d&rsquo;attribuer une tendance d\u00e9cisionnelle \u00e0 une\nformation juridictionnelle coll\u00e9giale sur la seule base du nom de son\npr\u00e9sident.<\/p>\n\n\n\n<p>Les risques d&rsquo;explications fauss\u00e9es des d\u00e9cisions de justice s&rsquo;av\u00e8rent\ndonc extr\u00eamement \u00e9lev\u00e9s sur la base des seuls calculs probabilistes op\u00e9r\u00e9s.\nL&rsquo;espoir de voir \u00e9merger du traitement par les IA une information de nature \u00e0\nproduire une \u00ab norme issue du nombre \u00bb imposant aux juges un \u00ab effort renouvel\u00e9\nde justification \u00bb pour expliquer l&rsquo;\u00e9cart \u00e0 la moyenne doit donc \u00eatre largement\ntemp\u00e9r\u00e9 au vu de la compr\u00e9hension technique de la m\u00e9canique produisant cette\nmoyenne<a href=\"#_ftn27\">[27]<\/a>.\nSurtout, la seule valeur statistique des r\u00e9sultats obtenus demeure bien souvent\nhautement questionnable en l&rsquo;absence d&rsquo;une v\u00e9ritable ma\u00eetrise du p\u00e9rim\u00e8tre des\ndonn\u00e9es prospect\u00e9es et de l\u2019effet \u00ab&nbsp;bo\u00eete noire&nbsp;\u00bb de certains\nalgorithmes tels que l\u2019apprentissage profond<a href=\"#_ftn28\">[28]<\/a>\n(<em>deep learning<\/em>). De plus, comme l&rsquo;a\nmontr\u00e9 l&rsquo;\u00e9mergence des grilles de bar\u00e8mes judiciaires, la tentation peut \u00eatre\ngrande pour les concepteurs de ces outils de se livrer \u00e0 du data-snooping,\nc&rsquo;est-\u00e0-dire \u00e0 ne s\u00e9lectionner en amont que des donn\u00e9es de mani\u00e8re \u00e0 ce\nqu&rsquo;elles puissent \u00eatre significatives au regard de grilles d&rsquo;analyse\npr\u00e9d\u00e9termin\u00e9es, par exemple en \u00e9ludant de l&rsquo;\u00e9chantillon des d\u00e9cisions se\npr\u00eatant mal \u00e0 des corr\u00e9lations de s\u00e9quences linguistiques (des d\u00e9cisions sans\nexpos\u00e9 du litige par exemple)<a href=\"#_ftn29\">[29]<\/a>.<\/p>\n\n\n\n<p><strong>Plus grave encore, les mod\u00e8les\nd\u2019apprentissage peuvent potentiellement reproduire et aggraver les\ndiscriminations<a href=\"#_ftn30\"><strong>[30]<\/strong><\/a><\/strong> \u2013 Les diff\u00e9rentes techniques de\nl\u2019apprentissage automatique paraissent en effet en elles-m\u00eames neutres en\ntermes de valeurs sociales : que l\u2019apprentissage soit supervis\u00e9 ou non, avec ou\nsans renforcement, s\u2019appuyant sur des machines \u00e0 support de vecteur ou des\nr\u00e9seaux de neurones profonds, les sciences fondamentales qui les animent sont\navant tout un formalisme. En revanche, l\u2019utilisation de ce formalisme avec une\nm\u00e9thode et des donn\u00e9es biais\u00e9es entra\u00eenera syst\u00e9matiquement des r\u00e9sultats\nbiais\u00e9s. <\/p>\n\n\n\n<p>Prenons l\u2019exemple de l\u2019algorithme COMPAS<a href=\"#_ftn31\">[31]<\/a>\nqui est utilis\u00e9 de mani\u00e8re effective dans certains \u00c9tats am\u00e9ricains afin\nd\u2019\u00e9valuer la dangerosit\u00e9 des individus en vue de leur \u00e9ventuel placement en\nd\u00e9tention provisoire ou lors du prononc\u00e9 d\u2019une condamnation p\u00e9nale.&nbsp; Cet algorithme s\u2019appuie sur des \u00e9tudes\nacad\u00e9miques en criminologie et en sociologie, sur diff\u00e9rents mod\u00e8les\nstatistiques et le traitement d\u2019un questionnaire de 137 entr\u00e9es, relatif \u00e0 la\npersonne concern\u00e9e et \u00e0 son pass\u00e9 judiciaire sans aucune r\u00e9f\u00e9rence \u00e0 son origine\nethnique<a href=\"#_ftn32\">[32]<\/a>.\nLe syst\u00e8me fournit ensuite au juge diff\u00e9rents \u00ab scores \u00bb \u00e0 un horizon de deux\nann\u00e9es : risque de r\u00e9cidive, risque de comportement violent et risque de\nnon-comparution pour les situations de placement en d\u00e9tention provisoire. La\nd\u00e9marche appara\u00eet a priori pluridisciplinaire et fond\u00e9e scientifiquement. <\/p>\n\n\n\n<p>Toutefois, en mai 2016, les journalistes de l\u2019ONG ProPublica ont analys\u00e9\nl\u2019efficacit\u00e9 des \u00ab pr\u00e9dictions \u00bb de&nbsp;\nCOMPAS sur une population de pr\u00e8s de 10 000 individus arr\u00eat\u00e9s dans le\ncomt\u00e9 de Broward (Floride) entre 2013 et 2014<a href=\"#_ftn33\">[33]<\/a>.\nCette \u00e9tude a r\u00e9v\u00e9l\u00e9 non seulement un taux relativement faible de \u00ab pr\u00e9dictions\n\u00bb justes (61%) mais, en proc\u00e9dant \u00e0 l\u2019analyse approfondie des \u00ab faux positifs\n\u00bb, elle a par ailleurs \u00e9tabli que les populations afro-am\u00e9ricaines \u00e9taient\npond\u00e9r\u00e9es d\u2019un plus fort risque de r\u00e9cidive que les populations blanches.\nInversement, les populations blanches ayant effectivement r\u00e9cidiv\u00e9es avaient\n\u00e9t\u00e9 deux fois plus classifi\u00e9es comme \u00e9tant en risque faible que les populations\nafro-am\u00e9ricaines. En d\u2019autres termes, sans inclure l\u2019ethnie des individus ou\navoir \u00e9t\u00e9 sp\u00e9cifiquement con\u00e7u pour traiter cette caract\u00e9ristique, le\ncroisement des donn\u00e9es (dont le lieu de r\u00e9sidence) a indirectement surpond\u00e9r\u00e9\ncet aspect au d\u00e9triment d\u2019autres facteurs sociaux individuels (\u00e9ducation,\nemploi, parcours familial) et a conduit \u00e0 influencer les juges avec des\nindicateurs proprement discriminatoires.<\/p>\n\n\n\n<p>En reprenant du champ, on pourrait consid\u00e9rer que la probl\u00e9matique ainsi\npos\u00e9e pour la mati\u00e8re p\u00e9nale est singuli\u00e8re. Elle reste en r\u00e9alit\u00e9 la m\u00eame avec\ndes affaires civiles, administratives ou commerciales : la nature de la mati\u00e8re\ncontentieuse est en effet \u00e9trang\u00e8re \u00e0 la pr\u00e9sence de biais dans la m\u00e9thode et\nles donn\u00e9es. Il serait int\u00e9ressant par exemple d\u2019examiner si, pour une s\u00e9rie de\nprestations compensatoires dans lesquelles la situation maritale et \u00e9conomique\nest objectivement \u00e9quivalente, les montants \u00ab pr\u00e9dits \u00bb par de tels algorithmes\napparaissent pond\u00e9r\u00e9s diff\u00e9remment selon le lieu de r\u00e9sidence des parties. Dans\nla positive, quels crit\u00e8res, explicites ou sous-jacents, ont pu avoir une\ninfluence ? Sans explication ni transparence sur cet \u00e9tat de fait, cela revient\n\u00e0 laisser une \u00ab boite noire \u00bb influer de mani\u00e8re tout \u00e0 fait discr\u00e9tionnaire\nsur l\u2019issue d\u2019un contentieux et \u00e0 reproduire des in\u00e9galit\u00e9s.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>3. Un formalisme math\u00e9matique fondateur d\u2019une soci\u00e9t\u00e9 gouvern\u00e9e par les donn\u00e9es<\/strong><\/h2>\n\n\n\n<p>Des apprentissages automatiques n\u2019ayant pas conscience de la complexit\u00e9\nde la mati\u00e8re trait\u00e9e (l\u2019application de la loi et les ph\u00e9nom\u00e8nes sociaux)\nrisquent donc de cr\u00e9er plus de probl\u00e8mes qu\u2019ils pr\u00e9tendent apporter de\nsolution. Loin de pouvoir offrir \u00ab&nbsp;une large coll\u00e9gialit\u00e9 et une ind\u00e9pendance\ndavantage partag\u00e9e<a href=\"#_ftn34\">[34]<\/a>&nbsp;\u00bb,\nils sont susceptibles en r\u00e9alit\u00e9 de cristalliser la jurisprudence autours de\ncalculs biais\u00e9s n\u2019\u00e9tant repr\u00e9sentatifs que d\u2019eux-m\u00eames. Il est vrai qu\u2019il\nsemble difficile de se d\u00e9partir de la \u00ab&nbsp;troublante vocation&nbsp;\u00bb de certains\nsyst\u00e8mes computationnels : \u00e9noncer la v\u00e9rit\u00e9. Pour Eric Sadin, le num\u00e9rique\ns\u2019\u00e9rigerait aujourd\u2019hui comme \u00ab&nbsp;une puissance al\u00e8th\u00e9ique, destin\u00e9e \u00e0\nr\u00e9v\u00e9ler l\u2019al\u00e8theia, \u00e0 savoir la v\u00e9rit\u00e9, dans le sens d\u00e9fini par la philosophie\ngrecque antique, entendue comme la manifestation de la r\u00e9alit\u00e9 des ph\u00e9nom\u00e8nes \u00e0\nl\u2019oppos\u00e9 des apparences<a href=\"#_ftn35\">[35]<\/a>&nbsp;\u00bb.<\/p>\n\n\n\n<p>Le grand emballement autour des potentialit\u00e9s, r\u00e9elles ou fantasm\u00e9es, de\nl\u2019apprentissage automatique est donc hautement critiquable du fait de son\nmanque patent de maturit\u00e9 mais, surtout, du fait de ce nouveau r\u00e9gime de v\u00e9rit\u00e9\nqu\u2019il impose au m\u00e9pris de ce qui devrait \u00eatre un travail rigoureux d\u2019analyse\ndes r\u00e9sultats de ces outils, qui ne sont que le reflet imparfait et orient\u00e9\nd\u2019une r\u00e9alit\u00e9 qu\u2019il s\u2019agirait avant tout de tenter de d\u00e9crire et de comprendre\nde mani\u00e8re pluridisciplinaire. Les efforts financiers et humains actuels des\nindustries num\u00e9riques se concentrent \u00e0 b\u00e2tir h\u00e2tivement des cath\u00e9drales\nalgorithmiques complexes dans l\u2019espoir de lever, avant les autres concurrents\nentra\u00een\u00e9s dans la m\u00eame course effr\u00e9n\u00e9e, des fonds avec une promesse&nbsp;:\nr\u00e9v\u00e9ler une pr\u00e9tendue v\u00e9rit\u00e9 naturelle et immanente en la saisissant dans les\ncorr\u00e9lations de l\u2019apprentissage automatique. Or il s\u2019agit de colosses dispendieux\naux fondations extr\u00eamement fragiles en ce qui concerne les d\u00e9cisions de\njustice&nbsp;: les syst\u00e8mes juridiques restent tr\u00e8s ouverts et un revirement peut\ninvalider des d\u00e9cennies de patiente construction jurisprudentielle. Cette\ninstabilit\u00e9 pose un probl\u00e8me bien fondamental \u00e0 des algorithmes qui se\nconstruisent, avant tout, sur des statistiques d\u2019\u00e9v\u00e9nements pass\u00e9s.<\/p>\n\n\n\n<p>L\u2019on en vient \u00e0 ce stade au principal argument des techno-\u00e9vang\u00e9listes qui entendent alors faire taire toute critique de l\u2019ancien monde&nbsp;: l\u2019on ne pourrait (et l\u2019on ne devrait) concevoir l\u2019\u00e9volution de demain en restant fig\u00e9s dans nos r\u00e9f\u00e9rentiels actuels. Et il semble que l\u2019on ne puisse pas leur donner enti\u00e8rement tort, mais peut-\u00eatre pas pour les raisons qu\u2019ils envisagent. La transformation de fond&nbsp;r\u00e9ellement \u00e0 l\u2019\u0153uvre, puisant dans un m\u00e9lange surprenant d&rsquo;id\u00e9ologies n\u00e9olib\u00e9rales et libertarienne, est bien de substituer un r\u00e9f\u00e9rentiel \u00e0 un autre&nbsp;: l\u2019id\u00e9e est de remplacer la r\u00e8gle de droit par d\u2019autres m\u00e9canismes de r\u00e9gulation cens\u00e9s \u00eatre plus efficaces pour assurer le fonctionnement de notre soci\u00e9t\u00e9. Et c\u2019est bien l\u00e0 que r\u00e9side le d\u00e9fi majeur de notre temps&nbsp;: l\u2019IA n\u2019est en r\u00e9alit\u00e9 qu\u2019un avatar, parmi d\u2019autres, d\u2019une ambition bien plus globale qui pose un d\u00e9fi d\u00e9mocratique sans pr\u00e9c\u00e9dent&nbsp;: une soci\u00e9t\u00e9 gouvern\u00e9e par les donn\u00e9es (<em>data driven&nbsp;society<\/em>), se&nbsp; substituant progressivement \u00e0 l\u2019Etat de droit que nous avons b\u00e2ti ces derniers si\u00e8cles. <\/p>\n\n\n\n<p>La loi, bien qu\u2019imparfaite, est avant tout l\u2019expression collective d\u2019un\nprojet de soci\u00e9t\u00e9, miroir des priorit\u00e9s qu\u2019un peuple souhaite se donner, et dont\nla valeur et l\u2019int\u00e9r\u00eat sont discut\u00e9es entre des repr\u00e9sentants \u00e9lus \u00e0 m\u00eame de\ncomposer un \u00e9quilibre entre des int\u00e9r\u00eats contradictoires. L\u2019IA, et les\nalgorithmes en g\u00e9n\u00e9ral, nous imposent, par un formalisme scientifique aux\napparences neutres, une nouvelle rationalit\u00e9 qui est en r\u00e9alit\u00e9\u2026 celle de leurs\nconcepteurs. En d\u2019autres termes, la d\u00e9mocratie se retrouve confisqu\u00e9e par une nouvelle\nforme d\u2019aristocratie, num\u00e9rique, qui para\u00eet se suffire \u00e0 elle-m\u00eame pour d\u00e9finir\ndes notions aussi simples que le bien ou le mal<a href=\"#_ftn36\">[36]<\/a>.\nCe projet n\u2019est au final pas tr\u00e8s \u00e9loign\u00e9 de celui de la physique sociale imagin\u00e9\npar Adolphe Qu\u00e9telet : le math\u00e9maticien belge du XIX\u00e8me si\u00e8cle envisageait\nl\u2019homme comme libre mais il estimait que \u00ab&nbsp;ce qu\u2019il apporte de\nperturbation dans les lois de la nature ne peut nullement alt\u00e9rer ces lois, du\nmoins d\u2019une mani\u00e8re permanente&nbsp;\u00bb. En posant ainsi les jalons d\u2019une analyse\nsyst\u00e9matique des ph\u00e9nom\u00e8nes sociaux par la statistique, il ambitionnait de\nfaire \u00e9merger un projet aux accents parfaitement totalitaires&nbsp;:\nl\u2019\u00e9laboration d\u2019une \u00ab&nbsp;statistique morale&nbsp;\u00bb glorifiant l\u2019axe d\u2019un\nhomme moyen autour duquel tout homme aurait d\u00fb se r\u00e9f\u00e9rer.<\/p>\n\n\n\n<p>Une lecture politique de la transformation num\u00e9rique para\u00eet donc aujourd\u2019hui\nimp\u00e9rative afin de clarifier les r\u00e9els d\u00e9fis pos\u00e9s par le num\u00e9rique dans les\nd\u00e9bats publics et l\u2019on comprend bien que ce ne sont pas les outils qui sont en\ncause mais bien ce que certains pr\u00e9tendent en faire. L\u2019encadrement d\u00e8s lors\nappara\u00eet indispensable, qu\u2019il s\u2019agisse en premier temps de <em>soft law<\/em> ou de modes bien plus contraignants, \u00e0 l\u2019image du RGPD<a href=\"#_ftn37\">[37]<\/a>.\nCette construction devra toutefois s\u2019effectuer consciente d\u2019une autre r\u00e9alit\u00e9,\ntemp\u00e9rant peut-\u00eatre l\u2019urgence&nbsp;: l\u2019\u00e9cart qui existe encore entre les\nambitions de l\u2019IA dans le domaine de la justice et ses r\u00e9alisations, tr\u00e8s\nsectorielles et non g\u00e9n\u00e9ralisables, qui n\u00e9cessitent des moyens humains de tr\u00e8s haut\nniveau technique et des investissements financiers relativement substantiels. Meilleure\nalli\u00e9e des discours id\u00e9ologiques pr\u00e9c\u00e9demment d\u00e9crits, l\u2019IA risque donc de se\nconfronter plus rapidement que pr\u00e9vu \u00e0 sa r\u00e9elle rentabilit\u00e9. Dans la deuxi\u00e8me\n\u00e9dition de son rapport sur l\u2019IA dans les entreprises, l\u2019institut Deloitte r\u00e9v\u00e8le\nque les revenus issus de l\u2019IA semblent extr\u00eamement disparates en fonction des\nsecteurs d\u2019activit\u00e9<a href=\"#_ftn38\">[38]<\/a>.\nSi les entreprises technologiques pionni\u00e8res semblent engranger d\u2019importants\nb\u00e9n\u00e9fices (plus de 20%), celles relevant des sciences naturelles et de la sant\u00e9\nest bien plus modeste (13%). Sur le nouveau \u00ab&nbsp;march\u00e9 du droit&nbsp;\u00bb, la viabilit\u00e9\nde mod\u00e8les \u00e9conomiques reste encore hautement questionnable pour les\ninvestisseurs et les <em>legaltech<\/em>, qui\nont obtenu des lev\u00e9es de fonds relativement consid\u00e9rables, devraient rester tr\u00e8s\nattentives au contenu de leurs promesses\u2026 dont on pourrait pr\u00e9dire, au regard\ndes pr\u00e9sents d\u00e9veloppements, que certaines ont une assez forte probabilit\u00e9 de\nn\u2019\u00eatre jamais au rendez-vous-m\u00eame en ouvrant le robinet de l\u2019<em>open data<\/em>.<br><\/p>\n\n\n\n<div class=\"wp-block-image\"><figure class=\"alignleft is-resized\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/IMG_2843-150x150.jpg\" alt=\"\" class=\"wp-image-547\" width=\"150\" height=\"150\" srcset=\"https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/IMG_2843-150x150.jpg 150w, https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/IMG_2843-100x100.jpg 100w\" sizes=\"auto, (max-width: 150px) 100vw, 150px\" \/><\/figure><\/div>\n\n\n\n<hr class=\"wp-block-separator\"\/>\n\n\n\n<p>Retrouvez l&rsquo;enregistrement vid\u00e9o de la 2\u00e8me s\u00e9ance du s\u00e9minaire sur Youtube en <a rel=\"noreferrer noopener\" aria-label=\"cliquant ici (opens in a new tab)\" href=\"https:\/\/youtu.be\/HHsGDuMA-Ts\" target=\"_blank\">cliquant ici<\/a>.<\/p>\n\n\n\n<p><\/p>\n\n\n\n<hr class=\"wp-block-separator\"\/>\n\n\n\n<p><strong>Notes<\/strong><\/p>\n\n\n\n<p><a name=\"#_ftnref1\">[1]<\/a> Cathy O\u2019Neil, Weapons of Math Destruction, Crown, 2016.<\/p>\n\n\n\n<p><a href=\"#_ftnref2\">[2]<\/a> M. Chalabi, Weapons of Math Destruction: Cathy O&rsquo;Neil adds up the\ndamage of algorithms, The Guardian, 27 octobre 2016.\nhttps:\/\/www.theguardian.com\/books\/2016\/oct\/27\/cathy-oneil-weapons-of-math-destruction-algorithms-big-data<\/p>\n\n\n\n<p><a href=\"#_ftnref3\">[3]<\/a> A ce titre les craintes\nde destructions de l\u2019humanit\u00e9 par l\u2019IA caract\u00e9risent assez bien cette forme\nd\u2019alarmisme. Voir par exemple S. Hawking, S. Russel, M. Tegmark,\nF.Wilczek: &lsquo;Transcendence looks at the implications of artificial intelligence\n&#8211; but are we taking AI seriously enough?&rsquo;, The Independent,1 mai 2014 &#8211;\nhttps:\/\/www.independent.co.uk\/news\/science\/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-9313474.html<\/p>\n\n\n\n<p><a href=\"#_ftnref4\">[4]<\/a> Douglas Lenat, chercheur en intelligence artificielle\net directeur de la soci\u00e9t\u00e9 Cycorp<\/p>\n\n\n\n<p><a href=\"#_ftnref5\">[5]<\/a> Yann LeCun, Qu\u2019est-ce que l\u2019intelligence\nartificielle, Coll\u00e8ge de France \u2013 Consult\u00e9 sur le site du coll\u00e8ge de France le\n16 juin 2017&nbsp;:&nbsp;<a href=\"https:\/\/www.college-de-france.fr\/media\/yann-lecun\/UPL4485925235409209505_Intelligence_Artificielle______Y._LeCun.pdf\">https:\/\/www.college-de-france.fr\/media\/yann-lecun\/UPL4485925235409209505_Intelligence_Artificielle______Y._LeCun.pdf<\/a><\/p>\n\n\n\n<p><a href=\"#_ftnref6\">[6]<\/a> Distinction notamment r\u00e9alis\u00e9e par John Searle dans\nles ann\u00e9es 1980, o\u00f9 il diff\u00e9rencie un syst\u00e8me qui aurait un esprit (au sens\nphilosophique) et pourrait produire de la pens\u00e9e d\u2019un syst\u00e8me qui ne peut\nqu\u2019agir (m\u00eame s\u2019il donne l\u2019impression de pouvoir penser)<\/p>\n\n\n\n<p><a href=\"#_ftnref7\">[7]<\/a> Voir par exemple cet\narticle de 20 minutes, qui relaie la communication d\u2019une soci\u00e9t\u00e9 \u00e9ditrice de\nVeriPol sans aucune perspective critique&nbsp;: Espagne&nbsp;: la police\nutilise une intelligence artificielle pour d\u00e9busquer les plaintes mensong\u00e8res,\n30 octobre 2018 &#8211;\nhttps:\/\/www.20minutes.fr\/high-tech\/2363327-20181030-espagne-police-utilise-intelligence-artificielle-debusquer-plaintes-mensongeres%E2%80%AC?fbclid=IwAR2SjlJxGdH0h0HosVCtCi3IZZcXl-zl6-tATip5axsfTnPWOcuw16zJ7OA<\/p>\n\n\n\n<p><a href=\"#_ftnref8\">[8]<\/a> Le th\u00e9or\u00e8me de Thomas Bayes, \u00e9tendus par Pierre-Simon\nLaplace, date du XVIII<sup>\u00e8me<\/sup>&nbsp;&nbsp;si\u00e8cle&nbsp;; les bases des\nr\u00e9seaux neuronaux ont \u00e9t\u00e9 d\u00e9velopp\u00e9es dans les ann\u00e9es 1940 par Warren McCulloch\nand Walter Pitts (Created a computational model for neural networks based on\nmathematics and algorithms called threshold logic, 1943)<\/p>\n\n\n\n<p><a href=\"#_ftnref9\">[9]<\/a> C. S. Calude, G.&nbsp;Longo, Le d\u00e9luge des corr\u00e9lations fallacieuses\ndans le big data, dans La toile que nous voulons \u2013 Le web n\u00e9guentropique, B.\nStiegler (dir.)&nbsp;: FYP \u00e9d., 2017, p.&nbsp;156.<\/p>\n\n\n\n<p><a href=\"#_ftnref10\">[10]<\/a> S. Sermondadaz, Yann\nLeCun&nbsp;: L\u2019intelligence artificielle a moins de sens commun qu\u2019un rat,\nSciences &amp; Avenir, 24 janvier 2018 &#8211;\nhttps:\/\/www.sciencesetavenir.fr\/high-tech\/intelligence-artificielle\/selon-yann-lecun-l-intelligence-artificielle-a-20-ans-pour-faire-ses-preuves_120121<\/p>\n\n\n\n<p><a href=\"#_ftnref11\">[11]<\/a> Voir par exemple\nAlphaGo Chronicles qui d\u00e9crit la mani\u00e8re dont la soci\u00e9t\u00e9 Deepmind est parvenue\n\u00e0 entra\u00eener une IA \u00e0 battre le meilleur joueur humain de go en 2016. La\nconception d\u2019un tel outil n\u2019est pas r\u00e9sum\u00e9e \u00e0 la simple entr\u00e9e de donn\u00e9es dans\nun ordinateur, mais \u00e0 justifier la mobilisation d\u2019une \u00e9quipe enti\u00e8re d\u2019ing\u00e9nieurs\npour concevoir, tester et calibrer plusieurs couches diff\u00e9rentes d\u2019algorithmes.\nhttps:\/\/www.youtube.com\/watch?v=8tq1C8spV_g<\/p>\n\n\n\n<p><a href=\"#_ftnref12\">[12]<\/a> L. Butterfield, Leading academics reveal: what are we getting wrong\nwith AI?, Oxford University, 15 octobre 2018 &#8211; https:\/\/www.research.ox.ac.uk\/Article\/2018-10-15-leading-academics-reveal-what-are-we-getting-wrong-about-ai?fbclid=IwAR10KJv2UhcHPQQeKhDGJKL0XYsqpcs6Sev7HDLMvGRBuUTf6y7UQSkjZ5k<\/p>\n\n\n\n<p><a href=\"#_ftnref13\">[13]<\/a> P. Jensen, Pourquoi la\nsoci\u00e9t\u00e9 ne se laisse pas mettre en \u00e9quation : Editions du Seuil, 2018.<\/p>\n\n\n\n<p><a href=\"#_ftnref14\">[14]<\/a>\nY. Katz, Manufacturing\nan Artificial Intelligence Revolution, SSRN, 17 novembre 2017 <a href=\"https:\/\/ssrn.com\/abstract=3078224\">https:\/\/ssrn.com\/abstract=3078224<\/a>&nbsp;ou&nbsp;<a href=\"https:\/\/dx.doi.org\/10.2139\/ssrn.3078224\">http:\/\/dx.doi.org\/10.2139\/ssrn.3078224<\/a><\/p>\n\n\n\n<p><a href=\"#_ftnref15\">[15]<\/a> Cet objectif justifie\nd\u2019ailleurs l\u2019intense lobbying op\u00e9r\u00e9 par les \u00e9diteurs juridiques et les <em>legaltech<\/em> sur l\u2019ouverture totale des\ndonn\u00e9es judiciaires, pr\u00e9vue par les articles 20 et 21 de la loi pour une\nR\u00e9publique num\u00e9rique du 7 octobre 2016 et dont les d\u00e9crets d\u2019application\nrestent \u00e0 para\u00eetre.<\/p>\n\n\n\n<p><a href=\"#_ftnref16\">[16]<\/a> Sur la confusion entre corr\u00e9lation et causalit\u00e9, voir notamment D.\nCardon, \u00c0 quoi servent les algorithmes. Nos vies \u00e0 l&rsquo;heure des big data :\nSeuil, La r\u00e9publique des id\u00e9es, 2015.<\/p>\n\n\n\n<p><a href=\"#_ftnref17\">[17]<\/a> Les concepts ici\npr\u00e9sent\u00e9s sont d\u00e9velopp\u00e9s de mani\u00e8re plus substantielle dans Y. Meneceur,Quel\navenir pour une justice pr\u00e9dictive : JCP G 2018, doctr.190.<\/p>\n\n\n\n<p><a href=\"#_ftnref18\">[18]<\/a> V. la c\u00e9l\u00e8bre figure du\nroman \u00e0 la cha\u00eene propos\u00e9e par Ronald Dworkin (L&#8217;empire du droit, 1986, trad.\nfran\u00e7aise 1994 : PUF, coll. Recherches politiques, p. 251-252).<\/p>\n\n\n\n<p><a href=\"#_ftnref19\">[19]<\/a> Travaux sur un\n\u00e9chantillon de 584 d\u00e9cisions de la Cour europ\u00e9enne des droits de l&rsquo;Homme : N.\nAletras, D. Tsarapatsanis, D. Preo\u0163iuc-Pietro, V. Lampos, Predicting judicial\ndecisions of the European Court of Human Rights : a Natural Language Processing\nperspective, 24 octobre 2016 &#8211; https:\/\/peerj.com\/articles\/cs-93\/<\/p>\n\n\n\n<p><a href=\"#_ftnref20\">[20]<\/a> Pr\u00e9cisions en ce sens\nque le taux de reproduction des d\u00e9cisions descend \u00e0 62% lorsque l\u2019apprentissage\nse concentre sur la partie de raisonnement juridique d\u2019application de la\nConvention (jeter une pi\u00e8ce en l\u2019air offre approximativement 50% de tomber sur\nune face d\u00e9termin\u00e9e).<\/p>\n\n\n\n<p><a href=\"#_ftnref21\">[21]<\/a> C&rsquo;est ce qu&rsquo;a rappel\u00e9\nla Cour de cassation \u00e0 propos des bar\u00e8mes de pensions alimentaires (Cass. 1re\nciv., 23 oct. 2013, n\u00b0 12-25.301 : JurisData n\u00b0 2013-023208).<\/p>\n\n\n\n<p><a href=\"#_ftnref22\">[22]<\/a> Les concepts ici\npr\u00e9sent\u00e9s ont \u00e9galement \u00e9t\u00e9 d\u00e9velopp\u00e9s plus longuement dans Y. Meneceur,Quel\navenir pour une justice pr\u00e9dictive, <em>op.cit<\/em>.<\/p>\n\n\n\n<p><a href=\"#_ftnref23\">[23]<\/a> M. Benesty,\nL&rsquo;impartialit\u00e9 des juges mise \u00e0 mal par l&rsquo;intelligence artificielle in Village\nde la justice, Tribunes et point de vue du 24 mars 2016 ; <a href=\"http:\/\/www.village-justice.com\/articles\/impartialite-certains-juges-mise,21760.html\">www.village-justice.com\/articles\/impartialite-certains-juges-mise,21760.html<\/a>\n\u2013 le contenu du site Supralegem.fr n\u2019est d\u00e9sormais plus accessible et l\u2019adresse\nredirige vers dalloz.fr<\/p>\n\n\n\n<p><a href=\"#_ftnref24\">[24]<\/a> Mission d&rsquo;\u00e9tude et de\npr\u00e9figuration confi\u00e9e au professeur Lo\u00efc Cadiet le 9&nbsp;mai&nbsp;2017 par le\nministre de la Justice, dont les conclusions ont \u00e9t\u00e9 rendues le\n9&nbsp;janvier&nbsp;2018&nbsp;; www.justice.gouv.fr\/publication\/open_data_rapport.pdf\n(page consult\u00e9e le 20&nbsp;janvier&nbsp;2018. \u2013 S\u2019agissant des avocats, des\nprobl\u00e9matiques singuli\u00e8res (possibilit\u00e9 de classement notamment) justifient\n\u00e9galement un certain nombre d\u2019interrogations.<\/p>\n\n\n\n<p><a href=\"#_ftnref25\">[25]<\/a> Sur cette question, V. N. Regis, Juger, est-ce interpr\u00e9ter&nbsp;?&nbsp;:\nCahiers Philosophiques, Canop\u00e9 \u00e9d., 2016, n\u00b0 147, p. 36-37.<\/p>\n\n\n\n<p><a href=\"#_ftnref26\">[26]<\/a> Voir le site internet <em>Spurious Correlation<\/em> qui recense un\ngrand nombre de corr\u00e9lations fallacieuses, tel qu\u2019un taux de correspondance \u00e0\nplus de 99% entre 2000 et 2009 entre le nombre divorces dans l\u2019Etat du Maine et\nla consommation de margarine par habitant &#8211; <a href=\"http:\/\/tylervigen.com\/spurious-correlations\">http:\/\/tylervigen.com\/spurious-correlations<\/a>\n<\/p>\n\n\n\n<p><a href=\"#_ftnref27\">[27]<\/a> \u00c9. Buat-M\u00e9nard et P. Giambiasi, La m\u00e9moire num\u00e9rique des d\u00e9cisions\njudiciaires&nbsp;: D. 2017, p.&nbsp;1483.<\/p>\n\n\n\n<p><a href=\"#_ftnref28\">[28]<\/a>\nVoir I. Daubechies,\nMachine Learning Works Great \u2013 Mathematicians Just Don\u2019t Know Why, Wired, 12\nd\u00e9cembre 2015 &#8211; <a href=\"https:\/\/www.wired.com\/2015\/12\/machine-learning-works-greatmathematicians-just-dont-know-why\/\">https:\/\/www.wired.com\/2015\/12\/machine-learning-works-greatmathematicians-just-dont-know-why\/<\/a>&nbsp;\n<\/p>\n\n\n\n<p><a href=\"#_ftnref29\">[29]<\/a> Dans cette logique,\nvoir \u00e9galement la critique des statistiques inf\u00e9r entielles pour conclure sur\nle r\u00e9sultat d\u2019un test statistique &#8211; R. Nuzzo, La mal\u00e9diction de la valeur-p,\nPour la Science, 10 janvier 2018.<\/p>\n\n\n\n<p><a href=\"#_ftnref30\">[30]<\/a> Ces d\u00e9veloppements sont\napprofondis dans Y. Meneceur, Les syst\u00e8mes judiciaires europ\u00e9ens \u00e0 l\u2019\u00e9preuve de\nl\u2019intelligence artificielle, Revue de la prospective et de l\u2019innovation,\noctobre 2018, pp11-16. <\/p>\n\n\n\n<p><a href=\"#_ftnref31\">[31]<\/a> Correctional Offender Management Profiling for Alternative Sanctions\n(Profilage des d\u00e9linquants correctionnels pour des sanctions alternatives) est\nun algorithme d\u00e9velopp\u00e9 par la soci\u00e9t\u00e9 priv\u00e9e Equivant (ex-Northpointe)&nbsp;: <a href=\"http:\/\/www.equivant.com\/solutions\/inmate-classification\">http:\/\/www.equivant.com\/solutions\/inmate-classification<\/a>.<\/p>\n\n\n\n<p><a href=\"#_ftnref32\">[32]<\/a> Practitioner\u2019s Guide to COMPAS\nCore, Northpointe, 2015. <a href=\"http:\/\/www.northpointeinc.com\/downloads\/compas\/Practitioners-Guide-COMPAS-Core-_031915.pdf\">http:\/\/www.northpointeinc.com\/downloads\/compas\/Practitioners-Guide-COMPAS-Core-_031915.pdf<\/a> <\/p>\n\n\n\n<p><a href=\"#_ftnref33\">[33]<\/a> L\u2019\u00e9tude et sa m\u00e9thodologie est accessible en ligne&nbsp;: <a href=\"https:\/\/www.propublica.org\/article\/machine-bias-risk-assessments-in-criminal-sentencing\">https:\/\/www.propublica.org\/article\/machine-bias-risk-assessments-in-criminal-sentencing<\/a><\/p>\n\n\n\n<p><a href=\"#_ftnref34\">[34]<\/a> B. Louvel, Discours\nd\u2019ouverture du colloque \u00ab&nbsp;La jurisprudence dans le mouvement de l\u2019open\ndata&nbsp;\u00bb, 14 octobre 2016.\nhttps:\/\/www.courdecassation.fr\/IMG\/\/\/Open%20data,%20par%20B%20Louvel.pdf<\/p>\n\n\n\n<p><a href=\"#_ftnref35\">[35]<\/a> E. Sadin, Intelligence\nartificielle : r\u00e9sistons \u00e0 la \u00ab main invisible automatis\u00e9e \u00bb, Le Monde, 22\nf\u00e9vrier 2018.<\/p>\n\n\n\n<p><a href=\"#_ftnref36\">[36]<\/a> Le slogan de Google a\n\u00e9t\u00e9 jusqu\u2019en 2018 \u00ab&nbsp;don\u2019t be evil&nbsp;\u00bb (il a \u00e9t\u00e9 retir\u00e9 depuis du code\nde bonne conduite de l\u2019entreprise)&nbsp;; Microsoft encourage les leaders\nmondiaux depuis la fin de l\u2019ann\u00e9e \u00e0 la paix num\u00e9rique (<em>digital peace<\/em>)<\/p>\n\n\n\n<p><a href=\"#_ftnref37\">[37]<\/a> Il ne sera pas\nd\u00e9velopp\u00e9 ici la question de la r\u00e9gulation, voir \u00e0 ce sujet Y. Meneceur, Les\nsyst\u00e8mes judiciaires europ\u00e9ens \u00e0 l\u2019\u00e9preuve de l\u2019intelligence artificielle, <em>op.cit.<\/em>.<\/p>\n\n\n\n<p><a href=\"#_ftnref38\">[38]<\/a> Deloitte Insights, State of AI in the Enterprise, 2nd Edition, 22\noctobre 2018.\nhttps:\/\/www2.deloitte.com\/insights\/us\/en\/focus\/cognitive-technologies\/state-of-ai-and-intelligent-automation-in-business-survey.html<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Texte\u00a0et vid\u00e9o de la 2\u00e8me s\u00e9ance du\u00a0s\u00e9minaire\u00a0 de l&rsquo;IHEJ \u00ab\u00a0Droit\u00a0et\u00a0math\u00e9matiques\u00a0\u00bb &#8211; 8\u00a0novembre\u00a02018\u00a0(ENM\u00a0Paris) Retrouvez l&rsquo;enregistrement vid\u00e9o de la 2\u00e8me s\u00e9ance du s\u00e9minaire sur Youtube en cliquant ici.&hellip; <a class=\"read-more-link\" href=\"https:\/\/lestempselectriques.net\/index.php\/2019\/01\/26\/pourquoi-la-justice-resiste-t-elle-aux-mathematiques\/\">Plus&#8230;<\/a><\/p>\n","protected":false},"author":1,"featured_media":563,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[15],"tags":[63,30,69,70,53,68,25,4,26,66,71,67],"coauthors":[17],"class_list":["post-562","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-billetsetudes","tag-apprentissage-automatique","tag-apprentissage-machine","tag-biais","tag-compas","tag-correlation-et-causalite","tag-discrimination","tag-ia","tag-intelligence-artificielle","tag-machine-learning","tag-mathematiques","tag-propublica","tag-statistiques"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/lestempselectriques.net\/wp-content\/uploads\/2019\/01\/Capture.png","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/562","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=562"}],"version-history":[{"count":14,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/562\/revisions"}],"predecessor-version":[{"id":1021,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/562\/revisions\/1021"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media\/563"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=562"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=562"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=562"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=562"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}