{"id":409,"date":"2018-07-30T10:14:35","date_gmt":"2018-07-30T08:14:35","guid":{"rendered":"http:\/\/lestempselectriques.net\/?p=409"},"modified":"2020-04-09T16:49:55","modified_gmt":"2020-04-09T14:49:55","slug":"intelligence-artificielle-et-proces-penal","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2018\/07\/30\/intelligence-artificielle-et-proces-penal\/","title":{"rendered":"Intelligence artificielle et proc\u00e8s p\u00e9nal"},"content":{"rendered":"

Quelle utilisation de l’IA dans le proc\u00e8s p\u00e9nal en Europe ? <\/em><\/p>\n

\"\"<\/p>\n

Les passionn\u00e9s de science fiction n\u2019aurons sans doute rat\u00e9 un chef d\u2019\u0153uvre du genre, le c\u00e9l\u00e8bre Minority Report <\/em>de Steven Spielberg. <\/em>En 2054, l\u2019agent John Anderton (Tom Cruise) est \u00e0 la t\u00eate d’une unit\u00e9 de police tr\u00e8s particuli\u00e8re, la division \u00ab Pr\u00e9-Crime \u00bb, capable d\u2019identifier l\u2019auteur d\u2019un crime avant le passage \u00e0 l\u2019acte gr\u00e2ce aux pr\u00e9dictions des trois cr\u00e9atures, dot\u00e9es de pouvoirs de pr\u00e9voyance surnaturelle, d\u00e9nomm\u00e9es \u00ab Pr\u00e9-Cogs \u00bb. Un jour, alors qu’il revient d’une mission p\u00e9rilleuse, John apprend par hasard qu\u2019il fait lui-m\u00eame l\u2019objet d\u2019une pr\u00e9diction des \u00ab\u00a0Pr\u00e9-Cogs\u00a0\u00bb et qu\u2019il est cens\u00e9 tuer un homme qu\u2019il ne conna\u00eet pas. Il s\u2019enfuit et tente de comprendre comment \u00abPr\u00e9-Crime\u00bb a pu le d\u00e9signer comme un tueur\u2026..<\/p>\n

Est-ce que notre r\u00e9alit\u00e9 est aussi \u00e9loign\u00e9e de ce sc\u00e9nario de science fiction\u00a0? Pas tout \u00e0 fait. L\u2019entr\u00e9e des techniques d\u2019intelligence artificielle (IA), et notamment celles d\u2019apprentissage machine (machine learning<\/em>) dans le champ p\u00e9nal a rendu en effet possible une certaine dose de pr\u00e9diction\u00a0: si l\u2019identification pr\u00e9alable de l\u2019auteur d\u2019une infraction p\u00e9nale demeure impossible, l\u2019IA permettrait en revanche d\u2019\u00e9valuer les probabilit\u00e9s de r\u00e9it\u00e9ration d\u2019une conduite criminelle par une personne soumise \u00e0 une privation de libert\u00e9 par l\u2019autorit\u00e9 publique, moyennant des instruments de \u00ab\u00a0v\u00e9rification du risque\u00a0\u00bb (risk assessment tools<\/em>). Utilis\u00e9s \u00e0 large \u00e9chelle aux Etats Unis, ceux-ci commencent \u00e0 faire l\u2019objet d\u2019exp\u00e9rimentation en Europe, notamment au Royaume Uni.<\/p>\n

Dans ces syst\u00e8mes de common law<\/em> en effet, le niveau de risque \u00a0de r\u00e9cidive (faible, moyen \u00e9lev\u00e9) fait partie des crit\u00e8res de d\u00e9termination de la peine ou de la mesure de r\u00e9habilitation[1]<\/a> : on consid\u00e8re que les criminels \u00e0 \u00ab risque faible \u00bb doivent recevoir une peine de prison plus courte ou b\u00e9n\u00e9ficier de mesures alternatives \u00e0 la d\u00e9tention, alors que ceux consid\u00e9r\u00e9s \u00e0 \u00ab haut risque \u00bb devraient aller en prison. Les outils d\u2019\u00e9valuation du risque ont \u00e9t\u00e9 con\u00e7us pour aider le juge dans le processus d\u00e9cisionnel et leur domaine d\u2019utilisation s\u2019est progressivement \u00e9largi au fil du temps\u00a0; employ\u00e9s \u00e0 l\u2019origine en phase d\u2019ex\u00e9cution de la peine (pour \u00e9valuer l\u2019opportunit\u00e9 d\u2019octroyer la lib\u00e9ration conditionnelle ou d\u2019assigner la personne concern\u00e9e \u00e0 des services de probation), ils sont couramment utilis\u00e9s dans la phase de \u00a0d\u00e9termination de la peine (sentencing<\/em>) et d\u2019application de la garde \u00e0 vue dans plusieurs \u00e9tats f\u00e9d\u00e9r\u00e9s[2]<\/a>. Leurs constats ne sont pas contraignants pour le juge.<\/p>\n

L\u2019IA a permis de d\u00e9velopper des instruments d\u2019\u00e9valuation du risque de \u00ab\u00a0nouvelle g\u00e9n\u00e9ration\u00a0\u00bb qui se\u00a0 fondent sur l’analyse statistique de grands ensembles de donn\u00e9es agr\u00e9g\u00e9es relatives aux conduites criminelles.\u00a0 Un \u00e9chantillon de d\u00e9cisions de privation des libert\u00e9s est s\u00e9lectionn\u00e9 et des corr\u00e9lations sont par la suite \u00e9tablies avec des \u00ab\u00a0facteurs de risque\u00a0\u00bb relatifs aux individus touch\u00e9s par ces d\u00e9cisions. Il peut s\u2019agir par exemple du sexe, de l’\u00e2ge, de la scolarit\u00e9, de l’\u00e9tat civil et du statut professionnel de l’individu, de sa situation patrimoniale, de ses ant\u00e9c\u00e9dents criminels, de son domicile et de sa stabilit\u00e9 r\u00e9sidentielle. Un algorithme est par la suite \u00e9labor\u00e9 qui, en s\u2019appuyant sur des mod\u00e8les con\u00e7us avec des techniques d\u2019\u00ab\u00a0apprentissage machine\u00a0\u00bb, d\u00e9termine la probabilit\u00e9 statistique de r\u00e9cidive de la personne concern\u00e9e en fonction du nombre de facteurs de risque pertinents. Plus celle-ci partage des facteurs de risque avec des individus ayant r\u00e9cidiv\u00e9 (selon les statistiques \u00e9labor\u00e9es), plus l\u2019algorithme \u00e9valuera comme \u00e9tant \u00e9lev\u00e9 son risque de r\u00e9it\u00e9ration de l\u2019infraction.<\/p>\n

D\u2019apr\u00e8s leurs partisans, l\u2019int\u00e9r\u00eat de la mise en place de ces outils r\u00e9side dans leur capacit\u00e9 de donner des \u00e9l\u00e9ments de contexte suppl\u00e9mentaires au juge, lui permettant de combiner l’information dont il dispose avec une estimation de la conduite probable de l\u2019individu dans l\u2019avenir, fond\u00e9e sur des donn\u00e9es statistiques relatives \u00e0 des cas analogues. \u00a0Leurs d\u00e9tracteurs rel\u00e8vent au contraire les criticit\u00e9s existantes vis-\u00e0-vis des principes d\u2019\u00e9galit\u00e9 de traitement, d\u2019individualisation et de proportionnalit\u00e9 de la peine\u00a0<\/strong>: le comportement pass\u00e9 d\u2019un certain groupe de personnes finirait en effet pour influencer le sort d\u2019un individu qui, en tant qu’\u00eatre humain unique, est ins\u00e9r\u00e9 dans un contexte social sp\u00e9cifique. Il a re\u00e7u une \u00e9ducation et d\u00e9velopp\u00e9 des comp\u00e9tences propres et ne peut \u00eatre jug\u00e9 qu’en fonction de son propre degr\u00e9 de culpabilit\u00e9 et des motivations sp\u00e9cifiques qui l’ont conduit \u00e0 commettre une infraction[3]<\/a>.<\/p>\n

La question de l\u2019objectivit\u00e9 <\/strong>de ces outils, cens\u00e9s contrer la subjectivit\u00e9 du juge, fait aussi l\u2019objet de d\u00e9bat. Fond\u00e9es uniquement sur un traitement statistique de donn\u00e9es relatives aux infractions pass\u00e9es, insensibles aux sentiments et aux pr\u00e9jug\u00e9s, les pr\u00e9dictions de l\u2019IA seraient plus fiables que celles de l\u2019\u00eatre humain. Cet argument, qui para\u00eet s\u00e9duisant \u00e0 premi\u00e8re vue, n\u00e9glige que le biais sont souvent incorpor\u00e9s dans les donn\u00e9es elles-m\u00eames.<\/p>\n

Un exemple pertinent \u00e0 cet \u00e9gard est li\u00e9 \u00e0 un des facteurs qui rev\u00eat une grande importance dans tous les outils d\u2019\u00e9valuation du risque, \u00e0 savoir celui de l\u2019histoire criminelle. Son \u00e9volution peut en effet d\u00e9pendre des d\u00e9cisions des pouvoirs publics (par exemple, o\u00f9 d\u00e9ployer la police, qui arr\u00eater, quel type de sanctions appliquer)\u00a0 qui pourraient \u00e0 leur tour \u00eatre t\u00e2ch\u00e9es de biais soci\u00e9taux ou raciaux. Si par exemple certaines communaut\u00e9s sont plus vis\u00e9es que d\u2019autres par des mesures de police, les ant\u00e9c\u00e9dents criminels des personnes faisant parties de ces communaut\u00e9s seront en cons\u00e9quence plus nombreux.<\/p>\n

Ces outils ne feraient donc que reproduire des disparit\u00e9s raciales et socio-\u00e9conomiques d\u00e9j\u00e0 existantes dans nos soci\u00e9t\u00e9s, comme le montre bien l\u2019enqu\u00eate men\u00e9e par l\u2019ONG Pro-Publica en 2016[4]<\/a> par rapport \u00e0 COMPAS (Correctional Offender Management Profiling for Alternative Sanctions<\/em>), un instrument d\u2019\u00e9valuation du risque utilis\u00e9 dans plusieurs \u00e9tats f\u00e9d\u00e9r\u00e9s am\u00e9ricains: \u00a0les populations afro-am\u00e9ricaines se sont vues attribuer un taux de risque de r\u00e9cidive deux fois sup\u00e9rieur \u00e0 celui des autres populations dans les deux ans qui suivaient l\u2019application de la peine ; inversement l\u2019algorithme consid\u00e9rait que d\u2019autres populations semblaient beaucoup moins susceptibles de r\u00e9it\u00e9rer une infraction. Des outils donc aux effets discriminatoires et d\u00e9terministes<\/strong>, qui finissent pour p\u00e9naliser certaines communaut\u00e9s ou individus plus que d\u2019autres.<\/p>\n

La pr\u00e9tendue impartialit\u00e9 et objectivit\u00e9 d\u2019une justice administr\u00e9e par les algorithmes se heurterait donc \u00e0 la \u00ab\u00a0contamination\u00a0\u00bb des statistiques et des donn\u00e9es\u00a0; \u00e0 l\u2019apparence \u00ab\u00a0st\u00e9rilis\u00e9e\u00a0\u00bb par l\u2019utilisation de m\u00e9thodes math\u00e9matiques et statistiques, elle finirait pour l\u00e9gitimer des injustices, voir les amplifier par le biais d\u2019une in\u00e9galit\u00e9 de traitement r\u00e9p\u00e9t\u00e9e par les tribunaux.<\/p>\n

Est-ce que l\u2019IA serait plus exacte <\/strong>dans ses d\u00e9terminations qu\u2019un juge humain ? Quoiqu\u2019en capacit\u00e9 de traiter et d\u2019\u00e9tablir des liens entre des grandes masses de donn\u00e9es, et d\u2019une mani\u00e8re plus performante qu’un \u00eatre humain, on ne peut pas conclure pour autant \u00e0 une sup\u00e9riorit\u00e9 de l\u2019IA sur le plan des r\u00e9sultats. Les fautes plus fr\u00e9quemment produites par les outils d\u2019\u00e9valuation du risque sont celles relatives \u00e0 l\u2019inclusion d\u2019un individu dans une cat\u00e9gorie de risque erron\u00e9e. L\u2019IA peut en effet produire :<\/p>\n