{"id":608,"date":"2019-02-20T21:45:49","date_gmt":"2019-02-20T20:45:49","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=608"},"modified":"2020-04-09T16:23:00","modified_gmt":"2020-04-09T14:23:00","slug":"chronique-de-lemission-intelligence-artificielle-et-proces-penal","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2019\/02\/20\/chronique-de-lemission-intelligence-artificielle-et-proces-penal\/","title":{"rendered":"Chronique de l’\u00e9mission \u00ab\u00a0Intelligence artificielle et proc\u00e8s p\u00e9nal\u00a0\u00bb"},"content":{"rendered":"\n

Intelligence artificielle et proc\u00e8s p\u00e9nal : l’illusion d’un destin ?<\/strong><\/em><\/p>\n\n\n\n

Invit\u00e9e : Clementina Barbaro, chef d’unit\u00e9 au Conseil de l’Europe<\/em><\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

Comme les bains de photographie argentique parviennent \u00e0 r\u00e9v\u00e9ler l\u2019imperceptible d\u2019une prise de vue, l\u2019intelligence artificielle (IA) nous promet de d\u00e9voiler, par le formalisme math\u00e9matique et statistique, de l\u2019information dans le canevas des donn\u00e9es que nous produisons de plus en plus massivement.<\/p>\n\n\n\n

Appliqu\u00e9 au champ de la justice p\u00e9nale, plusieurs r\u00e9alisations, d\u00e9j\u00e0 fonctionnelles aux Etats-Unis, visent \u00e0 pr\u00e9venir la commission d\u2019infractions, notamment par des sortes de cartographies \u00ab pr\u00e9dictives \u00bb, ou \u00e0 \u00e9valuer les risques de r\u00e9it\u00e9ration d\u2019un individu.<\/p>\n\n\n\n\n\n\n\n

La ville de Santa Cruz a \u00e9t\u00e9 la premi\u00e8re \u00e0 se doter, en juillet 2011, d\u2019un outil baptis\u00e9 PredPol (pour predictive policing<\/em>), qui vise \u00e0 pr\u00e9dire o\u00f9 et quand un crime va se produire. Il n\u2019y a aucun \u00ab precog \u00bb derri\u00e8re tout cela, comme dans le film Minority Report, mais une base de donn\u00e9es recensant les infractions pass\u00e9es et la formule magique de notre \u00e8re de l\u2019IA : des mod\u00e8les math\u00e9matiques et statistiques \u2013 secrets \u2013 qui projettent du pass\u00e9 un possible avenir. De telles solutions sont d\u00e9j\u00e0 test\u00e9s dans de nombreux pays europ\u00e9ens.<\/p>\n\n\n\n

Nous pourrions prendre aussi l\u2019exemple de l\u2019algorithme COMPAS  qui est utilis\u00e9 de mani\u00e8re effective dans certains \u00c9tats am\u00e9ricains afin d\u2019\u00e9valuer la dangerosit\u00e9 des individus en vue de leur \u00e9ventuel placement en d\u00e9tention provisoire ou lors du prononc\u00e9 d\u2019une condamnation p\u00e9nale. Cet algorithme n\u2019a rien de fantaisiste : il s\u2019appuie sur des \u00e9tudes acad\u00e9miques en criminologie et en sociologie, sur diff\u00e9rents mod\u00e8les statistiques et le traitement d\u2019un questionnaire de 137 entr\u00e9es, relatif \u00e0 la personne concern\u00e9e et \u00e0 son pass\u00e9 judiciaire sans aucune r\u00e9f\u00e9rence \u00e0 son origine ethnique. Le syst\u00e8me fournit ensuite au juge diff\u00e9rents \u00ab scores \u00bb \u00e0 un horizon de deux ann\u00e9es : risque de r\u00e9cidive, risque de comportement violent et risque de non-comparution pour les situations de placement en d\u00e9tention provisoire.<\/p>\n\n\n\n

Toutefois, en mai 2016, les journalistes de l\u2019ONG ProPublica ont analys\u00e9 l\u2019efficacit\u00e9 des \u00ab pr\u00e9dictions \u00bb de  COMPAS sur une population de pr\u00e8s de 10 000 individus arr\u00eat\u00e9s dans le comt\u00e9 de Broward (Floride) entre 2013 et 2014. Cette \u00e9tude a r\u00e9v\u00e9l\u00e9 non seulement un taux relativement faible de \u00ab pr\u00e9dictions \u00bb justes (61%) mais, en proc\u00e9dant \u00e0 l\u2019analyse approfondie des \u00ab faux positifs \u00bb, elle a par ailleurs \u00e9tabli que les populations afro-am\u00e9ricaines \u00e9taient pond\u00e9r\u00e9es d\u2019un plus fort risque de r\u00e9cidive que les populations blanches. Inversement, les populations blanches ayant effectivement r\u00e9cidiv\u00e9es avaient \u00e9t\u00e9 deux fois plus classifi\u00e9es comme \u00e9tant en risque faible que les populations afro-am\u00e9ricaines. <\/p>\n\n\n\n

En d\u2019autres termes, sans inclure l\u2019ethnie des individus ou avoir \u00e9t\u00e9 sp\u00e9cifiquement con\u00e7u pour traiter cette caract\u00e9ristique, le croisement des donn\u00e9es (dont le lieu de r\u00e9sidence) a indirectement surpond\u00e9r\u00e9 cet aspect au d\u00e9triment d\u2019autres facteurs sociaux individuels (\u00e9ducation, emploi, parcours familial) et a conduit \u00e0 influencer les juges avec des indicateurs proprement discriminatoires.
<\/p>\n\n\n\n

Cette perspective, effrayante, est-elle une r\u00e9alit\u00e9 fonctionnelle ou juste des \u00e9piph\u00e9nom\u00e8nes, un peu gonfl\u00e9 par la presse ?<\/p>\n\n\n\n

Profitons de l\u2019expertise de Clementina Barbaro, qui est chef d\u2019unit\u00e9 au Conseil de l\u2019Europe. Elle a notamment anim\u00e9 les derniers travaux de la CEPEJ sur l\u2019IA dans les syst\u00e8mes judiciaires et elle intervenue notamment au S\u00e9nat, en juin 2018, et dans plusieurs forums europ\u00e9ens sur la question !<\/p>\n\n\n\n

\n\n\n\n
\"\"<\/figure><\/div>\n\n\n\n

Ecoutez l’entretien avec Clementina Barbaro, chef d’unit\u00e9 au Conseil de l’Europe<\/a> <\/p>\n","protected":false},"excerpt":{"rendered":"

Intelligence artificielle et proc\u00e8s p\u00e9nal : l’illusion d’un destin ? Invit\u00e9e : Clementina Barbaro, chef d’unit\u00e9 au Conseil de l’Europe Comme les bains de photographie argentique parviennent \u00e0 r\u00e9v\u00e9ler l\u2019imperceptible d\u2019une prise de vue, l\u2019intelligence artificielle (IA) nous promet de d\u00e9voiler, par le formalisme math\u00e9matique et statistique, de l\u2019information dans le canevas des donn\u00e9es que nous produisons de… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[14],"tags":[74,63,30,75,37,25,4,26,76,73],"coauthors":[17],"class_list":["post-608","post","type-post","status-publish","format-standard","hentry","category-emissions","tag-analyse-predictive","tag-apprentissage-automatique","tag-apprentissage-machine","tag-crimes-et-delits","tag-droit-penal","tag-ia","tag-intelligence-artificielle","tag-machine-learning","tag-peine","tag-predictive-policing"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/608","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=608"}],"version-history":[{"count":4,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/608\/revisions"}],"predecessor-version":[{"id":1007,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/608\/revisions\/1007"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=608"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=608"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=608"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=608"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}