{"id":2040,"date":"2022-02-20T23:32:49","date_gmt":"2022-02-20T22:32:49","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=2040"},"modified":"2022-09-02T01:48:47","modified_gmt":"2022-09-01T23:48:47","slug":"quelle-est-la-probabilite-quune-ia-precise-a-99-reconnaisse-un-individu-spoiler-ce-nest-pas-9-chances-sur-10","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2022\/02\/20\/quelle-est-la-probabilite-quune-ia-precise-a-99-reconnaisse-un-individu-spoiler-ce-nest-pas-9-chances-sur-10\/","title":{"rendered":"Quelle est la probabilit\u00e9 qu\u2019une IA pr\u00e9cise \u00e0 99% reconnaisse un individu ? Spoiler : ce n\u2019est pas 9 chances sur 10"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Les discussions sur l\u2019emploi de la reconnaissance faciale[1]<\/a> dans les espaces publics par les forces de l\u2019ordre paraissent toujours particuli\u00e8rement sensibles et ont fortement anim\u00e9 la pr\u00e9paration du projet de r\u00e8glement sur l\u2019intelligence artificielle (IA) de la Commission europ\u00e9enne paru en avril 2021. Outre la volont\u00e9 des gouvernements de disposer d\u2019outils de meilleurs outils de pr\u00e9vention de la criminalit\u00e9, on voit qu\u2019il est aussi question de mettre de l\u2019ordre dans les pratiques d\u2019op\u00e9rateurs priv\u00e9s qui inqui\u00e8tent l\u2019opinion publique et ont conduit \u00e0 des r\u00e9actions des autorit\u00e9s de protection des donn\u00e9es[2]<\/a>.<\/p>\n\n\n\n\n\n\n\n

Reconnaissance faciale : une r\u00e9elle urgence \u00e0 traiter de la question<\/h2>\n\n\n\n

De fait, l\u2019usage de la reconnaissance faciale se r\u00e9pand partout dans le monde et laisse craindre des atteintes substantielles aux libert\u00e9s individuelles, en instaurant notamment des formes de contr\u00f4le plus ou moins permanent d\u2019identit\u00e9 sur la voie publique. Rien de bien neuf dans le d\u00e9bat classique cherchant \u00e0 \u00e9quilibrer dans nos r\u00e9gimes d\u00e9mocratiques s\u00e9curit\u00e9 et libert\u00e9, car c\u2019est exactement ainsi que le terme de vid\u00e9osurveillance s\u2019est progressivement transform\u00e9 en vid\u00e9oprotection \u00e0 la faveur d\u2019une lente acculturation du grand public sur la multiplication de cam\u00e9ra dans l\u2019espace public et d\u2019une clarification du cadre juridique.<\/p>\n\n\n\n

Une diff\u00e9rence essentielle caract\u00e9rise toutefois les applications de reconnaissance faciale par rapport \u00e0 la vid\u00e9osurveillance : c\u2019est la capacit\u00e9 de traitement de donn\u00e9es biom\u00e9triques sans contact avec les sujets. La couche d\u2019IA va bien plus loin que la simple captation d\u2019images en utilisant, en diff\u00e9r\u00e9 ou en temps r\u00e9el, un ensemble de valeurs caract\u00e9risant le visage d\u2019une personne pour l\u2019identifier, sans que les sujets n\u2019aient n\u00e9cessairement conscience que ce traitement s\u2019op\u00e8re. A la faveur du r\u00e9seau d\u00e9j\u00e0 dense de cam\u00e9ras dans certains pays et de la vulgarisation de ces applications de reconnaissance de visages, l\u2019on se retrouve donc potentiellement face \u00e0 des syst\u00e8mes pouvant \u00eatre tr\u00e8s rapidement mis en \u0153uvre \u00e0 large \u00e9chelle, sans aucune des garanties proc\u00e9durales encadrant aujourd\u2019hui de mani\u00e8re stricte les contr\u00f4les d\u2019identit\u00e9 (et qui ont leur raison d\u2019\u00eatre).<\/p>\n\n\n\n

C\u2019est pourquoi les diff\u00e9rentes parties prenantes se retrouvent sur l\u2019urgence \u00e0 traiter de cette question, sans parvenir, \u00e9videmment, aux m\u00eames conclusions. Les discussions opposent les tenants d\u2019une stricte protection des droits des individus dans la soci\u00e9t\u00e9, en allant jusqu\u2019au bannissement de cette technologie, aux promoteurs du d\u00e9ploiement de cette m\u00eame technologie avec un cadre juridique sp\u00e9cifique plus ou moins contraignant. Sans entrer dans les d\u00e9tails de ces d\u00e9bats, le projet de r\u00e8glement sur l\u2019IA de la Commission europ\u00e9enne para\u00eet \u2013 en l\u2019\u00e9tat \u2013 soutenir le d\u00e9ploiement de la reconnaissance faciale sous certaines conditions proc\u00e9durales, afin de permettre aux \u00c9tats de renforcer la lutte contre diff\u00e9rentes formes graves de criminalit\u00e9, comme le terrorisme.<\/p>\n\n\n\n

Un oubli de taille dans les d\u00e9bats : la r\u00e9elle efficacit\u00e9 des dispositifs<\/h2>\n\n\n\n

Une difficult\u00e9 substantielle subsiste pourtant dans ces d\u00e9bats, trop rarement abord\u00e9e : celle de la r\u00e9elle efficacit\u00e9 de ces dispositifs. Les excellents taux de reconnaissance des derni\u00e8res g\u00e9n\u00e9rations d\u2019algorithmes, sans cesse en progr\u00e8s, para\u00eet en effet avoir clos toute discussion \u00e0 ce sujet. Le NIST (National Institute of Standards & Technology), agence du d\u00e9partement du commerce des \u00c9tats-Unis, r\u00e9alise depuis plusieurs ann\u00e9es une \u00e9tude comparative des solutions commerciales de reconnaissance faciale et observe aujourd\u2019hui des taux d\u2019erreurs entre 0,5% et 10% selon les algorithmes[3]<\/a>. Cette \u00e9volution r\u00e9volutionnaire par rapport aux anciennes classes d\u2019algorithmes provient essentiellement de l\u2019application de l\u2019apprentissage profond qui a d\u00e9montr\u00e9 des capacit\u00e9s extraordinaires pour cat\u00e9goriser des images num\u00e9riques. Pour autant et de mani\u00e8re tout \u00e0 fait contre-intuitive, la probabilit\u00e9 de d\u00e9tection d\u2019un individu recherch\u00e9 parmi une large population demeure extr\u00eamement basse m\u00eame avec un syst\u00e8me en capacit\u00e9 d\u2019identifier un taux tr\u00e8s \u00e9lev\u00e9 de \u00ab vrais positifs \u00bb. Explications.<\/p>\n\n\n\n

Cette situation est li\u00e9e \u00e0 l\u2019oubli \u2013 courant et classique \u2013 de la \u00ab fr\u00e9quence de base \u00bb<\/p><\/blockquote>\n\n\n\n

Cette situation est li\u00e9e \u00e0 l\u2019oubli \u2013 courant et classique \u2013 de la \u00ab fr\u00e9quence de base \u00bb, autrement appel\u00e9 \u00ab n\u00e9gligence de la taille de l\u2019\u00e9chantillon \u00bb qui consiste \u00e0 surestimer une probabilit\u00e9 en omettant de prendre comme r\u00e9f\u00e9rence l\u2019ensemble de la population consid\u00e9r\u00e9e[4]<\/a>. Prenons comme exemple, dans une ville, une population d\u2019individus surveill\u00e9s et connus pour \u00eatre des d\u00e9linquants (100 pour faire simple) sur une population totale de 1 000 000 d\u2019habitants. Admettons que le syst\u00e8me de reconnaissance faciale de cette ville s\u2019av\u00e8re particuli\u00e8rement pr\u00e9cis et parvient \u00e0 un taux de reconnaissance de 99% des individus \u00ab d\u00e9linquants \u00bb. Si vous concluez de cet \u00e9nonc\u00e9 que ce syst\u00e8me est particuli\u00e8rement efficace car il y aurait 9 chances sur 10 d\u2019identifier un individu surveill\u00e9, vous vous trompez !<\/p>\n\n\n\n

Votre syst\u00e8me de reconnaissance faciale op\u00e8re en effet sur l\u2019ensemble de votre population et non sur les seuls surveill\u00e9s. La r\u00e9elle probabilit\u00e9 d\u2019identifier un individu d\u00e9linquant doit prendre en compte les \u00ab vrais positifs \u00bb en appliquant le taux d\u2019erreur (soit 99 individus sur les 100) ainsi que les \u00ab faux positifs \u00bb de la population \u00ab non-d\u00e9linquante \u00bb pour lesquels une alerte va \u00eatre \u00e9mise \u00e0 tort. Et ces faux positifs correspondent pr\u00e9cis\u00e9ment \u00e0 9 999 personnes (taux d\u2019erreur de 1% appliqu\u00e9 \u00e0 la population des 999 900 habitants \u00ab non d\u00e9linquants \u00bb). Le nombre total d\u2019alertes positives s\u2019\u00e9l\u00e8ve donc potentiellement \u00e0 99 + 9 999, soit 10 098. En conclusion, la probabilit\u00e9 r\u00e9elle qu\u2019une alerte vous signale un individu effectivement surveill\u00e9 comme un d\u00e9linquant est donc de 99 \/ 10 098\u2026 ce qui correspond \u00e0 0,98 %<\/strong> !<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

La surface des rectangles ne sont pas proportionnelles au nombre d’individus pour conserver la clart\u00e9 des textes li\u00e9s<\/em><\/p>\n\n\n\n

Moins de 1% de probabillit\u00e9 ! Quel changement de perspective !<\/h2>\n\n\n\n

Nous discuterions donc en r\u00e9alit\u00e9 de diffuser dans l\u2019espace public des syst\u00e8mes qui vont potentiellement incriminer \u00e0 tort un nombre non n\u00e9gligeable d\u2019individus (9 999 dans notre exemple), avec tous les biais connus et document\u00e9s que nous connaissons[5]<\/a>, pour un r\u00e9sultat qui m\u00e9rite tout de m\u00eame une s\u00e9rieuse discussion ? Alors que les syst\u00e8mes algorithmiques sont pr\u00e9sent\u00e9s comme pouvant r\u00e9duire l\u2019incertitude et les erreurs humaines, on admettrait de d\u00e9ployer dans l\u2019espace public des syst\u00e8mes qui commettront une proportion ahurissante d\u2019erreurs (99,12 % dans notre exemple) ?<\/p>\n\n\n\n

Non seulement les op\u00e9rateurs vont constater que les promesses ne semblent pas tenues mais l\u2019on fragilise des digues juridiques difficilement \u00e9rig\u00e9es depuis des d\u00e9cennies<\/p><\/blockquote>\n\n\n\n

Les cons\u00e9quences de ce changement de perspective sont donc consid\u00e9rables : non seulement les op\u00e9rateurs vont constater, avec un brin de d\u00e9couragement, que les promesses ne semblent pas tenues (et potentiellement donc baisser leur garde quand ils auront 99 fausses alertes \u00e0 traiter pour un seul cas r\u00e9el) mais \u2013 surtout \u2013 l\u2019on fragilise des digues juridiques difficilement \u00e9rig\u00e9es depuis des d\u00e9cennies pour prot\u00e9ger nos droits fondamentaux pour implanter des syst\u00e8mes tout \u00e0 fait approximatifs. Sans d\u00e9velopper davantage sur le fameux \u00ab chilling effect \u00bb o\u00f9, en craignant d\u2019\u00eatre fich\u00e9, d\u00e9savantag\u00e9 pour un emploi public ou simplement accus\u00e9 \u00e0 tort, l\u2019on va d\u00e9courager potentiellement la population d\u2019exprimer ses opinions dans l\u2019espace public mais pour quel gain ? Moins d\u2019une chance sur 100 d\u2019identifier une personne recherch\u00e9e ? Est-ce vraiment le prix que nous voulons payer pour acc\u00e9der \u00e0 un sentiment abstrait de s\u00e9curit\u00e9 ?<\/p>\n\n\n\n

Il ne s\u2019agit naturellement pas de minimiser l\u2019int\u00e9r\u00eat des d\u00e9bats en cours sur la reconnaissance faciale, mais nous devrions tout de m\u00eame prendre conscience que nous pensons traiter de l\u2019encadrement de machines de pr\u00e9cision chirurgicale alors que nous avons en r\u00e9alit\u00e9 \u00e0 faire \u00e0 des chalutiers qui vont ratisser large et ramasser tout ce qu\u2019ils trouvent pour \u00eatre s\u00fbr de ramener dans leurs filets ce qu\u2019ils cherchent.<\/p>\n\n\n\n

Les d\u00e9bats sur la reconnaissance faciale m\u00e9riteraient donc, comme d\u2019autres sur l\u2019emploi de l\u2019IA, d\u2019\u00eatre d\u2019abord et avant tout remis en perspective au regard des capacit\u00e9s pr\u00e9cises des instruments technologiques que l\u2019on entend d\u00e9ployer. Ce qui semble d\u2019autant plus dramatique, c\u2019est que l\u2019opinion publique est de plus en plus accultur\u00e9e au travers de discours volontaristes \u00e0 des pr\u00e9tendues performances d\u2019instruments num\u00e9riques alors que nous sommes en fait en train de cr\u00e9er les conditions d\u2019un renforcement des discriminations et des in\u00e9galit\u00e9s avec des gadgets technologiques peu matures. Pas s\u00fbr que nos d\u00e9mocraties, d\u00e9j\u00e0 fragilis\u00e9es, aient besoin de cela \u00e0 ce moment pr\u00e9cis de notre histoire.<\/p>\n\n\n\n

Pour aller plus loin<\/strong> | voir \u00ab Le petit guide sur les enjeux de la reconnaissance faciale <\/a>\u00bb de l\u2019Observatoire International sur les impacts soci\u00e9taux de l\u2019IA et du num\u00e9rique (OBVIA)<\/p>\n\n\n\n

[1]<\/a> Cet article s\u2019en tiendra \u00e0 la d\u00e9finition donn\u00e9e par la CNIL, diff\u00e9renciant reconnaissance faciale et d\u00e9tection de visages : https:\/\/www.cnil.fr\/fr\/definition\/reconnaissance-faciale<\/p>\n\n\n\n

[2]<\/a> Voir par exemple Reconnaissance faciale : la CNIL met en demeure CLEARVIEW AI de cesser la r\u00e9utilisation de photographies accessibles sur internet, CNIL, 16 d\u00e9cembre 2021 \u2013 https:\/\/www.cnil.fr\/fr\/reconnaissance-faciale-la-cnil-met-en-demeure-clearview-ai-de-cesser-la-reutilisation-de<\/p>\n\n\n\n

[3]<\/a> P. Guitton, Les biais biom\u00e9triques et ethniques des logiciels de reconnaissance faciale, Blog Binaire \u2013 Le Monde, 17 f\u00e9vrier 2020<\/p>\n\n\n\n

[4]<\/a> Dans les ann\u00e9es 1970, Amos Tversky (1937-1996), psychologue, et Daniel Kahneman (n\u00e9 en 1934), psychologue et \u00e9conomiste, prix Nobel d’\u00e9conomie en 2002, ont conduit une s\u00e9rie d’exp\u00e9riences mettant en \u00e9vidence les erreurs provoqu\u00e9es par cet oubli, notamment dans des populations tr\u00e8s dipl\u00f4m\u00e9es.<\/p>\n\n\n\n

[5]<\/a> Rappelons par exemple que l\u2019\u00e9tude comparative du NIST d\u00e9montrait que les \u00ab faux positifs \u00bb des syst\u00e8mes de reconnaissance faciale \u00e9taient plus \u00e9lev\u00e9s pour les femmes, les africains de l\u2019est et de l\u2019ouest, ainsi que pour les originaires d\u2019Am\u00e9rique centrale pour de multiples raisons techniques qui ne seront pas d\u00e9velopp\u00e9es ici.<\/p>\n","protected":false},"excerpt":{"rendered":"

Les discussions sur l\u2019emploi de la reconnaissance faciale[1] dans les espaces publics par les forces de l\u2019ordre paraissent toujours particuli\u00e8rement sensibles et ont fortement anim\u00e9 la pr\u00e9paration du projet de r\u00e8glement sur l\u2019intelligence artificielle (IA) de la Commission europ\u00e9enne paru en avril 2021. Outre la volont\u00e9 des gouvernements de disposer d\u2019outils de meilleurs outils de pr\u00e9vention… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[15],"tags":[25,4,248,67],"coauthors":[17],"class_list":["post-2040","post","type-post","status-publish","format-standard","hentry","category-billetsetudes","tag-ia","tag-intelligence-artificielle","tag-reconnaissance-faciale","tag-statistiques"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2040","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=2040"}],"version-history":[{"count":6,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2040\/revisions"}],"predecessor-version":[{"id":2110,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/2040\/revisions\/2110"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=2040"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=2040"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=2040"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=2040"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}