Covid-19 et intelligence artificielle : des usages rarement matures ne pouvant compenser la fragilité des systèmes de santé

Bibliographie de l’ouvrage “L’intelligence artificielle en procès”

Les multiples usages des technologies numériques en période de crise, dont l’informatique et cette fameuse « IA », illustrent leurs très larges potentialités. Mais très peu « d’IA » s’avèrent en réalité totalement matures, avec un impact opérationnel[1]. De plus, elles n’ont pu compenser ce qui a fait fondamentalement défaut : une mobilisation et une coordination mondiale soutenues pour affronter une crise globale dès le début de la pandémie. 

Lors des précédentes crises mondiales, comme la crise financière de 2008 et l’épidémie du virus Ebola de 2014, les États-Unis ont assumé une telle dynamique, mais l’administration américaine actuelle semble avoir renoncé à de telles ambitions, en abandonnant au passage ses alliés ou en tentant de s’assurer l’exclusivité des travaux d’une société pharmaceutique allemande. Ce sont la Chine, la Fédération de Russie et Cuba qui ont montré qu’ils supportaient matériellement l’Italie au pic de la crise. Si ces démonstrations relèvent de l’opération de communication et de lutte géopolitique, il y a toutefois là un changement de paradigme géopolitique majeur en cours, d’autant plus que la crise financière qui suivra cette crise sanitaire va encore fragiliser les solidarités entre les peuples[2]. Le Conseil de l’Europe pourrait être l’un des moteurs pour réaffirmer la nécessaire solidarité à développer entre les peuples européens pour mieux faire face à des défis globaux. Rappelons d’ailleurs que l’article 11 de la Charte sociale européenne (ratifiée par 34 des 47 États membres du Conseil de l’Europe) édicte déjà un droit à la protection de la santé qui engage les signataires « à prendre, soit directement, soit en coopération avec les organisations publiques et privées, des mesures appropriées tendant notamment : 1°) à éliminer, dans la mesure du possible, les causes d’une santé déficiente ; 2°)  à prévoir des services de consultation et d’éducation pour ce qui concerne l’amélioration de la santé et le développement du sens de la responsabilité individuelle en matière de santé ; 3°) à prévenir, dans la mesure du possible, les maladies épidémiques, endémiques et autres, ainsi que les accidents. »

Cette pandémie a aussi révélé la très grande fragilité des systèmes de santé, après des décennies de coupes budgétaires et de croyances que diverses applications technologiques, telles que « l’IA », allaient permettre de faire mieux avec moins. « C’est la foi d’un monde gérable comme une entreprise qui se cogne aujourd’hui brutalement à la réalité de risques incalculables » affirme Alain Supiot dans un entretien avec le magazine Alternatives Économiques[3]. « L’IA » a tenu une place de choix comme nouvel oracle en capacité de réduire toute forme de risque en nombre et ses usages ont contribué à substituer au cœur des missions des calculs d’utilité. Les systèmes de soins ont ainsi été saisis par une déconstruction de systèmes de solidarité garantis par l’État au profit d’une privatisation, d’une plus grande flexibilité et de la recherche d’efficience. Le management par le coût en est arrivé à primer sur la mission d’intérêt général et l’universalité des soins. Les projections, souvent surévaluées par l’industrie numérique, d’une « IA » capable de décharger les médecins de certaines tâches complexes pour les recentrer sur le cœur de leur mission ont d’abord servi la recherche de rentabilité et ont contribué à affaiblir la résilience des systèmes de santé.

Enfin, et c’est peut-être le plus inquiétant, les multiples usages de ces technologies numériques pour contrôler les populations dans cette période de crise ont également permis de faire gagner du terrain à un idéal sécuritaire. L’efficacité des mesures, présentées comme provisoires, risque de se banaliser et de constituer un nouveau quotidien afin de prévenir de nouvelles calamités[4]. Pensons par exemple à la proposition de « dépistage pair-à-pair » émise par Joshua Bengio et Vargha Moayed consistant à une évaluation de la probabilité d’infection d’un individu par une application mobile. Le recours à cet outil reposerait notamment sur « une pression sociale pour télécharger l’application afin de pouvoir se déplacer librement à l’extérieur dans des endroits où se trouvent d’autres personnes ». Les auteurs ajoutent que « les gouvernements pourraient rendre obligatoire l’utilisation de l’application pour accéder à certains lieux accueillant un grand nombre de personnes, tels que les épiceries, les écoles et les universités[5] ». Outre la question de la fiabilité d’une telle évaluation et des discriminations inévitablement produites, se pose la question plus fondamentale du « solutionnisme » de la proposition. Il peut sembler surprenant de proposer une solution technologique, à laquelle tout le monde n’aura d’ailleurs pas accès, pour régler ce qui est avant tout un problème de moyens alloués à la recherche médicale et aux établissements de soins. Ne vaudrait-il mieux pas en effet diriger l’argent que coûterait une telle solution pour permettre aux systèmes de santé de répondre à leur mission première : permettre à chacun d’accéder à des soins de qualité et, dans le cas d’épidémies, à des tests s’ils existent.

Les différentes applications de « l’IA » ont pu susciter des espoirs pour lutter contre le coronavirus, mais leur portée et leur intérêt diffèrent très fortement en fonction des cas d’utilisation. Particulièrement en période de crise, les différents usages devraient être objectivés sur la base de méthodologies robustes et éprouvées. Les informations mises à disposition des chercheurs, des soignants et du public devraient être fiables et transparentes. Dans un tel contexte, les standards en matière de protection des données, comme la Convention 108+ du Conseil de l’Europe, devraient pouvoir continuer à s’appliquer pleinement en toutes circonstances : qu’il s’agisse de l’utilisation de données biométriques, de la géolocalisation, de la reconnaissance faciale et de l’exploitation de données de santé, le déploiement d’applications en urgence doit pouvoir s’effectuer en concertation avec les autorités de protection des données et dans le respect de la dignité et de la vie privée des utilisateurs ainsi que de principes tels que la loyauté et la licéité. Les inévitables biais dans les divers types d’opérations de surveillance basés sur des données, susceptibles de créer d’importantes discriminations, sont ainsi à considérer[6]. En réalité, c’est l’entier logiciel du projet de société qui est susceptible d’être reformaté après cette crise sanitaire et nous devons prendre garde à ce que ces technologies soient des alliés de politiques globales de coopération et de partage des savoirs plutôt que des instruments surévalués au service de projets mercantiles. Et surtout, replacer enfin la mission de services publics, comme celui de la santé, au cœur de politiques centrées sur le progrès humain et non sur la seule performance économique.


[1] J. Bullock, A. Luccioni, K. H. Pham, C. Sin Nga Lam, M. Luengo-Oroz, Mapping the landscape of artificial intelligence applications against COVID-19, UN Global Pulse, 25 mars 2020

[2] R. Herreros, Coronavirus : L’Union européenne sera-t-elle la prochaine victime ?, Huffington Post, 26 mars 2020

[3] Alain Supiot : ‘Seul le choc avec le réel peut réveiller d’un sommeil dogmatique’, Alternatives économiques, 21 mars 2020

[4] Y.N.Harari, Yuval Noah Harari: the world after coronavirus, The Financial Times, 20 mars 2020

[5] V. Moayed, Y. Bengio, Dépistage pair à pair de la COVID-19 basé sur l’IA, Blog de Yoshua Bengio, 25 mars 2020

[6] A.F. Cahn, John Veiszlemlein, COVID-19 tracking data and surveillance risks are more dangerous than their rewards, NBC News, 19 mars 2020

Chronique de l’émission “Les legaltechs disruptent-elles le droit ?”

Un regard sur l’impact des legaltechs sur la transformation du marché du droit

Invité : Thomas Saint-Aubin, directeur général de Séraphin.legal et enseignant en droit des données à l’Ecole de droit de La Sorbonne

Medtech, Edtech, Civictech, regtech… legaltech : les startups spécialisées ne cessent de s’adapter à leur environnement en créant leur propre dénomination.

La novlangue numérique s’y déploie avec force, riche de disruption, où les digital evangelist tentant de convaincre dans des pitchs qu’il est toujours possible de hacker les innovations dans les process… on se fait un call pour organiser un hackathon ?

Le choc est total avec la culture d’un monde du droit, également habitué à un jargon spécifique, mais jargon hérité d’une longue tradition ayant forgé l’identité même des professions, avocats, notaires, huissiers, magistrats, juristes en général. 

Il est intéressant dès lors d’examiner en profondeur en quoi les legaltech innovent, choquent et remettent en cause de manière bien plus profonde que l’on croit les métiers juridiques.

La langue n’est en effet que la partie sensible d’une transformation, portée possiblement par cette culture libertarienne nous venant de la Silicon Valley : le slogan « move fast and break things », animant nombre d’entrepreneurs de l’industrie numérique, risque d’emporter dans un champ régalien des impacts profonds sur les individus et la société.

Comment ne pas disrupter donc au passage nos droits et libertés fondamentales, c’est aussi cela que nous aborderons avec Thomas Saint Aubin.


Ecoutez l’entretien avec Thomas Saint-Aubin, directeur général de Séraphin.legal et enseignant en droit des données à l’Ecole de droit de la Sorbonne

L’IA convoquée pour lutter contre le coronavirus Covid-19

Crédits: NIH/Flickr

Article mis à jour le 25 mars 2020

Il n’aura pas fallu attendre longtemps pour que l’intelligence artificielle (IA) soit invitée à venir porter appui à la lutte contre la pandémie virale touchant le monde entier depuis le début de l’année 2020. La presse et les bloggers se font écho des grands espoirs reposant sur la science des données et l’IA pour affronter le coronavirus (D. Yakobovitch, How to fight the Coronavirus with AI and Data Science, Medium, 15 février 2020) et « remplir les vides » encore laissés par science (G. Ratnam, Can AI Fill in the Blanks About Coronavirus? Experts Think So, Government Technology, 17 mars 2020).

Il est toutefois surprenant que la Chine, premier épicentre de cette maladie et réputée pour son avancée technologique en la matière, ne paraisse pas avoir pu en tirer un avantage déterminant. Ses usages le plus efficaces semblent avoir plus concerné le contrôle des populations et les prévisions d’évolution des foyers de la maladie que la recherche pour l’élaboration d’un vaccin ou d’un traitement. Il y a bien sûr eu des applications de l’IA pour accélérer le séquençage du génome, effectuer des diagnostics plus rapides, réaliser des analyses par scanner ou plus ponctuellement recourir à des robots de maintenance et de livraison (A. Chun, In a time of coronavirus, China’s investment in AI is paying off in a big way, South China Morning post, 18 mars 2020), mais nous sommes loin des discours d’avant la crise où certains techno-évangélistes pensaient que cette technologie nous protègerait de tels événements planétaires. 

La manière dont est actuellement utilisée l’IA est donc assez révélatrice de ses atouts et de ses limites : efficace du fait de la puissance de ses capacités calculatoires avec de très grands jeux de données, elle ne semble pas encore pouvoir se substituer à l’expertise humaine pour concevoir un vaccin ou un traitement. Ses apports restent également indéniables pour organiser la connaissance et assister au contrôle des populations, voire appuyer les médecins pour un diagnostic, mais les événements paraissent conduire à une certaine modestie et révèlent surtout que les infrastructures sanitaires de certains pays ne sont pas scalables en temps de crise… et que ce n’est pas la technologie informatique seule (dont l’IA) qui est en mesure d’y apporter une solution.

La contribution de l’intelligence artificielle pour la recherche d’un traitement

La première application de l’IA attendue face à cette crise est certainement l’assistance aux chercheurs pour concevoir un vaccin, à même de protéger les soignants et d’endiguer la pandémie. Éloignons immédiatement l’idée d’une IA centrale à la création d’un tel traitement médical, puisque cette activité relève de la biomédecine et la recherche s’appuie sur de très nombreuses techniques parmi lesquelles les diverses applications de l’informatique et de la statistique ont déjà offert depuis bien longtemps des apports. 

Les prédictions de la structure du virus générées par l’IA pourraient toutefois faire gagner des mois d’expérimentation aux scientifiques. Notons en effet que l’IA semble déjà avoir apporté un appui notable, même s’il est limité du fait de règles dites « continues » et d’une combinatoire infinie, pour l’étude du repliement des protéines (voir à ce sujet O. Ezratty, Les conséquences pratiques d’AlphaGo Zero, Opinions Libres, 9 novembre 2017). La startup américaine Moderna à l’origine de l’un des premiers essais de vaccin s’est illustrée par sa maîtrise d’une biotechnologie fondée sur l’acide ribonucléique messager (messenger Ribonucleic acid – mRNA), qui aurait permis de réduire significativement le temps pour développer un prototype de vaccin testable sur l’homme et a probablement déployé ce type d’appui technologique (Moderna’s Work on a potential Vaccine against COVID-19). 

De même, le géant technologique chinois Baidu a publié en février 2020, en partenariat avec l’Université d’État de l’Oregon et l’Université de Rochester, son algorithme de prédiction Linearfold afin d’étudier le repliement des protéines. Cet algorithme est beaucoup plus rapide que les algorithmes traditionnels de repliement de l’acide ribonucléique (ARN) afin de prédire la structure de l’ARN secondaire d’un virus. Précisons que c’est ce type d’analyse relatif aux changements structurels secondaires entre les séquences de virus à ARN homologues (comme les chauves-souris et les humains) qui peut fournir aux scientifiques des informations supplémentaires sur la manière dont les virus se propagent. La structure secondaire de la séquence d’ARN du Covid-19 aurait ainsi été révélée par Linearfold en 27 secondes, au lieu de 55 minutes (Baidu, How Baidu is bringing AI to the fight against coronavirus, MIT Technology Review, 11 mars 2020). DeepMind, filiale de la société mère de Google, Alphabet, a également partagé ses prédictions sur la structure des protéines du coronavirus, avec son système d’IA AlphaFold (J. Jumper, K. Tunyasuvunakool, P. Kohli, D. Hassabis et al., Computational predictions of protein structures associated with COVID-19, DeepMind, 5 mars 2020). IBM, Amazon, Google et Microsoft ont également fourni la puissance de calculs de leurs serveurs aux autorités américaines pour pouvoir traiter les très grands jeux de données en matière d’épidémiologie, de bioinformatique et de modélisation moléculaire (F. Lardinois, IBM, Amazon, Google and Microsoft partner with White House to provide compute resources for COVID-19 research, Techcrunch, 22 mars 2020).

L’intelligence artificielle, moteur de partage de la connaissance

En pleine conscience des conséquences potentiellement catastrophiques pour les États-Unis, le Bureau des politiques scientifiques et technologiques de la Maison Blanche (Office of Science and Technology Policy) a rencontré pour sa part le 11 mars 2020 les entreprises technologiques et les groupes de recherche majeurs afin de déterminer comment les outils d’IA pourraient être utilisés pour, notamment, passer au crible les milliers d’articles de recherche publiés dans le monde sur la pandémie (A. Boyle, White House seeks the aid of tech titans to combat coronavirus and misinformation, GeekWire, 11 mars 2020). 

En effet, dès les semaines qui ont suivi l’apparition du nouveau coronavirus à Wuhan en Chine en décembre 2019, près de 2 000 articles de recherche ont été publiés sur les effets de ce nouveau virus, sur les traitements possibles, ainsi que sur la dynamique de la pandémie. Cet afflux de littérature scientifique témoigne naturellement de l’empressement des chercheurs à traiter cette crise sanitaire majeure, mais il représente également un réel défi pour quiconque espère en exploiter la substance. 

Microsoft Research, la National Library of Medicine et l’Allen Institute for AI (AI2) ont donc présenté leurs travaux le 16 mars 2020 qui ont consisté à rassembler et à préparer plus de 29 000 documents relatifs au nouveau virus et à la famille plus large des coronavirus, dont 13 000 ont été traités afin que les ordinateurs puissent lire les données sous-jacentes, ainsi que des informations sur les auteurs et leurs affiliations. Kaggle, filiale de Google et plateforme qui organise habituellement des concours de science des données (data science), a créé pour sa part des défis autour de 10 questions clés liées au coronavirus. Ces questions vont des facteurs de risque et des traitements non médicamenteux aux propriétés génétiques du virus en passant par les efforts de développement de vaccins. Le projet implique également l’initiative Chan Zuckerberg (du nom de Mark Zuckerberg, fondateur de Facebook, et de sa femme Priscilla Chan) et le Centre pour la sécurité et les technologies émergentes de l’université de Georgetown (W. Knight, Researchers Will Deploy AI to Better Understand Coronavirus, Wired, 17 mars 2020).

L’intelligence artificielle, observatrice et prédictrice de l’évolution de la pandémie

La société canadienne BlueDot est présentée comme ayant détecté le virus de manière précoce grâce à une IA, qui procède à l’examen continu de plus de 100 jeux de données, tels que les actualités, les ventes de billets d’avion, les données démographiques, les données climatiques et les populations animales. BlueDot a détecté une épidémie de pneumonie à Wuhan, en Chine, le 31 décembre 2019 et a identifié les villes qui risquaient le plus d’être confrontées à ce virus (C. Stieg, How this Canadian start-up spotted coronavirus before everyone else knew about it, CNBC, 3 mars 2020).

Une équipe de chercheurs travaillant avec le Boston Children’s Hospital a également mis au point une IA pour suivre la propagation du coronavirus. Appelé HealthMap, le système intègre des données provenant de recherches sur Google, de médias sociaux et de blogs, ainsi que des forums de discussion : des sources d’informations que les épidémiologistes n’utilisent généralement pas, mais qui sont utiles pour identifier les premiers signes d’une épidémie et évaluer la réaction du public (A. Johnson, How Artificial Intelligence is Aiding the fight Against Coronavirus, Datainnovation, 13 mars 2020).

Le Centre international de recherche sur l’intelligence artificielle (IRCAI) en Slovénie, placé sous l’égide de l’UNESCO, a lancé de son côté une veille médiatique « intelligente » sur le coronavirus appelée Corona Virus Media Watch qui fournit des mises à jour sur l’actualité mondiale et nationale en se basant sur une sélection de médias ayant des informations ouvertes en ligne. L’outil, conçu également avec l’appui de l’OCDE et la technologie d’extraction d’information Event Registry, est présenté comme une source d’information utile aux décideurs politiques, aux médias et au public pour observer les tendances émergentes liées au Covid-19 dans leur pays et dans le monde. 

L’intelligence artificielle, en assistance aux personnels soignants

Deux entreprises chinoises ont développé pour leur part un logiciel de diagnostic du coronavirus basé sur l’IA. La startup Infervision, basée à Pékin, a ainsi formé son logiciel à la détection des problèmes pulmonaires par tomodensitométrie (scanner). Utilisé à l’origine pour diagnostiquer le cancer du poumon, il peut également détecter les pneumonies associées à des maladies respiratoires comme le coronavirus. Au moins 34 hôpitaux chinois auraient utilisé cette technologie pour les aider à examiner 32 000 cas suspects (T. Simonite, Chinese Hospitals Deploy AI to Help Diagnose Covid-19, Wired, 26 février 2020). 

L’Alibaba DAMO Academy, branche de recherche de la société chinoise Alibaba, a également formé un système d’IA pour reconnaître les coronavirus avec une précision alléguée jusqu’à 96 %. Selon cette société, le système pourrait ainsi traiter les 300 à 400 scanners nécessaires pour diagnostiquer un coronavirus en 20 à 30 secondes, alors que la même opération prendrait habituellement entre 10 à 15 minutes à un médecin expérimenté. Ce système aurait aidé au moins 26 hôpitaux chinois à examiner plus de 30 000 cas (C. Li, How DAMO Academy’s AI System Detects Coronavirus Cases, Alizila, 10 mars 2020).

En Corée du Sud, l’IA aurait aidé à réduire à quelques semaines la conception de kits de dépistages basés sur la constitution génétique du virus, alors qu’il aurait fallu habituellement de deux à trois mois. La société de biotechnologie Seegene a ainsi utilisé son système de développement de tests automatisés pour mettre au point ce kit de dépistage et le distribuer largement. La réalisation de tests à grande échelle est en effet cruciale pour sortir des mesures de confinement et cette politique de tests paraît avoir contribué à la relative maîtrise de la pandémie dans ce pays, qui a équipé avec ce dispositif 118 établissements médicaux et testé plus de 230 000 personnes (I.Watson, S.Jeong, J.Hollingsworth, T.Booth, How this South Korean company created coronavirus test kits in three weeks, CNN World, 13 mars 2020).

L’intelligence artificielle, outil de contrôle de la population

L’exemple donné par Singapour pour maîtriser les risques épidémiques est certainement unique et difficilement exportable : délivrance d’un ordre de confinement pour les populations à risque, vérifications du respect des mesures par téléphone portable et géolocalisation, contrôles à domicile aléatoires. Et ce même modèle, basé sur une acceptation culturelle et sociale du contrôle, a également ses limites qui laissent craindre une augmentation des cas et rendre nécessaires l’adoption d’autres mesures (K. Vaswani, Coronavirus: The detectives racing to contain the virus in Singapore, BBC News, 19 mars 2020).

De manière plus générale, l’IA a été assez largement utilisée en appui de ce type de politiques de surveillance de masse. Ainsi, des dispositifs ont pu être utilisés pour mesurer la température et reconnaître les individus en Chine (M. Si, AI used in the battle against the novel coronavirus outbreak, China Daily, 6 février 2020) ou encore équiper les forces de l’ordre avec des casques « intelligents » dans la province du Sichuan, casques en mesure de signaler les individus avec une température corporelle élevée (High-tech helmets tackle temperature tasks, China Daily, 19 mars 2019). Les dispositifs de reconnaissance faciale ont toutefois connu des difficultés avec le port de masques chirurgicaux, ce qui a conduit une entreprise chinoise à tenter de contourner cette difficulté puisque nombre de services en Chine s’appuient désormais sur cette technologie, dont les services étatiques pour des mesures de surveillance. Hanvon allègue ainsi avoir créé un dispositif permettant d’augmenter le taux de reconnaissance des porteurs de masques chirurgicaux à 95% (M. Pollard, Even mask-wearers can be ID’d, China facial recognition firm says, Reuters, 9 mars 2020). La pandémie aura réussi à retrancher cette technologie dans ses limites de manière bien plus efficaces que les discours sur les droits fondamentaux…

En Israël, les premières étapes d’un plan visant à utiliser le suivi téléphonique individuel pour avertir les utilisateurs de ne pas côtoyer des personnes potentiellement porteuses du virus seraient en train d’être élaborées (A. Laurent, COVID-19 : des États utilisent la géolocalisation pour savoir qui respecte le confinement, Usebk & Rica, 20 mars 2020). En Corée du Sud, une alerte transférée aux autorités sanitaires se déclenche quand les personnes ne respectent pas la période d’isolement, en se rendant par exemple dans un lieu fréquenté comme les transports en commun ou un centre commercial (Ibid.). À Taïwan, un téléphone portable est remis aux personnes contaminées et enregistre leur position GPS pour que la police puisse suivre leurs déplacements et s’assurer qu’elles ne s’éloignent pas de leur lieu de confinement (Ibid.). En Italie, une entreprise a également développé une application sur téléphone intelligent (smartphone) permettant de reconstituer l’itinéraire d’un individu atteint du virus et d’avertir les personnes ayant eu un contact avec elle. D’après le concepteur, la vie privée serait garantie, car l’application ne révèlerait pas les numéros de téléphone ou des données personnelles (E. Tebano, Coronavirus, pronta la app italiana per tracciare i contagi: ‘Così possiamo fermare l’epidemia’, Corriere della Sera, 18 mars 2020). Reste à savoir si, dans ces temps justifiant des mesures extrêmement dérogatoires aux droits et libertés fondamentales, les intentions seront traduites d’effets. En Lombardie, les opérateurs téléphoniques ont mis à disposition les données concernant le passage d’un téléphone portable d’une borne téléphonique à une autre avec une certaine forme d’improvisation (M. Pennisi, Coronavirus, come funzionano il controllo delle celle e il tracciamento dei contagi. Il Garante: «Non bisogna improvvisare», Corriere della Sera, 20 mars 2020).

Aux États-Unis, l’on retrouve cette tension entre protection des intérêts individuels et collectifs. Ainsi, les GAFAM ont vraisemblablement trouvé l’occasion avec cette crise sanitaire d’améliorer leur image en fournissant, avec l’appui de l’IA, les moyens de traiter une masse considérable d’articles scientifiques (cf. supra). Mais ils disposent dans le même temps d’informations encore plus précieuses dont rêve tout décideur public dans cette période de crise sanitaire : une foule de données considérable sur la population américaine. Larry Brilliant, épidémiologiste et directeur exécutif du site Google.org, affirme ainsi pouvoir « changer le visage de la santé publique » et estime que « peu de choses dans la vie sont plus importantes que la question de savoir si les grandes technologies sont trop puissantes, mais une pandémie en fait sans aucun doute partie » (N. Scola, Big Tech faces a ‘Big Brother’ trap on coronavirus, POLITICO, 18 mars 2020).

Or tant après l’affaire Cambridge Analytica que Snowden, ces grandes entreprises technologiques ont surtout démontré pour l’instant une certaine incapacité à compartimenter l’emploi (ou le réemploi) des données dont elles disposent avec des finalités claires. Le gouvernement américain ayant demandé à ces entreprises d’avoir accès à des données agrégées et anonymes, notamment sur les téléphones portables, afin de lutter contre la propagation du virus (T. Romm, E. Dwoskin, C. Timberg, U.S. government, tech industry discussing ways to use smartphone location data to combat coronavirus, The Washington Post, 18 mars 2020), on comprend leur actuelle prudence au vu du risque juridique et du potentiel préjudice d’image (S. Overly, White House seeks Silicon Valley help battling coronavirus, POLITICO, 11 mars 2020). Relevons aussi que les entreprises qui seraient le plus à même de fournir des informations signifiantes, comme Google, Facebook ou Amazon, sont les mêmes qui se sont opposées sur tous les plans au gouvernement fédéral ces dernières années, qu’il s’agisse de vie privée, de concurrence ou de règles en matière de contenu. Une réglementation sur les données aurait vraisemblablement aidé à encadrer le dialogue entre le secteur public et privé, et à déterminer quels types d’urgences doivent faire primer l’intérêt collectif sur la protection des droits individuels (ainsi que les conditions et garanties d’un tel dispositif), mais le Congrès n’a toujours pas avancé depuis les deux dernières années sur une telle loi. L’urgence actuelle conduira peut-être à réaliser des avancées plus significatives, les crises majeures ayant parfois la particularité de nous renvoyer à notre condition et à l’essentiel.

Enfin, des tentatives de désinformation ont proliféré sur les réseaux sociaux et internet. Qu’il s’agisse du virus lui-même, de sa manière de se propager ou des moyens pour lutter contre ses effets, nombre de rumeurs se sont diffusées (“Fake news” et désinformation autour du coronavirus SARS-CoV2, INSERM, 19 février 2020). L’IA est une technologie déjà employée par les plateformes pour lutter contre diverses formes de désinformation et pourrait ici aussi jouer un rôle. L’UNICEF a adopté le 9 mars 2020 une déclaration sur la désinformation concernant le coronavirus dans laquelle elle entend prendre « activement des mesures pour fournir des informations précises sur le virus en travaillant avec l’Organisation mondiale de la santé, les autorités gouvernementales et des partenaires en ligne comme Facebook, Instagram, LinkedIn et TikTok, pour s’assurer que des informations et des conseils précis soient disponibles, ainsi qu’en prenant des mesures pour informer le public lorsque des informations inexactes apparaissent ». L’édiction au sein des Etats membres du Conseil de l’Europe des mesures restrictives pour éviter d’alimenter des inquiétudes dans la population est également envisagée. Le comité d’experts du Conseil de l’Europe sur l’environnement des médias et la réforme du Conseil de l’Europe (MSI-REF) a toutefois rappelé dans une déclaration du 21 mars 2020 que « la situation de crise ne doit pas servir de prétexte pour restreindre l’accès du public à l’information. Les États ne devraient pas non plus introduire de restrictions à la liberté des médias au-delà des limites autorisées par l’article 10 de la Convention européenne des droits de l’homme ». Le comité rappelle également que les « États membres, avec tous les acteurs des médias, devraient s’efforcer de garantir un environnement favorable à un journalisme de qualité ».

L’intelligence artificielle : un moyen ne devant pas conduire à éluder les difficultés structurelles des établissements de soins ni les droits fondamentaux

Les possibilités offertes par la technologie numérique, dont l’informatique et l’IA, s’avèrent donc être des instruments pertinents pour construire une réponse coordonnée contre cette pandémie. Les multiples usages illustrent également les limites des promesses et des possibilités de ces mêmes technologies, dont nous ne pouvons attendre qu’elles compensent des difficultés structurelles, comme celles que connaissent de nombreux établissements de soins dans le monde. Ceux-ci ont été taillés à la mesure d’une logique de fonctionnement fondé sur l’efficacité et le coût, et non sur leur mission qui devrait rester essentielle : un accès universel aux soins. 

Rappelons ainsi que l’article 11 de la Charte sociale européenne (ratifiée par 34 des 47 États membres du Conseil de l’Europe) édicte un droit à la protection de la santé qui engage les signataires « à prendre, soit directement, soit en coopération avec les organisations publiques et privées, des mesures appropriées tendant notamment : 1°) à éliminer, dans la mesure du possible, les causes d’une santé déficiente ; 2°)  à prévoir des services de consultation et d’éducation pour ce qui concerne l’amélioration de la santé et le développement du sens de la responsabilité individuelle en matière de santé ; 3°) à prévenir, dans la mesure du possible, les maladies épidémiques, endémiques et autres, ainsi que les accidents. »

Les mesures d’urgence prises, essentiellement restrictives de libertés ou de soutien aux entreprises, devraient donc pouvoir être suivies en sortie de crise par de nouvelles politiques publiques cessant de placer le numérique et l’IA comme l’instrument universel de réductions de coût et d’amélioration de l’efficacité. Restons également attentifs à ce que les mesures provisoires de suivi en masse de la population par les technologies ne deviennent pas banalisées et ne constituent pas notre nouveau quotidien (Yuval Noah Harari, Yuval Noah Harari: the world after coronavirus, The Financial Times, 20 mars 2020). Les standards en matière de protection des données, comme la Convention 108+ du Conseil de l’Europe, doivent pouvoir continuer à s’appliquer pleinement en toutes circonstances : qu’il s’agisse de l’utilisation de données biométriques, de la géolocalisation, de la reconnaissance faciale et de l’exploitation de données de santé, le déploiement d’applications en urgence doit pouvoir s’effectuer en concertation avec les autorités de protection des données et dans le respect de la dignité et de la vie privée des utilisateurs. Il devrait être considéré les possibles biais dans les divers types d’opérations de surveillance basés sur des données, qui sont susceptibles de créer d’importantes discriminations (A.F. Cahn, John Veiszlemlein, COVID-19 tracking data and surveillance risks are more dangerous than their rewards, NBC News, 19 mars 2020). Pensons également à la proposition de “dépistage pair-à-pair” émise par Joshua Bengio et Vargha Moayed consistant à une évaluation de la probabilité d’infection par une application mobile. Celle-ci reposerait notamment sur “une pression sociale pour télécharger l’application afin de pouvoir se déplacer librement à l’extérieur dans des endroits où se trouvent d’autres personnes”. Les auteurs ajoutent “Les gouvernements pourraient rendre obligatoire l’utilisation de l’application pour accéder à certains lieux accueillant un grand nombre de personnes, tels que les épiceries, les écoles et les universités” (V. Moayed, Y. Bengio, Dépistage pair à pair de la COVID-19 basé sur l’IA, Blog de Yoshua Bengio, 25 mars 2020). Outre la question de la fiabilité d’une telle évaluation et des discriminations inévitablement produites, se pose la question plus fondamentale du “solutionnisme” de la proposition. Il peut sembler surprenant de proposer une solution technologique, à laquelle tout le monde n’aura d’ailleurs pas accès, pour régler ce qui est avant tout un problème de moyens. Ne vaudrait-il mieux pas en effet diriger l’argent que coûterait une telle solution pour permettre aux systèmes de santé de répondre à leur mission première : permettre à chacun d’accéder à des soins de qualité.

Ces mêmes technologies peuvent s’avérer en revanche de précieux alliés de politiques systémiques et globales, replaçant la mission des services publics au cœur d’un projet de société sans frontières, réellement centré sur le progrès humain, dont les piliers incontestables sont les droits de l’homme, la démocratie et l’État de droit.

Sur quelles bases construire une régulation proportionnée de l’intelligence artificielle ?

Bibliographie de l’ouvrage “L’intelligence artificielle en procès”

Nous sommes loin d’en avoir fini avec la définition de ce que serait exactement l’intelligence artificielle (IA). Un rapport technique du centre commun de recherche de la Commission européenne paru en février 2020 a procédé à une analyse approfondie de cette question (B. Delipetrev, G. De Prato, F. Martínez-Plumed, E. Gómez,  M. López Cobo, S. Samoili, AI Watch – Defining Artificial Intelligence: towards an operational definition and taxonomy of artificial intelligence, Joint Research Centre of the European Commission, 27 février 2020). Les chercheurs de ce centre ont tenté de classifier cette technologie en procédant à une revue des définitions existantes dans des rapports institutionnels, des publications scientifiques et des études venant du secteur privé de 1955 à nos jours. L’équipe de recherche en a conclu à la découverte de 4 caractéristiques communes : a) la perception d’un environnement et de la complexité du monde, b) le traitement de l’information, en collectant et en interprétant des signaux d’entrée, c) la prise de décision, incluant le raisonnement, l’apprentissage et la réalisation d’actions et d) l’atteinte de buts prédéfinis.

Le réseau d’expert de l’OCDE sur l’IA (OECD Network of Experts on  AI – ONE AI) en a fait également l’une de ses thématiques de travail dans le cadre de l’opérationnalisation de ses principes en proposant dresser une classification des « systèmes d’intelligence artificielle », entendus comme un « système automatisé qui, pour un ensemble donné d’objectifs définis par l’homme, est en mesure d’établir des prévisions, de formuler des recommandations, ou de prendre des décisions influant sur des environnements réels ou virtuels », lesquels « sont conçus pour fonctionner à des degrés d’autonomie divers ». Le Conseil de l’Europe définit pour sa part cette technologie comme un « ensemble de sciences, théories et techniques dont le but est de reproduire par une machine des capacités cognitives d’un être humain ».

Même si des points de convergence se dessinent, les multiples facettes de l’IA (et de ses applications) conduisent donc à de grandes difficultés pour établir une définition et une classification communément partagées. Que l’on adopte un champ large ou restreint pour définir l’IA, chacun semble y mettre une part de sa subjectivité et, surtout, se projette dans une perspective propre à son champ d’expertise. Les juristes se retrouvent souvent fort démunis face à des débats technologiques et ont bien du mal à circonscrire dans leur propre champ étude cet objet si particulier, dans l’objectif d’en réguler les usages à partir de concepts technologiquement neutres. 

Une définition juridique de l’IA 

Pour bâtir une définition juridique de l’IA, commençons tout d’abord par questionner l’IA au regard de ses finalités dans un sens très large. Pour reprendre les éléments communs de définition précédemment évoqués, l’IA sert tout d’abord à automatiser des tâches. Notons que toute forme de programmation informatique répond à cet usage et il faudrait parvenir à isoler la singularité de l’IA par rapport à d’autres programmes informatiques. En première analyse, l’IA est donc souvent caractérisée par un comportement particulier : sa capacité à interagir avec son environnement et à traiter des signaux d’entrée pour prendre des décisions dans un but prédéfini.

Or, là encore, tous les programmes informatiques traitent des signaux d’entrée dans un but prédéfini (qu’il soit calculatoire, d’adaptation, de modification, de classification, d’enregistrement, de consultation, etc). L’apparence de prise de décision d’une IA pourrait paraître la singulariser mais, là encore, tout programme procède à des choix d’une complexité variable. Et même si les derniers développements de l’apprentissage automatique (machine learning) se révèlent parmi les complexes, l’on doit admettre dans le même temps que la complexité ne crée pas de l’intelligence (M. Amblard, Idée reçue : Les algorithmes prennent-ils des décisions ?, Interstices, 29 mars 2018).

De plus, il semble insuffisant de ne considérer que la composante mécanique sans considérer les flux qui l’animent. Contrairement à un carburant se limitant à irriguer un moteur thermique de voiture, les données ont un rôle de plus en plus structurant sur leur moteur algorithmique, notamment avec l’emploi d’apprentissage automatique. L’IA devrait donc être considérée en ce qu’elle constitue un système, et très précisément un système algorithmique, composée à la fois de son mécanisme et des flux de données alimentant ce mécanisme. Systèmes d’ailleurs qui ne créent pas tous les mêmes risques au regard a) du domaine de leur emploi (certains étant plus à risques, comme la justice ou la santé) et de b) leur cas d’usage précis (un robot conversationnel ne créé pas les mêmes risques qu’un outil d’aide à la décision – Voir Livre blanc sur l’intelligence artificielle de la Commission européenne, 19 février 2020, p.20). En ce sens, deux axes pourraient être considérés pour classifier les systèmes algorithmiques.

Un premier axe à considérer par une régulation : explicabilité, déterminisme et autonomie d’un système algorithmique

Il convient, à nouveau, de constater que le terme IA a désigné des réalités technologiques qui ont évolué en fonction des méthodes à la mode : approche descriptive et symbolique dans les années 1970-80, en écrivant des règles logiques signifiantes, et connexionniste aujourd’hui, en laissant la machine « découvrir » les corrélations entre des phénomènes traduits en données (c’est en cela que l’on dit qu’elle « apprend »). Ces deux formes d’automatisation ne présentent toutefois pas les mêmes caractéristiques d’explicabilité de leur fonctionnement sous-jacent : celle-ci serait plutôt meilleure pour les approches descriptives et plus en retrait pour les approches connexionnistes. 

Si l’on questionne ensuite l’IA au regard du produit de son fonctionnement, l’on peut également catégoriser ses résultats au moins en deux formes : la première est déterministe et la seconde non déterministe. La première forme est assez simple à comprendre et assez rassurante. A chaque entrée sera systématiquement corrélée la même sortie. L’on peut ainsi espérer que pour des besoins simplement calculatoires, la machine puisse être dans la capacité de produire toujours le même (et le bon) résultat. La seconde est plus complexe à appréhender. A chaque même entrée, le résultat en sortie sera susceptible de varier en raison de l’évolution d’autres variables employées par le système : il est en ainsi par exemple des systèmes de recommandation sur des sites marchands dont le résultat peut varier non seulement en fonction de vos propres interactions, mais également des interactions des autres utilisateurs appartenant au même groupe de profil statistique. 

Enfin se pose la question de l’autonomie du système, soit qu’il soit en capacité, une fois programmé ou entraîné, de faire interagir un opérateur humain pour son résultat final ou, au contraire, de s’en dispenser pour s’adapter, de manière autonome, à son environnement. Il va sans dire qu’en l’absence d’humain dans la boucle, se pose la question de la correction de dérives de systèmes et des facteurs d’alerte conduisant à une intervention humaine et d’une attention encore plus accrue sur leur fonctionnement.

Nous considérerons donc que l’ensemble de ces trois caractéristiques constituent ensemble un indicateur de complexité du système algorithmique devant conduire à considérer des instruments juridiques différents en fonction du risque encouru. Il manque toutefois une dimension à corréler à cet indicateur : celle de l’intensité de l’impact sur les individus et la société.

Un second axe à considérer par une régulation : l’impact probable du système algorithmique

Tous les systèmes algorithmiques ne justifient bien entendu pas les mêmes contraintes. Il pourrait donc être développé le concept « d’impact significatif » sur les individus ou la société, afin d’introduire une forme de proportionnalité dans l’intensité des mesures contraignantes au regard, notamment, des risques de violation des droits fondamentaux. 

Une échelle d’impact pourrait être construite, à l’image de celle proposée par la Commission d’éthique des données allemande (Datenethikkommission), fondée sur la combinaison de la probabilité de la survenue d’un dommage et la gravité de celui-ci. La mesure de cet impact pourrait résulter d’un cadre méthodologique précis tel qu’une étude d’impact préalable sur les droits de l’homme (voir en ce sens la Recommandation de la Commissaire aux droits de l’homme du Conseil de l’Europe, Décoder l’IA : 10 mesures pour protéger les droits de l’homme, p.7).

Des modalités de régulation proportionnelles à la combinaison entre complexité et impact probable 

Afin de distinguer les systèmes algorithmiques sur lesquels devraient reposer les contraintes les plus fortes, il pourrait être réaliser une combinaison entre complexité et impact probable sur les individus ou la société. Ainsi les systèmes cumulant faible explicabilité, non déterminisme et large autonomie devraient faire l’objet de contraintes règlementaires importantes (voire une prohibition) si leur impact probable est très élevé. Des mesures ex ante (mise en service conditionnée à une vérification ou une certification préalable) pourraient être édictées et accompagnées des mesures ex post spécifique (revue régulière de fonctionnement par un tiers accrédité).

Aucun texte alternatif pour cette image

Les systèmes avec un faible impact probable pourraient ne faire l’objet que de contrôles facultatifs, laissés à la discrétion de leurs concepteurs. Les recours devant les tribunaux resteraient ouverts en toute hypothèse en cas de dommage, étant précisé que la nature des mesures prises par les concepteurs pour prévenir les risques seraient de nature à modérer (ou aggraver) ensuite leur responsabilité. L’on retrouve là les mécanismes classiques connus dans la plupart des systèmes juridiques, dont l’adaptation aux spécificités de procédures de conception de systèmes algorithmiques est envisagée par la Commission européenne (dans le cadre de la responsabilité du fait des produits défectueux notamment).

Pourquoi nous devrions (ne pas) craindre l’IA

Bibliographie de l’ouvrage “L’intelligence artificielle en procès”

À longueur d’annonces, de débats, de conférences, d’articles, de reportages ou de livres, l’on ne cesse de nous présenter l’intelligence artificielle (IA) comme la technologie de rupture de la décennie, peut-être même du siècle. Des opportunités sans limites semblent s’ouvrir à l’humanité dans la mesure où nous serions à même de prévenir les risques dans un contexte d’usages sans cesse plus généralisés. Le « papier blanc » (white paper) sur l’IA de la Commission européenne, publié le 19 février 2020, s’approprie ce constat et pose les grandes options des lignes politiques de l’encadrement de cette technologie pour les années à venir. 

Les fantasmes s’agrègent toutefois dans les innombrables discours portant sur cette technologie et la redoutable complexité technique animant les discussions entre experts conduit à emplir l’espace public de représentations où chacun y laisse un peu de sa subjectivité et de sa vision du monde. Ayant ringardisé le terme mégadonnées (big data) et tantôt confondu avec l’informatique, le numérique ou même internet (voire les blockchains !), le terme « IA » (qui sera employé entre guillemets en substitution aux termes plus appropriés d’applications de l’intelligence artificielle)est devenu en ce début de siècle le mot-valise de référence en matière de technologies, qui emporte avec lui une assez grande variété de préoccupations.

« L’IA », un terme plastique devenu synonyme de progrès

Il faut dire que ce coup de force rhétorique de John McCarthy et Marvin Minsky, forgé en 1955/1956, continue à se déployer avec une grande vigueur du fait de sa plasticité, pour ne pas dire de son imprécision. Car plus l’on s’intéresse au sujet, plus l’on apprend à s’éloigner de ce terme… et plus l’on devient incompréhensible pour les profanes : qui se soucie en effet des différents bénéfices et des limites des réseaux de neurones profonds, des machines à vecteur de support, des réseaux bayésiens, des arbres de décisions et des systèmes experts, en dehors des techniciens de ces matières ? Nous vivrions donc une véritable ère de l’approximation, où la précision des termes et la réalité de la portée des technologies importerait moins que ce que l’on espère en faire, ne serait-ce que pour se donner le sentiment de rester adapté à son époque.

D’une manière certainement plus troublante, il est extrêmement déstabilisant de voir que le bénéfice du recours à ces ensembles de technologies, dans les aspects parfois les plus intimes de notre vie courante, n’est même plus questionné et que plus personne ne cherche à convaincre de ses vertus. « L’IA » est devenu le progrès et l’on ne questionne pas le progrès. Antoinette Rouvroy constate en ce sens un certain assèchement de la qualité du débat public et rappelle que « la gouvernementalité algorithmique, bien que soutenue parfois par des discours ressuscitant l’idée de progrès, ne se présente plus tant comme une alternative aux autres formes de gouvernement que comme leur destin inéluctable » (A. Rouvroy, “Adopt AI, Think Later – La méthode Coué au secours de l’intelligence artificielle”, 2020).

Que l’on s’estime « pour » ou « contre » (ou même au-dessus de ces débats), il faudrait donc arriver avant tout à se départir de cette sorte de sidération collective nous ayant saisis. Il paraît urgent de revitaliser les débats sur l’emploi de cette « IA » en revenant à de très simples bases pour commencer à ordonner une pensée critique, constructive et ambitieuse, à même de protéger de manière effective les individus et la société d’une certaine forme de dérives scientiste et mercantile paralysant le débat démocratique et les choix de société.

« L’IA », c’est quoi ?

À s’en tenir à la définition donnée par la Commission d’enrichissement de la langue française, l’IA est le « champ interdisciplinaire théorique et pratique qui a pour objet la compréhension de mécanismes de la cognition et de la réflexion, et leur imitation par un dispositif matériel et logiciel, à des fins d’assistance ou de substitution à des activités humaines ». On se trouve donc dans le champ des sciences cognitives et à l’intersection avec l’informatique dont l’ambition générale d’automatisation de tâches peut aisément se confondre avec l’ambition précise d’imiter le fonctionnement du cerveau humain pour parvenir à cette automatisation. Pour le reformuler, « l’IA » est une forme particulière d’application de l’informatique, dont la réalité technologique a évolué en fonction des méthodes à la mode : approche descriptive et symbolique dans les années 1970-80, en écrivant des règles logiques signifiantes, et connexionniste aujourd’hui, en laissant la machine « découvrir » les corrélations entre des phénomènes traduits en données (c’est en cela que l’on dit qu’elle « apprend »).

Ce qui devrait bien plus nous intéresser donc en terme de régulation, ce sont les questions posées par des systèmes complexes d’algorithmes en général plutôt qu’une technologie précise, et ce pour une application particulière : la prise de décision sans action humaine. Il devrait, de plus, être systématiquement adjoint au périmètre de réflexion les données alimentant ces systèmes. Car, contrairement à un carburant irriguant un moteur thermique de voiture, les données ont un rôle de plus en plus structurant sur leur moteur algorithmique, notamment avec l’apprentissage automatique (machine learning). Ce qu’il y aurait alors à craindre, ce ne serait pas une autonomisation de la machine qui s’en prendrait à son concepteur comme dans un mauvais film de science-fiction, mais bien plus d’un excès de confiance dans le pouvoir de ces technologies pour prendre, en toutes circonstances, de meilleures décisions que nous.

Aller plus loin que la simple balance bénéfices / risques

Alors qu’il est le plus souvent réalisé une balance spéculative entre des bénéfices et des risques probables, l’on omet par cette démarche simpliste de s’interroger sur la capacité de ces machines à manipuler avec efficacité les concepts dont elles sont nourries. Ainsi, l’emploi en informatique de données objectives et quantifiables conduit à des résultats bien plus robustes qu’avec des données subjectives (nécessitant une interprétation pour être transformées en données) et qualitatives. Déduire du succès d’AlphaGo des potentialités révolutionnaires dans tous les champs de l’activité humaine relève ainsi d’un excès d’optimisme dont il convient de se garder. Des encadrements bien plus contraignants devraient peser sur les systèmes manipulant des concepts potentiellement hasardeux ou n’ayant pas de fondement scientifique sérieux.

La deuxième question bien souvent éludée est celle de l’importante dette intellectuelle qui est en train de se cumuler en empilant des systèmes complexes dont l’on ne parvient plus à reconstituer le raisonnement. Affirmer, comme le chercheur Yann LeCun, que l’explicabilité n’est pas importante si l’on arrive à prouver que le modèle fonctionne bien tel qu’il est censé fonctionner, encourage en réalité à l’abandon de toute prétention à construire des théories scientifiques solides pour bâtir des applications. Cela revient également à faire primer les résultats sur la connaissance et à privilégier des objectifs à court terme au détriment d’un investissement à plus long terme, seul capable de bâtir des fondements solides à même de nous aider à aller plus loin que les fragiles mécanismes de l’apprentissage automatique (machine learning).  

La troisième et dernière question qui est minimisée en se focalisant sur l’équilibre entre les bienfaits et les dangers de « l’IA » est celle, fondamentale, du type de société dans laquelle nous souhaitons réellement vivre. À entendre les discours majoritaires sur le numérique et « l’IA », ce sont aujourd’hui les données qui constituent le principal gisement d’avenir pour le développement économique. Les discours s’affirment centrés sur l’humain et préoccupés du respect des droits fondamentaux mais se fondent en réalité sur une mystique numérique (Rouvroy, 2020) où tous les problèmes paraitraient pouvoir être résolus, directement ou indirectement, par ce moyen. « L’IA » est ainsi devenue un moyen qui s’est approprié les fins et qui va contribuer, si l’on n’y prend pas garde, à encore plus fragiliser nos institutions démocratiques sur lesquelles pèse déjà un lourd discrédit. En étant promoteurs d’un environnement numérique automatisant la prise de décision pour en expurger les biais des opérateurs humains, nous contribuons en réalité à saper les fondements d’une société basée sur la délibération et la primauté du droit au profit d’un « État des algorithmes », mathématisant les rapports sociétaux.

Le trop plein d’éthique et la nécessité d’une réponse juridique

Face à ces enjeux de « l’IA », une importante et dense réponse éthique s’est constituée depuis le milieu des années 2010. En s’accordant aux décomptes de l’Agence des droits fondamentaux de l’Union européenne, plus de 260 documents, textes et chartes non contraignants auraient été produits dans le monde en décembre 2019. Fortement inspirés de la bioéthique, les principes qui en découlent paraissent se regrouper en quelques catégories désormais bien identifiées comme la transparence, la justice et l’impartialité, la bienfaisance et la non-malfaisance, l’autonomie, la responsabilité, le respect de la vie privée, la robustesse et la sécurité, etc. Sans aborder les débats portant sur la subjectivité de l’éthique, il doit être simplement constaté que cette intense production a servi l’industrie numérique à déporter le discours de la nécessaire régulation de « l’IA » dans un champ plus souple et moins contraignant. Dépourvue de sanctions, l’éthique est en effet un instrument commode d’autorégulation dont il convient bien entendu de ne pas minimiser les bienfaits, mais dont la portée reste avant tout déclaratoire. 

L’autre faiblesse de cette éthique de « l’IA » est parfaitement révélée par les méta-analyses des cadres existants (voir par exemple A. Jobin, M. Ienca, E. Vayena, The global landscape of AI ethics guidelines, Nature Machine Intelligence, 2019). Cette éthique est loin d’être univoque et nombre de principes sont polysémiques, sans aucun dispositif d’interprétation pour en assurer la cohérence (comme les tribunaux quand il s’agit d’interpréter des règles de droit). De nombreuses institutions publiques, nationales et internationales, ont publié et vont continuer vraisemblablement de publier des textes non-contraignants et ainsi contribuer à stabiliser les débats, mais l’on se retrouve encore une fois ici bien éloignés de normes contraignantes accompagnées de mécanismes rigoureux de suivi et de sanctions en cas de manquement.

C’est en cela que le mandat du Comité ad hoc sur l’IA (CAHAI) du Conseil de l’Europe s’avère original et constitue, à ce jour, la meilleure opportunité pour fonder un cadre juridique d’application de cette technologie respectueux des valeurs fondamentales de nos sociétés : les droits de l’homme, l’État de droit et la démocratie. Rappelons qu’édicter des standards juridiques en la matière relève pleinement du mandat de cette organisation internationale, qui s’est déjà illustrée dès 1981 avec la Convention 108 sur la protection des données – « grand-mère » du RGPD – ou la Convention de Budapest en matière de lutte contre la cybercriminalité en 2001. Cette expérience rend légitime le Conseil de l’Europe à intervenir, en coordination avec l’Union européenne, l’OCDE et les Nations Unies, pour poser des bases juridiques de haut niveau, transversales et non spécialisées, sur lesquelles pourront ensuite entre bâtis des textes sectoriels précis, avec un niveau de contraintes (tant ex ante qu’ex post) proportionnels à l’impact prévisible sur les individus et la société. 

Une réponse juridique contraignante est la seule à même de donner suffisamment de substance aux discours sur l’humain, à créer de la confiance… et ainsi écarter les critiques de blanchiment des technologies par l’éthique. Sans oublier d’y inclure la question de l’impact du numérique sur l’environnement, qui va également constituer l’un des enjeux majeurs de notre temps.

L’intelligence artificielle en procès : le blog

Bibliographie de l’ouvrage “L’intelligence artificielle en procès”

En complément de l’ouvrage à paraître aux Editions Bruylant (coll. Macro droit – Micro droit) “L’intelligence artificielle en procès”, un blog hébergé dans l’univers du podcast “Les temps électriques” vient d’être mis en ligne pour approfondir certains des développements du livre.

Vous trouverez sur le blog non seulement des articles, anticipant ou complétant certains des axes de l’ouvrage, mais également des extraits d’actualités en lien avec la question de la régulation de l’intelligence artificielle.

Vos commentaires et réactions seront les bienvenus, chaque contribution étant postée également sur les réseaux sociaux.

Entretien avec l’Echo des Arènes

A la suite du colloque “Un monde judiciaire augmenté par l’intelligence artificielle ?“, organisé par l’Institut PRESAJE le 25 juin 2019 à la Cour de cassation, retrouvez un entretien donné à l’Echo des Arènes en octobre 2019 sous le titre “Le Conseil de l’Europe en première ligne sur les impacts de l’IA sur la justice et la démocratie“.

Entretien avec l’Echo des Arènes

Deux extraits de ce colloque ont été publiés durant l’été 2019 dans les cartes postales des Temps Electriques.

Chronique de l’émission “Histoire de l’informatique pénale”

Un regard sur l’histoire de l’informatique pénale

Invité : Jean-Bernard Desjardins, directeur du greffe du tribunal de grande instance de Paris

Nous avons pris l’habitude d’explorer durant la précédente saison la transformation du droit à l’ère numérique, avec une ambition clairement prospective. Intelligence artificielle, blockchains, règlements de litiges en ligne autant de sujets qui paraissent déjà structurer le quotidien des professions judiciaires.

Pour lancer cette nouvelle saison, nous nous sommes dit qu’un coup d’œil dans le rétroviseur serait certainement riche d’enseignements pour mieux comprendre la dynamique des évolutions à venir. Et en préparant cette émission, nous n’avons été guère déçus. « Tout ce qui est neuf n’est pas nécessairement nouveau » c’est connu.

Mais je vous avoue avoir été véritablement saisi quand je suis tombé sur un texte paru en octobre 1968 dans la Revue internationale de droit comparé, où Jacques Vérin, magistrat et secrétaire de la commission de l’informatique du ministère de la justice, dressait un inventaire des promesses de l’utilisation des calculateurs et ordinateurs. Cinq domaines lui paraissaient alors digne d’intérêt : la gestion administrative et financière, le casier judiciaire, la documentation juridique, les statistiques et la police judiciaire. Il concluait son court texte en ces termes : « Nous sommes loin de l’ordinateur rendant la justice des romans de science-fiction, même si les amendes de composition sont demain traitées électroniquement. Mais le champ d’action de l’informatique dans le fonctionnement de la Justice n’est pas négligeable et l’on peut espérer qu’en délivrant les juges de tâches ingrates, bien loin de mécaniser la Justice, elle contribuera à la rendre plus humaine, ce qui est l’essentiel. » Argumentaire finalement bien contemporain non ?

L’autre évidence dans cette histoire de l’informatique des tribunaux, c’est que les principaux acteurs n’ont pas été que des magistrats, loin de là. Il y a bien sûr eu des informaticiens mais la cheville ouvrière dans les juridictions, qui ont mis en œuvre ces instruments ont été avant tout les greffiers. Ils ont été les premiers témoins de l’arrivée de l’informatique dans les tribunaux, les premiers utilisateurs et souvent les meilleurs promoteurs de cette nouvelle forme d’automatisation. 

Il faut dire que le « clavier » des ordinateurs personnels qui sont rentrés progressivement dans les tribunaux à la fin des années 90 rappelaient furieusement le clavier des machines à écrire… et que les magistrats ne se sont pas majoritairement précipités sur ces machines qui n’étaient perçues, avant tout, que comme une version modernisée des machines électriques.

Les greffiers et leurs encadrants, les greffiers en chef (aujourd’hui directeurs des services de greffes judiciaires), se sont donc rapidement emparés de ces nouvelles technologies et en ont défini les usages d’abord pour leurs besoins de production et de gestion : mise en forme des jugements puis, progressivement, suivi des affaires. L’informatique baptisée « d’initiative locale » a fait éclore dès la fin des années 80 / début 90 des pratiques innovantes, avec le plus souvent la passion des technologies comme seule formation. Les équipes du ministère se sont renforcées de ce que l’on qualifierait aujourd’hui avec un brin de condescendance des « geeks ». Et c’est ainsi que la totale hétérogénéité des matériels, des logiciels, des pratiques a appelé une rationalisation et une centralisation.

Jean-Bernard Desjardins a été l’un des acteurs de cette informatisation, spécialement dans le domaine pénal. Aujourd’hui directeur du greffe du parquet du TGI de Paris, il a exercé assez longtemps en administration centrale et en juridiction pour partager avec nous maintenant son regard sur cette transformation. Peut-être devrions-nous d’ailleurs essayer de mieux capitaliser cette histoire pour construire l’avenir…


Ecoutez l’entretien avec Jean-Bernard Desjardins, directeur du greffe du parquet du tribunal de grande instance de Paris

Les cartes postales des Temps Electriques

L’été 2019 a été l’occasion de diffuser deux extraits du colloque “Un monde judiciaire augmenté par l’intelligence artificielle ?“, organisé le 25 juin 2019 par l’Institut PRESAJE à la Cour de cassation.

> Propos introductifs de Bruno Pireyre, Président de chambre, directeur du service de documentation, des études et du rapport de la Cour de cassation
> Intervention d’Adrien Basdevant, Avocat et co-auteur de l’ouvrage “L’empire des données”