Alors que l’application StopCovid était présentée au Parlement en France le 27 mai 2020, les discussions sur sa pertinence et ses modalités de fonctionnement se sont progressivement raidies . Le député Eric Bothorel affirme ainsi que « s’opposer par principe à cet outil est un crime contre le reste de l’humanité[1] ». A l’occasion d’une tribune publiée dans le journal « Le Monde », deux chercheurs de l’Inria estiment difficilement justifiables les « oppositions de principe » à StopCovid[2]. D’une manière moins directe, le député Damien Pichereau avait même avancé l’idée d’une « récompense » pour les utilisateurs de l’application, allégeant la restriction de déplacement kilométrique de 100 kilomètres encore en place en phase 1 du déconfinement, avant d’être très rapidement écartée par le secrétaire d’Etat au numérique, Cédric O[3]. Le secrétaire d’Etat conclue pour sa part de manière plus volontariste « [qu’]il y a eu beaucoup de questions légitimes, mais plus nous donnons d’explications, plus les réticences diminuent[4] », en dramatisant le débat devant le Parlement: « refuser StopCovid c’est accepter les morts supplémentaires ».
Il est vrai que la CNIL s’était prononcée favorablement sur le projet de décret dès le 25 mai 2020 en y ajoutant quelques recommandations (notamment l’amélioration de l’information aux utilisateurs et le libre accès à l’intégralité du code source[5]). Elle reconnaît son utilité quand bien même il y aurait lieu « par ailleurs de tenir compte du caractère incertain des informations dont dispose le ministère [des solidarités et de la santé] en cette matière au début du déploiement de cet outil et de la difficulté de comparer le traitement projeté à ceux déjà expérimentés ou envisagés dans d’autres pays, notamment au sein de l’Union européenne[6] » et fait référence à un certain nombre d’études scientifiques et épidémiologiques à ce sujet fournies par le gouvernement. Le terrain était donc bien dégagé pour mettre en œuvre une telle application dont les ambitions demeurent bien étranges[7].
L’étrange ambition des applications de « proximity tracing »
Bien étranges car ce projet applicatif part, tout d’abord, du postulat que la proximité de deux téléphones mobiles durant une certaine durée permet de présumer une possible contamination… alors même que le signal peut être capté au travers d’un mur et que les modes de contamination sont mal connus. Le virus persiste-t-il dans l’air ? A quelle distance peut-il être projeté en parlant ? Sans parler d’autres vecteurs comme des surfaces contaminées. Etrange également car, pour quiconque a fait l’expérience d’appairer son téléphone avec un autre matériel Bluetooth, l’on se rend compte de l’instabilité de la technique : coupures inopinées, jumelage impossible, reconnexions intempestives sont autant d’aléas qui démontrent la difficulté pour les concepteurs d’anticiper toutes les configurations possibles. Etrange enfin car le « proximity tracing » porte en lui les germes d’un bien étrange projet de société, où la puissance du calcul algorithmique détient une autorité bien singulière : à se demander s’il ne s’agit pas des prémices d’un Etat de droit vers un « Etat des algorithmes[8] ».
« Un seul nouveau cas a été identifié à l’aide des données récoltées dans l’Etat du Victoria en Australie »
Mais ces considérations, pourtant bien établies dans les débats, n’ont pu avoir raison d’une mesure bien plus politique que scientifique. Et même si, comme la CNIL le soulignait, la comparaison avec d’autres expériences est difficile, elle n’en est pas moins impossible. Examinons ainsi les résultats obtenues par l’application « Covidsafe » en Australie : présentée en avril 2020 comme la solution clé pour revenir à la normale, un article du « Guardian » affirme qu’un seul nouveau cas a été identifié à l’aide des données récoltées dans l’Etat du Victoria[9].
La démonstration par l’exemple en Australie : un seul nouveau cas identifié avec l’application CovidSafe
Les argumentaires des responsables publics n’ont pourtant pas manqué, comme en France. Le Premier ministre, Scott Morrison, a enchaîné différentes affirmations, aux allures de pétitions de principe, en estimant « [qu’] il s’agit d’une protection importante pour une Australie sûre contre la Covid », ou encore qu’il comparerait « cela au fait que si vous voulez sortir quand le soleil brille, vous devez mettre de la crème solaire […] c’est la même chose… Si vous voulez revenir à une économie et une société plus libérées, il est important que nous obtenions un plus grand nombre de téléchargements en ce qui concerne l’application Covidsafe… C’est le moyen de s’assurer que nous pouvons avoir des restrictions allégées ». Le ministre de la Santé, Greg Hunt, a lié pour sa part la reprise des activités sportives, comme le football, à l’emploi de cette application.
Quel bilan de ces discours, également très volontaristes ? Un mois après son lancement, l’application a été téléchargée par 6 millions de personnes et un seul nouveau cas aurait été identifiée. Elle fonctionne sur la même logique que la batterie d’applications de « proximity tracing » déployée dans le monde : l’enregistrement pseudonymisé des identifiants des téléphones ayant été à proximité durant les 21 derniers jours[10]. Les discours publics en Australie ont vraisemblablement été maladroits en liant étroitement son emploi à un retour à la normale et les représentants du gouvernemenet semblent maintenant s’être recentrés sur la réalité de ce dispositif : un simple complément à une politique de suivi des contacts des personnes infectées. Mais même pour cette fonctionnalité, l’intérêt du dispositif est contestable.
Les deux problèmes de CovidSafe : couverture de la population et limites technologiques du Bluetooth
La première problématique a été une problématique de couverture : basée sur le volontariat et avec une cible modeste de 40% de la population, tout le monde n’a pas joué le jeu malgré une politique de communication agressive, un encadrement juridique clair et des standards de protection des données très élevés. Outre le manque de confiance dans l’application pour réaliser ce qu’elle était censée faire, c’est aussi la baisse du nombre de contaminations qui a conduit les australiens à se sentir bien plus à l’abri et à ne pas estimer utile ce dispositif. D’après la première ministre de Nouvelle-Galles du Sud, Gladys Berejiklian, la recherche manuelle des contacts semble avoir plutôt bien fonctionné, en plus des tests et l’application n’a donc pas eu de rôle essentiel.
La seconde problématique a été une problématique technique, notamment avec les terminaux Apple et les dernières générations de téléphones Android. La Digital Transformation Agency australienne semble avoir minimisé dans un premier temps les problèmes en arguant que l’application fonctionnait très bien en « premier plan » et qu’elle ne se détériorait que quand le téléphone était verrouillé et fonctionnait en « arrière-plan »… soit une situation normale quand le téléphone est dans votre poche. Des mises à jour semblent avoir résolu certains des problèmes, mais se rapprochent plus de « hacks » dont la pérennité est loin d’être acquise avec les mises à jour régulières des systèmes d’exploitation des téléphones et le déploiement d’un protocole de « notification d’exposition » développé par Apple et Google. Solution des « Big Tech » semblant d’ailleurs plus protectrice de la vie privée avec une logique extrêmement décentralisée confiant aux utilisateurs le soin de signaler. Mais cette logique se heurte toutefois à la souveraineté des Etats, qui entendent maîtriser toute la chaîne d’une application aussi sensible, et serait moins efficace pour les experts en matière sanitaire. Ceux-ci préfèreraient en effet avoir la possibilité d’identifier les individus pour les contacter directement et les convaincre de se faire tester au lieu de compter sur leur civisme.
Une véritable ère de l’approximation, réduisant la controverse scientifique au rang de simples oppositions de principe
L’exemple australien est donc riche en enseignements et il est regrettable de constater que l’analyse approfondie, critique et contradictoire d’une solution est venue à être caricaturée en « opposition de principe » afin d’éviter une mise en examen rigoureuse. L’initiative de Singapour était pertinente à capitaliser et la volonté des chercheurs à optimiser ses fonctionnalités n’est pas contestable. Mais il appartient bien à la communauté scientifique la responsabilité d’objectiver des sujets complexes et techniques, en résistant aux multiples pressions, notamment politiques. A titre d’exemple, la simulation souvent citée en référence, réalisée par l’Université d’Oxford, a bien démontré qu’un taux d’adoption de telles applications pouvait contribuer à réduire la diffusion du virus, mais cette étude se base une ville fictive d’un million d’habitants où aucune des barrières technologiques que nous avons évoquées n’a été prise en compte[11]. Il s’agit donc d’un modèle tout à fait théorique qui implique toute une chaîne logistique extrêmement rigoureuse (décontamination des lieux probables de l’infection, tests, etc) nécessitant des moyens humains considérables.
« Personne ne soulèverait à quel point la recherche n’est aujourd’hui pas statistiquement robuste»
Nous nous trouvons donc d’une certaine manière dans une véritable ère de l’approximation, où l’on se précipite à mettre en œuvre des solutions quitte à créer quelques dommages collatéraux et à mépriser tout apport de l’expérience. Être dans le mouvement prime sur l’expérience, on présume dans la hâte de la viabilité générale d’applications des technologies sur la base de cas d’usages sectoriels prometteurs et l’on ringardise toute critique venant de « l’Ancien Monde » car il importe plus d’être dans le flux de l’action que dans la stase de la réflexion. Pire, c’est la démarche scientifique qui se trouve aujourd’hui contaminée par cette précipitation. Hetan Shah, directeur exécutif de la Royal Statistical Society britannique, révélait dans un article paru dans le Financial Times d’août 2019[12] un « secret » bien dérangeant : personne ne soulèverait à quel point la recherche n’est aujourd’hui pas statistiquement robuste. Shah faisait ainsi référence à une réunion mondiale de statisticiens qui auraient plaidé en faveur de l’abandon de la notion de « signification statistique », car elle conduirait à des affirmations erronées ou exagérées dans de très nombreux domaines. C’est aussi ce que dénonçait en 2014 Regina Nuzzo dans son article « La malédiction de la valeur-p », où elle décrivait les très nombreuses approximations qui conduisaient à considérer des hypothèses comme prouvées alors qu’elles étaient en réalité bien loin de l’être[13]. Au vu de la manière dont l’étude d’Oxford sur le proximity tracing a été construite et interprétée, il est malheureusement à craindre que nombres d’autres travaux scientifiques ayant étayé la décision publique pour le déploiement de ces applications de « proximity tracing » ne souffrent de ces maux, en plus d’être instrumentalisés par le politique. Shah concluait d’ailleurs bien en ce sens : « nous vivons une période où les dirigeants politiques veulent des réponses faciles à des questions difficiles ». StopCovid est donc passée, mais risque de laisser des traces bien plus profondes en démontrant que, dans le cadre juridique actuel, il est tout à fait possible de mettre en œuvre à grande échelle une solution technologique approximative de surveillance de masse, en réduisant la controverse scientifique au rang de simples « oppositions de principe ».
Voici un argument supplémentaire qui justifie l’édiction de principes fondamentaux à l’ère numérique, au rang desquels un simple principe de précaution devrait conduire à prohiber la généralisation à grande échelle de solutions technologiques peu mâtures et à favoriser une innovation responsable, évitant de créer plus de problèmes qu’elle ne prétend en résoudre[14].
Animateur des Temps Electriques et auteur du l’ouvrage « L’intelligence artificielle en procès »
Les opinions exprimées n’engagent que son auteur et ne reflètent aucune position officielle du Conseil de l’Europe
Pour aller plus loin
Les développements sur l’ère de l’approximation révélée par les divers emplois de « l’IA » sont approfondis dans l’ouvrage « L’intelligence artificielle en procès«
Voir également la datavisualisation présentant la liste des applications de « Covid-19 » sur ce site : Applications « Covid-19 » : Où en sommes-nous ?
Notes
[6] Considérant 10 de la Délibération.
[7] Voir le billet posté sur ce blog le 8 avril 2020 (mis à jour le 23 avril 2020) : L’étrange ambition des applications de « contact tracing ».
[8] Voir le billet posté sur ce blog le 28 avril 2020 : Expliquer l’emballement des applications de pistage : de l’émergence d’un « Etat des algorithmes ».
[10] Pour une liste des applications, voir le billet posté sur ce blog le 21 avril 2020 : Applications « Covid-19 » : où en sommes-nous ?
[12] H. Shah, Artificial intelligence is no silver bullet for governance, Financial Times, 15 août 2019.
[13] R. Nuzzo, La malédiction de la valeur-p, Pour la Science, 10 janvier 2018.
[14] Y. Meneceur, L’intelligence artificielle en procès, Bruylant, 12 mai 2020, p.386 et M. Deprieck, Paula Forteza: «Je propose d’instaurer un principe de précaution numérique», L’Opinion, 21 avril 2020.