2019, année de l’âge de raison pour l’intelligence artificielle ?

Le Comité des ministres du Conseil de l’Europe, organe exécutif de l’organisation internationale regroupant 47 États du continent européen, a adopté le 13 février 2019 une Déclaration dense, mais explicite, sur « les capacités de manipulation des processus algorithmiques »[1].

C’est la première fois qu’une organisation avec une telle autorité morale se positionne aussi explicitement sur les conséquences de la transformation numérique de notre société en soulignant « Les niveaux très subtils, subconscients et personnalisés de la persuasion algorithmique [qui] peuvent avoir des effets significatifs sur l’autonomie cognitive des citoyens et leur droit à se forger une opinion et à prendre des décisions indépendantes. »

La portée de cette Déclaration dépasse la seule question des interférences électorales telles que dénoncées par le scandale « Cambridge Analytica » et le réemploi de données personnelles pour tenter d’infléchir le cours de processus électoraux. Le Comité des Ministres « attire l’attention sur la menace grandissante qui émane des technologies numériques de pointe et qui remet en cause le droit des êtres humains à se forger une opinion et à prendre des décisions indépendamment des systèmes automatisés. »

C’est exactement ce qui était dénoncé par de nombreux auteurs (Cathy O’Neil, Soshana Zuboff, Antoinette Rouvroy, Dominique Cardon, Eric Sadin pour ne citer qu’eux) ces dernières années, sans que leurs critiques ne parviennent réellement à prendre corps dans le champ des politiques publiques. Bien au contraire, le grand renfort des plans de développement de l’intelligence artificielle (IA) un peu partout dans le monde, spécialement dans une Europe qui cherche à combler son retard par rapport à l’Amérique du Nord et à l’Asie, témoignait d’une vision assez décomplexée et dépolitisée du sujet. Pekka Ala-Pietilä, président du groupe d’expert de haut niveau de la Commission européenne, en charge de diriger la rédaction de lignes directrices éthiques de l’IA pour les 27/28 membres de l’Union européenne, s’était même déclaré il y a quelques mois hostile à la mise en œuvre d’une réglementation dans l’immédiat[2].

Cette Déclaration du Comité des ministres n’est pas la première expression d’une certaine réserve du Conseil de l’Europe, et des milieux académiques qui sont le principal vivier d’expertise de l’organisation. Le comité d’experts sur les intermédiaires internet (MSI-NET), la Commission européenne pour l’efficacité de la justice (CEPEJ), le Comité consultatif de la Convention 108 (protection des données), la Commission européenne contre le racisme et l’intolérance (ECRI), autant de secteurs qui ont déjà produits des études ou rapports alertant sur la surenchère – très artificielle – de l’industrie numérique pour promouvoir l’IA et les risques d’un développement sans conscience des limites des mathématiques et des statistiques pour représenter notre monde[3].

Un terrible constat a été d’ailleurs dressé par John Naughton en ce début d’année 2019 dans le Guardian : les journalistes n’arriveraient à prendre aucune distance critique avec les discours imposés par l’industrie numérique au sujet de l’IA et peineraient donc à réaliser un travail documenté, critique et approfondi[4]. Il cite au soutien de son affirmation les résultats d’une enquête menée par des chercheurs de l’université d’Oxford, qui ont analysé plus de 760 articles portant sur l’IA, publiés dans les 6 journaux majeurs du Royaume-Uni durant les 8 premiers mois de l’année 2018. Leurs travaux révèlent que cette couverture a été très largement dominée par les industriels eux-mêmes (nouveaux produits, annonces et initiatives prétendument liées à de l’IA) avec la complicité bien involontaire d’une certaine forme de « journalisme de masse », qui a de moins en moins de spécialistes[5]. Une couverture qui présente bien entendu très majoritairement l’IA comme une solution viable pour résoudre un grand nombre de problèmes. 

Or, il y a un véritable enjeu à sortir de la sorte de sidération collective sur ces développements technologiques, en faisant la part entre ce qui relève d’une gigantesque opération marketing de l’industrie numérique (et non d’une révolution en recherche fondamentale) des applications concrètes du traitement statistique de très grands jeux de données (big data). Bien entendu, il ne s’agit pas de sous-estimer les progrès réalisés avec l’apprentissage automatique dans des domaines extrêmement spécialisés, mais certainement pas d’ériger cette prétendue « IA », et le numérique en général, comme une solution universelle à tous nos maux[6]. C’est ce type de contre-discours qui imposerait aux entrepreneurs un vocabulaire précis et, peut-être, les conduirait à mieux assumer pour certains leur responsabilité sociétale en ne pas se hâtant pas de transformer dans la précipitation des résultats de recherche en application commerciale. Et c’est exactement ce à quoi semble vouloir s’employer le Conseil de l’Europe et peut constituer, en cette année 2019, un véritable tournant dans la promotion, parfois outrancière, de cette technologie.


[1]Decl(13/02/2019)1

[2]J. Delcker, « Europe’AI ethics chief : No rules yet, please”, Politico, 30 octobre 2018, https://www.politico.eu/article/pekka-ala-pietila-artificial-intelligence-europe-shouldnt-rush-to-regulate-ai-says-top-ethics-adviser/

[3]Voir le site internet du Conseil de l’Europe dédié à l’intelligence artificielle : http://www.coe.int/ai

[4]J. Naughton, Don’t believe the hype: the media are unwittingly selling us an AI fantasy, The Guardian, 13 janvier 2019.

[5]J. Scott Brennen, An Industry-Led Debate: How UK Media Cover Artificial Intelligence, University of Oxford, Reuters Institute for Study of Journalism, 13 décembre 2018.

[6]E. Morozov, Pour tout résoudre, cliquez ici, Fyp éditions, 2014.

Chronique de l’émission “Des données réellement à l’abri ?”

Des données réellement à l’abri ?

Invitée : Sophie Kwasny, chef de l’unité de protection des données du Conseil de l’Europe

Et si l’on croisait tout ou partie des fichiers administratifs français pour assurer une meilleure efficacité ? Cette idée (un brin totalitaire) n’est pas contemporaine mais date de 1973 avec un projet, sobrement intitulé par le ministère de l’Intérieur à l’époque SAFARI.

Révélé en 1974 par un article du Monde, ce « système informatisé pour les fichiers administratifs et le répertoire des individus » planifiait d’interconnecter tous les fichiers en s’appuyant sur un identifiant unique déjà existant pour tous : le numéro INSEE, utilisé notamment pour nous identifier à la sécurité sociale.

Loin de susciter une liesse populaire, ce fichage systématique de la population a naturellement provoqué une immense polémique, car tout cela renvoyait à des heures sombres de notre histoire. Visionnaire, la loi informatique et liberté promulguée en 1978 a édicté des principes qui restent contemporains.

Tout le monde connaît maintenant le règlement général de protection des données (RGPD), nouveau cadre européen protecteur des citoyens. Nos boîtes mails ont été noyées de courriers nous signalant la mise en conformité des (très nombreux) détenteurs de nos données personnelles.

Il est en revanche moins connu que ce cadre n’aurait certainement pas vu le jour sans un autre texte, plus méconnu, adopté dès 1981 par le Conseil de l’Europe : la Convention dite « 108 » de protection des personnes à l’égard du traitement automatisé des données à caractère personnel. Ce texte, qui demeure après presque 40 ans le premier instrument juridique international contraignant dans le domaine, a été récemment modernisé : il garantit, évidemment, la protection de la vie privée face aux multiples usages des technologies de l’information tout en facilitant les flux « transfrontières des données ».

Essayons de préciser tout cela avec une invitée de choix : Sophie Kwasny, qui est chef de l’unité « protection des données » du Conseil de l’Europe. Elle a animé les derniers travaux de modernisation et son expertise l’a conduit à recevoir en début 2018 le prix « Michal Serzycki » pour la protection des données en récompense de ses réussites spéciales dans le domaine !


Ecoutez l’entretien avec Sophie Kwasny, chef de l’unité de protection des données du Conseil de l’Europe

IA et droits de l’homme

Le Conseil de l’Europe vient d’ouvrir le premier portail européen portant sur l’intelligence artificielle (IA) et ses implications en ce qui concerne les droits de l’homme, la démocratie et l’Etat de droit.

Ce site recense tous les travaux actuellement en cours au sein de l’organisation internationale, dans ses différents comités, commissions et organes. Il propose de plus des articles de vulgarisation visant à contribuer une meilleure connaissance du phénomène et de ne céder ni à un alarmisme excessif, ni au solutionnisme qui habite encore de trop nombreux discours. 

Ce portail aura également vocation à communiquer sur la partie de l’agenda stratégique du Conseil de l’Europe à l’horizon 2028 portant sur l’IA.

Le Conseil de l’Europe invite également tous les acteurs de l’IA (secteur privé, secteur public, recherche) à utiliser le hashtag #CoE4AI pour signaler leurs initiatives de développement de solutions nativement conçues pour se mettre en conformité avec les valeurs défendues par l’institution.

Les technologies de l’information dans les tribunaux européens : un développement généralisé aux bénéfices à mesurer

Quels sont les instruments du Conseil de l’Europe pour accompagner et mesurer la transformation numériques des systèmes judiciaires européens ? [1]

L’utilisation de l’informatique est désormais assez généralement acquise dans les tribunaux européens mais l’exploitation des pleines potentialités de la transformation numérique est encore extrêmement disparate : la plupart des pays de l’ouest semblent avoir déjà développé des approches extrêmement sophistiquées (tant sur le plan technologique que de l’encadrement législatif), alors que dans d’autres Etats-membres du Conseil de l’Europe la simple mise en œuvre d’une informatique de gestion efficiente constituerait déjà un grand succès.

Loin de l’idée intuitive d’un impact systématiquement positif des technologies de l’information (TI) sur l’efficacité du travail, des juridictions européennes ont connu en réalité d’importantes difficultés de fonctionnement après le test ou le déploiement d’outils de gestion d’affaires (case management system ou CMS). Il convient toutefois d’analyser chaque situation par des critères objectifs pour tenter d’en comprendre les causes. L’évaluation de l’impact de l’informatique sur l’efficacité et la qualité de la justice a été l’une des missions confiées à la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe dès sa création, en 2002[2]. Les dernières mesures effectuées ont notamment mis en évidence l’absence de corrélation évidente entre le montant des investissements financiers en matière informatique et les indicateurs d’efficacité. Autrement dit, ce ne sont pas les pays qui ont le plus investi financièrement qui ont eu les meilleurs bénéfices.

D’autres instances du Conseil de l’Europe ont  également contribué à structurer une doctrine claire d’engagement des tribunaux pour une utilisation des TI, afin de concilier efficacité et qualité avec les garanties attachées à un procès équitable telles que définies par la Convention européenne des droits de l’homme.

1. Les instruments du Conseil de l’Europe pour accompagner la transformation numérique des systèmes judiciaires

1.1. L’Avis n°14 du CCJE (Conseil consultatif de juges européens)

L’Avis n°14 du CCJE (Conseil consultatif de juges européens), adopté en 2011, porte sur la justice et les TI et fixe un cadre général d’utilisation[3]. Ses développements ne se sont pas attachés à des aspects techniques, conjoncturels et évolutifs par nature, mais se sont concentrés sur des questions fondamentales, toujours contemporaines, pressentant le fort potentiel de transformation des technologies.

Cet Avis témoigne d’une volonté affirmée des différents corps judiciaires européens d’être pleinement impliqués dans la mise en place et le développement de ces technologies afin de disposer d’outils performants pour améliorer l’administration de la justice, les relations entre les professionnels et les liens avec la société civile (public, média) tout en conservant les aspects « humains et symboliques » de la justice. A cet effet, le CCJE rappelle que le juge devrait pouvoir ordonner à tout moment la comparution des parties, la production de pièces en original et l’audition de témoins et porte une attention particulière aux personnes pour lesquels l’accès ou l’utilisation des technologies serait problématique ou impossible. L’avis, enfin, rappelle que les technologies ne doivent pas « porter atteinte aux garanties et aux droits procéduraux tel que ceux assurant un procès équitable devant un juge » et replace au cœur des développements à venir les droits fondamentaux définis par la Convention européenne des droits de l’homme, qui ne sauraient être remis en cause par de nouveaux outils.

1.2. La Résolution 2054(2015) et la recommandation 2102(2017) de l’APCE (Assemblée Parlementaire du Conseil de l’Europe)

L’Assemblée Parlementaire du Conseil de l’Europe (APCE) a adopté en 2015 une Résolution relative à « L’accès à la justice et internet : potentiel et défis » et dresse des constats de principes plus succincts mais totalement identiques au CCJE. Elle appelle les Etats-membres à agir dans le respect des articles 6 et 13 de la Convention européenne des droits de l’homme[4], c’est-à-dire développer des applications respectueuses d’un procès équitable et d’un recours effectif à un juge.

Ce dernier aspect est particulièrement souligné puisque l’APCE incite au recours à des procédures de règlement en ligne des litiges (RLL, ODR en anglais pour Online Dispute Resolution) dans des situations appropriées. Rappelons que les règlements extrajudiciaires des litiges sont présentées comme un moyen de prévenir l’engorgement des juridictions de contentieux à faibles enjeux ou pour lesquels l’intervention préalable d’un tiers est de nature à faciliter une solution acceptée par les deux parties. Ce type d’alternative, qui devrait disposer de garanties d’impartialité, ne saurait toutefois complexifier ou interdire l’accès au juge pour traiter un litige.

L’APCE a également adopté une recommandation le 28 avril 2017 relative à la convergence technologique, l’intelligence artificielle et les droits de l’homme[5]. Elle recommande notamment l’adoption d’un cadre commun de normes à respecter lorsqu’une juridiction a recours à l’intelligence artificielle.

 

2. Les outils spécifiques de la CEPEJ (Commission européenne pour l’efficacité de la justice) pour mesurer les effets de la transformation numérique

2.1. Le rapport biennal d’évaluation de la CEPEJ (Commission européenne pour l’efficacité de la justice)

Le groupe de travail « évaluation » de la CEPEJ, présidé par M. Jean-Paul Jean, président de chambre à la Cour de cassation, a rédigé en octobre 2016 une étude approfondie portant sur l’utilisation des technologies de l’information dans les tribunaux en Europe en 2014 en plus du rapport biennal habituel[6]. Ce document dresse pour la première fois un état des lieux extrêmement exhaustif du déploiement des technologies de l’information  en y ajoutant une évaluation du cadre législatif et des méthodes de gouvernance[7].

Indices globaux de développement des technologies de l’information dans les systèmes judiciaires européens, 2014[8]

Data visualisation interactive disponible en cliquant sur la carte

Source : Etudes de la CEPEJ n°24, « Rapport thématique : l’utilisation des technologies de l’information les tribunaux en Europe, données 2014 », octobre 2016.

Il convient tout d’abord de préciser que les indices de la CEPEJ visent à mesurer le développement et non l’usage effectif. Ainsi l’Allemagne, l’Autriche et la République tchèque sont les Etats-membres qui ont globalement mis en oeuvre une très grande variété d’applications mais leur impact réel sera à rechercher en conjonction avec d’autres indicateurs.

Parmi les réalisations notables ayant produit des effets positifs sur l’efficacité des tribunaux, les outils de gestion d’affaires (CMS) paraissent ceux pouvant constituer les fondations à tout changement d’ampleur. Par leur capacité de gestion des processus de travail (workflow), ils constituent un véritable fil conducteur entre divers services (bureau d’ordre centralisé, dématérialisation, suivi en ligne des affaires, production de statistiques). L’Estonie (système e-File) et la Norvège (système Lovisa) apparaissent comme deux exemples notables de réalisation effective, fonctionnelle et acceptée par les utilisateurs. A contrario, malgré des investissements conséquents, le projet d’informatisation Phénix, en  Belgique, n’a jamais vu le jour. Le Portugal a dû faire voter en 2014 en urgence des lois de procédures pour proroger des délais au vu des difficultés de fonctionnement de leur outil Citius. En Albanie, en dépit des efforts de soutien conséquent d’autre pays européens, l’outil de gestion des affaires ICMIS est peu utilisé par les tribunaux car considéré par ses utilisateurs comme inadapté. En France, malgré un taux de développement dans la moyenne européenne, les magistrats et fonctionnaires ne cessent de dénoncer l’état des logiciels mis à leur disposition[9]. En Espagne, la dématérialisation des procédures en oeuvre dans un certains nombre de régions est techniquement fonctionnelle mais semble connaître des difficultés d’appropriation auprès d’un certain nombre de professionnels dans les juridictions.

Parmi les autres applications à fort potentiel de simplification des tâches dans les tribunaux, il convient également de citer les solutions d’enregistrement (audio et/ou vidéo) des audiences qui peuvent servir de compte-rendu (système en place en Lettonie ou en Espagne par exemple) voire même de minute de la décision (Pologne), où le prononcé enregistré du dispositif fait foi par défaut (et peut être retranscrit à la demande des parties).

La partie analytique du rapport recherche les éventuels liens entre les indicateurs d’efficacité[10], le montant des investissements informatiques et le niveau de développement des applications informatiques dans les différents domaines décrits précédemment. Il ressort du croisement de ces informations que ce ne sont pas les Etats qui semblent avoir investi financièrement le plus qui ont systématiquement bénéficié d’une amélioration significative de leur capacité de traitement des affaires juridictionnelles. D’autres facteurs, conjoints aux investissements, semblent avoir eu une influence plus importante sur la célérité et la qualité des juridictions, tels que la définition de politiques publiques globales, traitant de l’organisation des processus de travail, de l’organisation de projets avec des équipes pluridisciplinaires proches des besoins des utilisateurs et la mise en place d’études de retour sur investissement (à même de faire évoluer les systèmes déjà existants).

2.2. Les lignes « Cyberjustice » de la CEPEJ

Le groupe de travail «qualité », alors présidé en 2016 par M. François Paychère, magistrat suisse, a produit des Lignes directrices sur la conduite du changement vers la Cyberjustice qui incitent les Etats-membres à passer d’une approche d’équipement à une approche stratégique de pilotage de l’innovation[11]. Même si cette transition apparaît comme évidente dans de nombreux pays, dont la France, les politiques de conception et de déploiement numérique demeurent encore souvent à la seule initiative de départements informatiques dans de nombreux pays. Il ne convient évidemment pas de discuter les mérites de ces services techniques, mais cette situation place de fait les professionnels des systèmes judiciaires comme consommateurs d’une offre au lieu d’en être des acteurs. Ce document rappelle le bénéfice des approches « agiles » dans les situations adaptées et en privilégiant la conception de services par des équipes projet intégrées (c’est-à-dire mélangeant par exemple juges, greffiers et informaticiens).

Ce document comporte également en annexe des check-lists simplifiées d’auto-évaluation d’un système d’information, du point de vue des administrateurs d’un projet et d’un point de vue des utilisateurs. Il s’agit là d’outils pragmatiques, à adapter aux situations concrètes à évaluer, visant à aider à distinguer en cas de dysfonctionnements ce qui relève de purs aspects techniques, de ce qui relève de problèmes dans les politiques d’accompagnement ou de pilotage du projet.


Notes

[1] Les présents développements se concentreront sur la production du Conseil de l’Europe, qui traite d’un grand périmètre de situations (47 Etats-membres) dans une perspective conjointe de respect des droits fondamentaux (Convention européenne des droits de l’homme, notamment dans ses articles 6 et 13) et d’amélioration de l’efficacité des tribunaux et de la qualité de leur activité (travaux de la CEPEJ).

[2] Résolution Res(2002)12 du Comité des Ministres du Conseil de l’Europe établissant la Commission européenne pour l’efficacité de la justice (CEPEJ).

[3] Avis n°14 du Comité consultatif de juges européens (CCJE), novembre 2011.

[4] Résolution 2054(2015) de l’Assemblée Parlementaire du Conseil de l’Europe (APCE), 10 novembre 2015.

[5] Recommandation 2102(2017) de l’Assemblée Parlementaire du Conseil de l’Europe (APCE), 28 avril 2017.

[6] Etudes de la CEPEJ n°24, « Rapport thématique : l’utilisation des technologies de l’information les tribunaux en Europe, données 2014 », octobre 2016.  Rapport rédigé par Sophie Sontag-Koenig sous la direction de Jean-Paul Jean, président du groupe de travail évaluation de la CEPEJ.

[7] La CEPEJ a divisé en trois catégories d’activité l’équipement technologique : assistance aux professionnels des juridictions, administration de la justice et communication avec les professionnels et les usagers

[8] L’indice présenté sur cette carte est la somme des trois indicateurs des domaines évalués (équipement technologique, cadre législatif et méthodes de gouvernance). La synthèse des réponses fournies par les Etats-membre a permis de  calculer pour chaque domaine un indicateur de développement de 1 (faible taux) à 3 (taux élevé). La carte représente, pour chaque pays, la somme de ces trois indicateurs et présente un indice de 3 (faible, bleu foncé) à 9 (élevé, vert foncé).

[9]Voir par exemple « Réforme de la justice : des magistrats critiquent la méthode Belloubet », Le Monde, 14 février 2018.

[10] La CEPEJ utilise comme indicateurs le Clearance Rate (taux de couverture, c’est-à-dire le rapport entre le nombre des affaires traitées et le nombre d’affaires nouvelles) et le Disposition Time (durée théorique de traitement de l’entier stock d’affaires, par le rapport du nombre d’affaires pendantes en fin d’année sur le nombre d’affaires traitées durant l’année, multiplié par 365).

[11] CEPEJ(2016)13, Lignes directrices sur la conduite du changement vers la cyberjustice.