Réglementations européennes de l’intelligence artificielle : la tentation du pragmatisme

Les droits humains à l’épreuve des impératifs économiques, politiques et sécuritaires en Europe

[Mise à jour du 10 mars 2023] L’examen en parallèle des deux projets d’instruments juridiques contraignants sur l’intelligence artificielle provenant de l’Union européenne (Proposition de réglement sur l’intelligence artificielle – RIA ou « AI act ») et du Conseil de l’Europe (projet de convention [cadre] sur l’IA) nous rend sensible la place accordée aux droits humains à l’ère numérique. Si la proposition de la Commission européenne a déjà été abondamment commentée, et critiquée sur cet aspect, le projet du Conseil de l’Europe est susceptible d’apporter une brique d’importance relative aux droits de l’Homme, à la démocratie et à l’État de droit à l’ensemble des textes internationaux dans la matière.

L’objet de cet article, qui s’intègre dans un ensemble de recherche plus vaste sur la régulation internationale et européenne de l’IA (thèse à soutenir durant l’année 2023), est de documenter l’évolution de la place accordée aux droits humains à l’épreuve des impératifs économiques, politiques et sécuritaires irriguant le continent européen.

> Sollicitez l’article en prépublication (version 2.1 du 10 mars 2023) sur contact.ym[at]pm.me

Vers une intelligence artificielle responsable ?

Dans le cadre de la Semaine européenne du numérique responsable organisée par l’Eurométropole de Strasbourg, retrouvez l’enregistrement de la conférence « Vers une intelligence artificielle responsable », co-organisée avec le CEIPI (Centre d’études internationales de la propriété intellectuelle) et enregistrée le 12 juin 2021.

Continuer la lecture de « Vers une intelligence artificielle responsable ? »

Analyse des principaux cadres supranationaux de régulation de l’intelligence artificielle : de l’éthique à la conformité

Crédits : Envato Elements / Twenty20photos

Synthèse de l’étude

Mise à jour du 31 mai 2021

L’intervention des régulateurs internationaux pour encadrer le développement et l’application de l’intelligence artificielle vient en réponse à une inquiétude croissante dans l’opinion publique, confortée par la recherche, quant aux effets directs et indirects de cette technologie sur les droits des individus et la société. Les propositions de cadres éthiques n’ayant pas semblé apporter une réponse satisfaisante et convaincante, des organisations intergouvernementales telles que le Conseil de l’Europe, l’Union européenne, l’OCDE et l’UNESCO ont produit, sous l’impulsion de leurs États membres, de nombreux rapports, études, lignes directrices ou recommandations. Si ce qui pourrait être considéré comme du « droit souple » (soft law) présente une influence politique, technique et morale bien plus substantielle que de simples déclarations de bonne volonté des acteurs de l’IA, l’année 2021 marque toutefois un nouveau tournant, avec le premier texte juridiquement contraignant proposé par la Commission européenne en avril 2021 pour renforcer la sécurité des produits d’IA. Le Conseil de l’Europe envisage également un mélange d’instruments juridiques contraignants et non contraignants pour prévenir les violations des droits de l’homme et des atteintes à la démocratie et à l’État de droit. 

Continuer la lecture de « Analyse des principaux cadres supranationaux de régulation de l’intelligence artificielle : de l’éthique à la conformité »

2021 : Quelles perspectives pour l’intelligence artificielle ?

Publié le 31 décembre 2020, mis à jour le 5 janvier 2021

Sur un plan technologique, l’histoire retiendra vraisemblablement de la décennie qui vient de s’écouler le réenchantement du terme intelligence artificielle (IA) avec les exploits de l’apprentissage automatique et des réseaux de neurones. Même si ces algorithmes ne sont pas tout à fait nouveaux, la magie ne cesse d’opérer au rythme des promesses, toujours plus nombreuses, des chercheurs et des concepteurs. De la reconnaissance d’image à la conduite autonome, de la recherche de fraudes à la lutte contre la Covid-19, l’IA ne cesse d’être convoquée pour résoudre des problèmes toujours plus complexes. À entendre les discours ambiants, ce qui n’est pas possible aujourd’hui le sera nécessairement demain, en agrégeant toujours plus de données. Dans le même temps, les conséquences d’une généralisation hâtive de l’IA commencent à être bien documentées : renforcement des inégalités déjà existantes par l’emploi hâtif d’algorithmes dans les services publics, caisse de résonance à différents types de désordre informationnel, aggravation des atteintes à la vie privée ne sont que quelques exemples très concrets qui esquissent les possibles errements du nouveau monde transformé en données.

Continuer la lecture de « 2021 : Quelles perspectives pour l’intelligence artificielle ? »

COVID-19 & Traçage numérique : comment concilier santé et libertés individuelles ?

Cap Digital, l’UNESCO et la Chaire ITEN de l’Unesco ont réalisé le 27 novembre 2020 une conférence dans leur cycle « NumériqueS en temps de criseS » dédiée aux apps et outils de traçage des populations pour lutter contre la propagation de la pandémie de COVID-19.

Retrouvez le texte de l’intervention, qui traite notamment de la mise à l’épreuve de nos systèmes de gouvernance et des travaux du Conseil de l’Europe en la matière.

Continuer la lecture de « COVID-19 & Traçage numérique : comment concilier santé et libertés individuelles ? »

2019, année de l’âge de raison pour l’intelligence artificielle ?

Le Comité des ministres du Conseil de l’Europe, organe exécutif de l’organisation internationale regroupant 47 États du continent européen, a adopté le 13 février 2019 une Déclaration dense, mais explicite, sur « les capacités de manipulation des processus algorithmiques »[1].

C’est la première fois qu’une organisation avec une telle autorité morale se positionne aussi explicitement sur les conséquences de la transformation numérique de notre société en soulignant « Les niveaux très subtils, subconscients et personnalisés de la persuasion algorithmique [qui] peuvent avoir des effets significatifs sur l’autonomie cognitive des citoyens et leur droit à se forger une opinion et à prendre des décisions indépendantes. »

Continuer la lecture de « 2019, année de l’âge de raison pour l’intelligence artificielle ? »

Chronique de l’émission « Des données réellement à l’abri ? »

Des données réellement à l’abri ?

Invitée : Sophie Kwasny, chef de l’unité de protection des données du Conseil de l’Europe

Et si l’on croisait tout ou partie des fichiers administratifs français pour assurer une meilleure efficacité ? Cette idée (un brin totalitaire) n’est pas contemporaine mais date de 1973 avec un projet, sobrement intitulé par le ministère de l’Intérieur à l’époque SAFARI.

Continuer la lecture de « Chronique de l’émission « Des données réellement à l’abri ? » »

IA et droits de l’homme

Le Conseil de l’Europe vient d’ouvrir le premier portail européen portant sur l’intelligence artificielle (IA) et ses implications en ce qui concerne les droits de l’homme, la démocratie et l’Etat de droit.

Ce site recense tous les travaux actuellement en cours au sein de l’organisation internationale, dans ses différents comités, commissions et organes. Il propose de plus des articles de vulgarisation visant à contribuer une meilleure connaissance du phénomène et de ne céder ni à un alarmisme excessif, ni au solutionnisme qui habite encore de trop nombreux discours. 

Ce portail aura également vocation à communiquer sur la partie de l’agenda stratégique du Conseil de l’Europe à l’horizon 2028 portant sur l’IA.

Le Conseil de l’Europe invite également tous les acteurs de l’IA (secteur privé, secteur public, recherche) à utiliser le hashtag #CoE4AI pour signaler leurs initiatives de développement de solutions nativement conçues pour se mettre en conformité avec les valeurs défendues par l’institution.