Étude de l’état de la régulation de l’intelligence artificielle aux États-Unis et au Canada
Crédits : Getty Images
L’encadrement du développement de l’intelligence artificielle (« IA») semble avoir dépassé depuis le début des années 2020 le stade de la simple discipline des concepteurs par de l’éthique. La question n’est plus de savoir si l’on doit adopter des mesures contraignantes juridiquement pour créer un cadre de confiance, mais de savoir comment le faire.
Les droits humains à l’épreuve des impératifs économiques, politiques et sécuritaires en Europe
[Mise à jour du 10 mars 2023] L’examen en parallèle des deux projets d’instruments juridiques contraignants sur l’intelligence artificielle provenant de l’Union européenne (Proposition de réglement sur l’intelligence artificielle – RIA ou « AI act ») et du Conseil de l’Europe (projet de convention [cadre] sur l’IA) nous rend sensible la place accordée aux droits humains à l’ère numérique. Si la proposition de la Commission européenne a déjà été abondamment commentée, et critiquée sur cet aspect, le projet du Conseil de l’Europe est susceptible d’apporter une brique d’importance relative aux droits de l’Homme, à la démocratie et à l’État de droit à l’ensemble des textes internationaux dans la matière.
L’objet de cet article, qui s’intègre dans un ensemble de recherche plus vaste sur la régulation internationale et européenne de l’IA (thèse à soutenir durant l’année 2023), est de documenter l’évolution de la place accordée aux droits humains à l’épreuve des impératifs économiques, politiques et sécuritaires irriguant le continent européen.
> Sollicitez l’article en prépublication (version 2.1 du 10 mars 2023) sur contact.ym[at]pm.me
Qui donc qu’un ordinateur est mieux placé pour qualifier l’intelligence artificielle ? Tranchons enfin les controverses en laissant ce générateur vous proposer une définition originale de cette technologie !
Référence en matière d’ouvrages juridiques, le Prix du Cercle Montesquieu récompense, chaque année depuis 1997, les meilleurs ouvrages en droit des affaires ou sur la gestion des fonctions juridiques.
Ce prix constitue une reconnaissance de l’intérêt porté aux débats sur la constitution d’un cadre juridique pour le développement de cette technologie, fondé sur les droits de l’homme, la démocratie et l’État de droit.
Le Prix du Cercle Montesquieu 2020 avait été décerné à l’ouvrage Blockchain et actif numérique de Dominique Legeais, paru aux éditions LexisNexis.
Mots de remerciements
Mesdames, Messieurs,
C’est un privilège de recevoir aujourd’hui ce prix des mains d’un avocat aussi renommé que Maître Matthieu Juglar et un honneur d’avoir été distingué par le jury du Cercle placé sous la présidence de Bénédicte Wautelet.
Je vous adresse mes plus profonds remerciements qui ont une résonnance, je vous l’assure, tout à fait particulière, quand je me replace dans les années 1980, dans ma banlieue toulousaine et que je revois mes parents prendre sur leurs très modestes économies pour m’offrir mon tout premier ordinateur.
Cette récompense est naturellement à partager avec mon éditeur, Bruylant et le Groupe Larcier, représenté aujourd’hui par Paul-Etienne Pimont et Nicolas Cassart ainsi qu’avec le directeur de la collection Micro Droit Macro Droit, mon collègue et ami Thomas Cassuto. Sans leur confiance, ni celle de l’Institut PRESAJE, ce travail n’aurait jamais pu voir le jour.
Je ne peux également omettre de mentionner Antoine Garapon, ancien magistrat et auteur bien connu, dont l’érudition n’a cessé de nourrir mes réflexions et qui a eu la gentillesse de rédiger une préface. Je me dois aussi de remercier Jan Kleijssen, mieux connu des sphères européennes et internationales que françaises, qui est aujourd’hui l’un des artisans acharnés d’une réglementation de l’intelligence artificielle et qui livre, en postface, sa vision d’une nouvelle architecture juridique pour accompagner la transformation numérique.
Étant la dernière barrière avec la clôture de cette longue journée de débats, je n’ajouterai donc pas de longs propos et je suis extrêmement fier de savoir que cet ouvrage, par votre distinction, va rejoindre d’autres brillants travaux, comme ceux de Dominique Legeais, sur les blockchains et les actifs numérique, pour constituer une référence dans vos fonctions.
Je ne peux que défendre auprès de vous l’idée qu’un développement à long terme des technologies numériques, dont l’intelligence artificielle est le cœur, ne pourra se faire sans le droit. La confiance du public dans les traitements opérés par des algorithmes sans cesse plus sophistiqués ne naîtra pas de seules déclarations volontaristes et d’éthiques (au pluriel) au contenu extrêmement variable. Le droit doit permettre de traduire les principes et les valeurs communes que nous souhaitons protéger dans une ère où nombre d’équilibres sont remis en jeu.
J’espère que ce travail contribuera à alimenter les débats sur des faits, et non sur la base des impressions, afin de continuer de placer au centre de nos réflexions sur la transformation numérique les droits de l’homme, la démocratie et l’État de droit.
Encore merci au jury et au Cercle Montesquieu pour cet honneur.
L’intervention des régulateurs internationaux pour encadrer le développement et l’application de l’intelligence artificielle vient en réponse à une inquiétude croissante dans l’opinion publique, confortée par la recherche, quant aux effets directs et indirects de cette technologie sur les droits des individus et la société. Les propositions de cadres éthiques n’ayant pas semblé apporter une réponse satisfaisante et convaincante, des organisations intergouvernementales telles que le Conseil de l’Europe, l’Union européenne, l’OCDE et l’UNESCO ont produit, sous l’impulsion de leurs États membres, de nombreux rapports, études, lignes directrices ou recommandations. Si ce qui pourrait être considéré comme du « droit souple » (soft law) présente une influence politique, technique et morale bien plus substantielle que de simples déclarations de bonne volonté des acteurs de l’IA, l’année 2021 marque toutefois un nouveau tournant, avec le premier texte juridiquement contraignant proposé par la Commission européenne en avril 2021 pour renforcer la sécurité des produits d’IA. Le Conseil de l’Europe envisage également un mélange d’instruments juridiques contraignants et non contraignants pour prévenir les violations des droits de l’homme et des atteintes à la démocratie et à l’État de droit.
Depuis le début des années 2010, le déploiement des algorithmes d’apprentissage automatique, dont l’apprentissage profond, a réenchanté l’emploi de l’informatique dans notre société. Ce qui est convenu d’appeler de manière commode et vague « intelligence artificielle » (« IA[1]»), automatise, avec plus ou moins de contrôle humain, un nombre croissant de tâches ou de segments de tâches pouvant relever d’un très haut niveau d’expertise. En s’accordant à l’air du temps, ce qui ne semble pas possible aujourd’hui le sera nécessairement demain et la liste des applications s’allonge, notamment dans des secteurs aussi stratégiques que l’industrie, la sécurité publique ou les armées. Dans le même temps, cette « IA » a été saisie comme une nouvelle opportunité par le marché, au point de devenir l’un des principaux instruments de croissance économique des années à venir. Son développement s’impose donc dans les politiques publiques du monde entier comme une évidence.
La proposition de règlement de la Commission européenne présentée le 21 avril 2021 vise à encadrer de manière horizontale et transversale toutes les différentes applications de l’intelligence artificielle (IA). Cette proposition s’intègre dans une plus vaste stratégie de la Commission sur le numérique dont un nouveau plan coordonné sur l’IA pour 2021.
Source : Les Temps Électriques, d’après European Commission, https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence
La proposition distingue 4 types d’applications, avec des contraintes à l’intensité décroissante : 1) les applications prohibées du fait de leur nature (influence sur les comportements avec des conséquences physiques ou psychologiques, crédit social et reconnaissance faciale dans l’espace public – avec de très larges exceptions pour un usage d’enquête judiciaire), 2) les applications à haut risque devant répondre à des exigences clés et à un mécanisme d’évaluation de la conformité préalable à la mise sur le marché, 3) les applications à risque limité, auxquels sera imposé une obligation spécifique de transparence (comme les chatbots ou les deepfakes), et 4) celles enfin présentant un risque minimum. Des sanctions financières allant jusqu’à 6% du chiffre d’affaires annuel pourront être prononcées en cas de manquement d’un opérateur privé.
Dans le même temps le texte vient soutenir l’innovation en autorisant des textes d’encadrement juridique temporaires pour l’expérimentation (« bacs à sable » réglementaires), ce qui intéressera particulièrement les micros, petites et moyennes entreprises. L’adoption de codes de conduite sectoriels est également encouragée.
Un comité européen sur l’intelligence artificielle, composé de représentants des 27 États membres et du contrôleur européen de la protection des données, sera aussi constitué.
Invité : Adrien Basdevant, avocat et membre du Conseil National du Numérique
Alain Supiot nous alertait en 2015 dans la Gouvernance par les nombres, des conséquences d’un projet scientiste prenant la forme d’une gouvernance par les nombres et qui se déploie sous l’égide de la « globalisation ». La généralisation de dispositifs dits « d’intelligence artificielle » dans tous les recoins de nos vies ne contribue-t-elle pas à composer cette matrice aussi discrète qu’efficace, en captant sans cesse plus de données ? Ce diagnostic n’est-il pas trop alarmiste ?
Discutant il y a peu avec un ami doublement docteur (il se reconnaîtra), j’ai pris conscience de la fragilité de ma conception du monde, pourtant lentement construite depuis des décennies entre droit et informatique.
Deuxième émission du stream « La chronique IA et numérique », qui traite de l’emploi de l’IA dans la justice. En plus d’une brève revue de l’actualité (liens des articles ci-dessous), Yannick Meneceur reprend, en français, le contenu d’une conférence délivrée à l’International Group of Artificial Intelligence (IGOAI).
Les Temps Electriques, c’est aussi un stream « La chronique IA et numérique » depuis mars 2021. Le stream aborde l’actualité de l’intelligence artificielle et du numérique sous un angle juridique, avec une vocation grand public. En plus d’une revue de l’actualité, il y sera aussi question de l’impact de transformation numérique sur notre société, avec un ton résolument ouvert.
