Par Yannick Meneceur et Sophie Sontag-Koenig
Retrouvez les experts de l’Observatoire Éthique & IA de l’Institut Sapiens pour un panorama des enjeux de l’intelligence artificielle dans l’enregistrement de l’émission diffusée en direct le 16 juin 2021.
Continuer la lecture de « L’intelligence artificielle, à quand un débat de société ? »
Publié sur le site ActuIA le 4 juin 2021
Dans un billet de blog paru en février 2021, Florence Maraninchi, professeure à l’Institut Polytechnique de Grenoble, décrivait avec une grande acuité l’un des maux les plus sévères de nos bureaucraties modernes : la « numérasse ». Réagissant à une intervention de Gilles Babinet, qui affirmait sur LCI qu’il fallait accepter l’aide des plateformes digitales (sic) pour lutter contre la paperasse, l’universitaire nous décrit un quotidien administratif oscillant entre masses de courriels et fichiers Excel abscons, entre multiplication des applications dédiées et pensée magique où il suffirait d’inventer un nouveau truc sur lequel cliquer pour tout résoudre.
Continuer la lecture de « De l’IA partout et de la productivité nulle part ? »
Mise à jour du 31 mai 2021
L’intervention des régulateurs internationaux pour encadrer le développement et l’application de l’intelligence artificielle vient en réponse à une inquiétude croissante dans l’opinion publique, confortée par la recherche, quant aux effets directs et indirects de cette technologie sur les droits des individus et la société. Les propositions de cadres éthiques n’ayant pas semblé apporter une réponse satisfaisante et convaincante, des organisations intergouvernementales telles que le Conseil de l’Europe, l’Union européenne, l’OCDE et l’UNESCO ont produit, sous l’impulsion de leurs États membres, de nombreux rapports, études, lignes directrices ou recommandations. Si ce qui pourrait être considéré comme du « droit souple » (soft law) présente une influence politique, technique et morale bien plus substantielle que de simples déclarations de bonne volonté des acteurs de l’IA, l’année 2021 marque toutefois un nouveau tournant, avec le premier texte juridiquement contraignant proposé par la Commission européenne en avril 2021 pour renforcer la sécurité des produits d’IA. Le Conseil de l’Europe envisage également un mélange d’instruments juridiques contraignants et non contraignants pour prévenir les violations des droits de l’homme et des atteintes à la démocratie et à l’État de droit.
Continuer la lecture de « Analyse des principaux cadres supranationaux de régulation de l’intelligence artificielle : de l’éthique à la conformité »
Le media Brut a inauguré le 12 mai 2021 un nouveau format de débat en ligne, avec Cédric O, secrétaire d’Etat chargé de la transition numérique et des communications électroniques et François Ruffin, journaliste et député de la Somme, siégeant au sein du groupe La France Insoumise.
Continuer la lecture de « Débat sur Brut : le numérique, un progrès qui nous rend vraiment plus heureux ? »
Publié le 2 mai 2021 sur Les Temps Électriques et le 10 mai 2021 sur le site de l’Institut Sapiens
Depuis le début des années 2010, le déploiement des algorithmes d’apprentissage automatique, dont l’apprentissage profond, a réenchanté l’emploi de l’informatique dans notre société. Ce qui est convenu d’appeler de manière commode et vague « intelligence artificielle » (« IA[1]»), automatise, avec plus ou moins de contrôle humain, un nombre croissant de tâches ou de segments de tâches pouvant relever d’un très haut niveau d’expertise. En s’accordant à l’air du temps, ce qui ne semble pas possible aujourd’hui le sera nécessairement demain et la liste des applications s’allonge, notamment dans des secteurs aussi stratégiques que l’industrie, la sécurité publique ou les armées. Dans le même temps, cette « IA » a été saisie comme une nouvelle opportunité par le marché, au point de devenir l’un des principaux instruments de croissance économique des années à venir. Son développement s’impose donc dans les politiques publiques du monde entier comme une évidence.
Continuer la lecture de « Comprendre l’IA est devenu un acte civique essentiel de notre condition moderne »
Tentative de traduction en anglais disponible sur LinkedIn
La proposition de règlement de la Commission européenne présentée le 21 avril 2021 vise à encadrer de manière horizontale et transversale toutes les différentes applications de l’intelligence artificielle (IA). Cette proposition s’intègre dans une plus vaste stratégie de la Commission sur le numérique dont un nouveau plan coordonné sur l’IA pour 2021.
La proposition distingue 4 types d’applications, avec des contraintes à l’intensité décroissante : 1) les applications prohibées du fait de leur nature (influence sur les comportements avec des conséquences physiques ou psychologiques, crédit social et reconnaissance faciale dans l’espace public – avec de très larges exceptions pour un usage d’enquête judiciaire), 2) les applications à haut risque devant répondre à des exigences clés et à un mécanisme d’évaluation de la conformité préalable à la mise sur le marché, 3) les applications à risque limité, auxquels sera imposé une obligation spécifique de transparence (comme les chatbots ou les deepfakes), et 4) celles enfin présentant un risque minimum. Des sanctions financières allant jusqu’à 6% du chiffre d’affaires annuel pourront être prononcées en cas de manquement d’un opérateur privé.
Dans le même temps le texte vient soutenir l’innovation en autorisant des textes d’encadrement juridique temporaires pour l’expérimentation (« bacs à sable » réglementaires), ce qui intéressera particulièrement les micros, petites et moyennes entreprises. L’adoption de codes de conduite sectoriels est également encouragée.
Un comité européen sur l’intelligence artificielle, composé de représentants des 27 États membres et du contrôleur européen de la protection des données, sera aussi constitué.
Continuer la lecture de « Proposition de règlement de l’IA de la Commission européenne : entre le trop et le trop peu ? »
Alors qu’un encadrement juridique contraignant semble s’esquisser pour le déploiement de certains systèmes d’IA en Europe, la dernière décennie a été marquée par une intense production éthique venant, directement ou indirectement, de l’industrie numérique [1]. Les motivations d’une telle production ont déjà été relativement bien documentées [2] et relèvent d’un mélange de communication externe, de lobbying (pour différer une réglementation contraignante) et de management interne de la base des ingénieurs et techniciens, pour certains très attentifs aux usages de leurs développements.
Continuer la lecture de « Guide éthique de l’IA à l’attention des disrupteurs »Emission du 14 avril 2021
Invité : Bruno Deffains, professeur de Sciences Economiques à l’Université Paris II Panthéon-Assas et Directeur du Centre de Recherches en Economie et Droit (CRED)
En attendant le monde d’après la pandémie, Les Temps Électriques vous convient à une série exceptionnelle de « Pastilles électriques » sur Amicus-Radio, format court de l’émission, pour rencontrer, au plus près, les acteurs de la transformation numérique de la justice et du droit.
Continuer la lecture de « La Pastille électrique #1 : le souffle des legaltech »Emission du 30 mars 2021
Invité : Adrien Basdevant, avocat et membre du Conseil National du Numérique
Alain Supiot nous alertait en 2015 dans la Gouvernance par les nombres, des conséquences d’un projet scientiste prenant la forme d’une gouvernance par les nombres et qui se déploie sous l’égide de la « globalisation ». La généralisation de dispositifs dits « d’intelligence artificielle » dans tous les recoins de nos vies ne contribue-t-elle pas à composer cette matrice aussi discrète qu’efficace, en captant sans cesse plus de données ? Ce diagnostic n’est-il pas trop alarmiste ?
Discutant il y a peu avec un ami doublement docteur (il se reconnaîtra), j’ai pris conscience de la fragilité de ma conception du monde, pourtant lentement construite depuis des décennies entre droit et informatique.
Continuer la lecture de « Chronique de l’émission « Gouvernés par les données ? » »
Deuxième émission du stream « La chronique IA et numérique », qui traite de l’emploi de l’IA dans la justice. En plus d’une brève revue de l’actualité (liens des articles ci-dessous), Yannick Meneceur reprend, en français, le contenu d’une conférence délivrée à l’International Group of Artificial Intelligence (IGOAI).
Continuer la lecture de « La Chronique IA et numérique en stream, 2ème diffusion ! »