Chronique de l’émission “L’éthique de l’intelligence artificielle”

Des éthiques à l’éthique

Invité : Emmanuel Goffi, philosophe et directeur de l’Observatoire Éthique & Intelligence Artificielle, de l’Institut Sapiens et professeur en éthique de l’IA à aivancity, School for Technology, Business & Society

L’éthique est partout dans les discours sur l’IA, solution universelle à tous les maux redoutés et révélés.

Il semble communément admis dans l’opinion publique que le numérique ne règlera pas tout et que tout problème n’a pas de solution numérique… l’échec de l’application StopCovid en témoigne de manière sensible.

Continuer la lecture de « Chronique de l’émission “L’éthique de l’intelligence artificielle” »

Intelligence artificielle et justice : le grand malentendu

Dans le prolongement de l’article paru aux Cahiers de la Justice en 2019, retrouvez une tribune parue sur le site internet de l’Institut Sapiens sur l’emploi d’algorithmes d’apprentissage automatique pour traiter de la jurisprudence.

La tribune revient sur les prétentions des concepteurs de ces systèmes, l’absence de documentation scientifique neutre, démontrant la plus-value de ces outils, et l’incompréhension de qu’est réellement une décision de justice pour prétendre opérer de tels traitements.

DataJust face aux défis de l’intelligence artificielle

Le décret n° 2020-356 du 27 mars 2020[1] a créé un nouveau traitement automatisé de données à caractère personnel dénommé « DataJust ». Placé sous l’autorité du ministère de la Justice, ce dispositif vise à améliorer la prévisibilité des décisions rendues en matière de réparation du préjudice corporel. Ce texte s’inscrit dans le cadre de la réforme annoncée de la responsabilité civile et d’un programme plus général de réforme pour rendre la justice plus prévisible. Il va constituer l’une des toutes premières applications « d’intelligence artificielle » développées par le ministère de la Justice. Les analyses n’ont toutefois pas manqué pour dénoncer divers maux habituels, comme la robotisation de la justice, mais très peu ont relevé une difficulté tout à fait substantielle : ces algorithmes sont-ils en mesure de produire les résultats attendus ?

Retrouvez cette étude complète dans La Semaine Juridique édition générale du 28 septembre 2020, numéro 40.


[1] Sur le décret n° 2020-356 du 27 mars 2020, V. not. A. Bensamoun et T. Douville, Datajust, une contribution à la transformation numérique de la justice : JCP G 2020, 582, Aperçu rapide.

La critique de la technique : clé du développement de l’intelligence artificielle ?

Présentation de l’étude

L’intelligence artificielle (IA) continue de susciter de grands espoirs pour les années à venir, en moteur espéré de la prospérité humaine et du bien-être. À ces généreuses promesses émanant directement ou indirectement de l’industrie numérique répondent des inquiétudes de plus en plus substantielles dans l’opinion publique, notamment face à des applications suscitant la polémique ou éternellement sur le point d’être pleinement fonctionnels. Après des années de discours éthiques, les régulateurs internationaux et nationaux commencent à se mettre en ordre de marche, mais ils risquent de passer à côté de la cible en proposant des textes parfois trop peu, ou parfois trop, ambitieux. Et si la juste mesure était susceptible d’émerger des discours critiques de la technique, dont la pertinence est bien trop souvent sous-estimée par l’entière communauté ?

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? »

La critique de la technique : clé du développement de l’intelligence artificielle ? (Quatrième et dernière partie)

Revitaliser le contenu d’une réglementation sur « l’intelligence artificielle »

Crédits : Pxfuel

De manière assez surprenante, les bénéfices systémiques de la généralisation de l’informatique, notamment sur la productivité, restent à démontrer. En 1987, Robert Solow, prix Nobel d’économie, annonçait « on voit des ordinateurs partout, sauf dans les statistiques de productivité ». Ce paradoxe révélait l’absence de lien observable, au niveau micro-économique, entre les investissements informatiques et la productivité des entreprises. Le constat apparaît toujours d’actualité, puisqu’il s’agisse d’internet et de sa bulle, ou de la généralisation des téléphones intelligents (smartphones) et de « l’IA », l’économie peine à décoller[1]. La crise économique résultant de la crise sanitaire due à la COVID-19 ne va vraisemblablement pas renverser la situation, puisque l’on a vu que cette « IA », pourtant promise à résoudre la plus vaste gamme de problèmes notamment en matière de santé, n’a eu en réalité qu’assez peu de résultats opérationnels[2]. Il semble que nous héritons encore de l’influence d’analyses assez anciennes, comme celle de Daniel Bell qui estimait que la clé du passage de la société industrielle à la société post-industrielle serait dans l’augmentation de la productivité liée aux activités informationnelles[3] – cette fameuse « société de l’information » – ou de Simon Nora et Alain Minc, selon laquelle il faudrait informatiser l’économie pour produire de la croissance[4].

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? (Quatrième et dernière partie) »

La critique de la technique : clé du développement de l’intelligence artificielle ? (Troisième partie)

La difficile émergence d’un discours critique de l’informatique et de « l’intelligence artificielle »

Crédits : Pxfuel

Apparue dans le sillage de la Seconde Guerre mondiale et de la recherche militaire, l’informatique se présente comme la technologie de rupture de ces dernières décennies. Alors que le nucléaire a créé le désordre et le chaos, l’informatique, elle, se présente en outil d’ordre et de raison. Elle a d’abord accompagné les nouveaux besoins de calculs d’États cherchant à automatiser certaines tâches de calcul ou de stockage, puis a investi dans les années 1970 les salons des particuliers, dans un contexte de reconfiguration économique, politique et culturelle majeur. La miniaturisation toujours plus accrue des composants a conduit à la généralisation d’usages que nous connaissons aujourd’hui avec les téléphones intelligents (smartphones) et à la recomposition en profondeur des moyens de communication, des offres de service et de l’accès à l’information. Depuis début 2010, « l’IA » est présentée comme la dernière évolution majeure de ce courant technique, avec son lot de promesses, de disruptions et de perspectives d’un avenir meilleur. Mais les critiques de cette « IA » n’ont pas manqué et elles nous avertissent de dangers les plus divers, des plus fantaisistes aux plus substantiels. D’un scénario d’extermination de l’homme par les machines[1] à un examen minutieux de l’impact concret de l’algorithmisation de notre monde sur l’humain[2], aucune doctrine majoritaire ne semble se dégager de l’abondante littérature produite à ce sujet. Une constante, en revanche, paraît se dessiner : c’est le rejet de cette critique par les pouvoirs publics, soit en l’ignorant ou en la minimisant, soit en l’institutionnalisant. Le développement, dans certaines des organisations internationales, de textes pour créer une « IA digne de confiance », « éthique » ou « centrée sur l’humain » est certainement à lire en ce sens.

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? (Troisième partie) »

La critique de la technique : clé du développement de l’intelligence artificielle ? (Deuxième partie)

Les conséquences de décennies de gouvernance de la critique de la technique

Crédits : Pxfuel

En première analyse, le consensus apparent sur les bénéfices incontestables de la technique pourrait paraître fragilisé avec la publication d’études étayées et convergentes dans de nombreux domaines, comme en ce qui concerne la menace environnementale[1]. Le succès en France, et dans d’autres pays européens, de mouvements politiques écologistes à des élections témoigne de cette prise de conscience citoyenne et du relatif affaiblissement du discours imposé par le capitalisme industriel. Il est également intéressant de relever que les plus vives critiques actuelles de la technique ne proviennent d’ailleurs pas nécessairement d’idéologues ou de politiques, mais proviennent aussi des techniciens eux-mêmes, en pleine conscience des enjeux et des limites des divers moyens à notre disposition[2]. De nombreuses publications parviennent aujourd’hui à dépasser les lieux communs en démontrant que derrière la prétendue neutralité des techniques, il y a surtout des enjeux de pouvoirs et que derrière les prophéties, il y a des artifices marketing maquillant une réalité bien plus modeste[3]. Au final ce n’est d’ailleurs pas la technique en elle-même qui est remise en cause par certains de ces auteurs, mais l’asservissement résultant d’une certaine forme de transfert du sacré à la technique[4]. Et c’est exactement cela qui se joue pour le numérique et « l’IA » qui, en derniers artefacts à la mode (et potentiellement rentables), sont instrumentalisés pour nourrir l’idée d’une révolution et d’une civilisation toujours en « progrès » continu par les sciences, alors que l’on se trouve en réalité en pleine confusion entre fins et moyens[5].

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? (Deuxième partie) »

La critique de la technique : clé du développement de l’intelligence artificielle ? (Première partie)

Le mythe de la neutralité de la technique

Crédits : Pxfuel

Il est bien connu que le lien entre les sociétés humaines et le système technique composé par l’ensemble de leurs artefacts est extrêmement étroit et chaque (r)évolution majeure a contribué à modeler substantiellement notre environnement, en se déployant parfois sur plusieurs siècles[1]. Ainsi la portée de l’invention de l’imprimerie a dépassé la seule mécanisation de la reproduction d’ouvrages : la Réforme de l’Église, le siècle des Lumières, l’accès au savoir de manière générale ont été autant d’événements liés à cette invention. L’avènement des processus industriels au XIXe siècle a profondément recomposé les rapports entre individus ainsi que nos lieux de vie et nos modes de gouvernance[2]. Aujourd’hui nous en serions à notre 4e révolution industrielle avec la rencontre entre « le monde du physique, du numérique, du biologique et de l’innovation[3] ». Cette révolution nous doterait de moyens nouveaux pour tenter de franchir de nouvelles frontières, même celle, absolue et imposée par la Nature, qui fait tendre tout chose de l’ordre au désordre : l’entropie[4]

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? (Première partie) »

La critique de la technique : clé du développement de l’intelligence artificielle ? (Introduction)

Introduction

Crédits : Pxfuel

Si l’année 2018 a été l’année de l’acmé des principes, chartes et déclarations sur l’intelligence artificielle (« IA[1] »), l’année 2020 a bien démarré pour être un tournant vers des textes plus contraignants, enfin en capacité de protéger les individus et l’entière société de diverses dérives, déjà concrètes. À peu près toutes les organisations internationales se sont mises en ordre de marche dès 2019[2], dans le cadre de leurs mandats respectifs, pour apporter leur contribution à ce qui pourrait constituer dans les années à venir une architecture globale de réglementation de « l’IA », appelée à concilier différents impératifs tels que l’innovation, la croissance économique et la protection des droits fondamentaux. Sur un plan local, nombre d’États ont adopté (ou sont sur le point d’adopter) des stratégies sur « l’IA » visant à s’assurer sur cette même scène mondiale leur leadership scientifique, technologique et moral, en y intégrant parfois un volet sur la régulation ou la réglementation[3]. La Nouvelle-Zélande affirme ainsi être le premier État à avoir adopté des standards, sous forme de charte, en matière de régulation des algorithmes[4]. Dans ce contexte de véritable course pour établir en premier des règles du jeu, un consensus s’exprime en ce qui concerne les potentiels bienfaits de cette « IA » pour l’humanité et la nécessité de créer de la confiance chez les milliards d’usagers sur la planète pour en tirer les bénéfices attendus.

Continuer la lecture de « La critique de la technique : clé du développement de l’intelligence artificielle ? (Introduction) »