La tribune revient sur les prétentions des concepteurs de ces systèmes, l’absence de documentation scientifique neutre, démontrant la plus-value de ces outils, et l’incompréhension de qu’est réellement une décision de justice pour prétendre opérer de tels traitements.
L’intelligence artificielle (IA) continue de susciter de grands espoirs pour les années à venir, en moteur espéré de la prospérité humaine et du bien-être. À ces généreuses promesses émanant directement ou indirectement de l’industrie numérique répondent des inquiétudes de plus en plus substantielles dans l’opinion publique, notamment face à des applications suscitant la polémique ou éternellement sur le point d’être pleinement fonctionnels. Après des années de discours éthiques, les régulateurs internationaux et nationaux commencent à se mettre en ordre de marche, mais ils risquent de passer à côté de la cible en proposant des textes parfois trop peu, ou parfois trop, ambitieux. Et si la juste mesure était susceptible d’émerger des discours critiques de la technique, dont la pertinence est bien trop souvent sous-estimée par l’entière communauté ?
De manière assez surprenante, les bénéfices systémiques de la généralisation de l’informatique, notamment sur la productivité, restent à démontrer. En 1987, Robert Solow, prix Nobel d’économie, annonçait « on voit des ordinateurs partout, sauf dans les statistiques de productivité ». Ce paradoxe révélait l’absence de lien observable, au niveau micro-économique, entre les investissements informatiques et la productivité des entreprises. Le constat apparaît toujours d’actualité, puisqu’il s’agisse d’internet et de sa bulle, ou de la généralisation des téléphones intelligents (smartphones) et de « l’IA », l’économie peine à décoller[1]. La crise économique résultant de la crise sanitaire due à la COVID-19 ne va vraisemblablement pas renverser la situation, puisque l’on a vu que cette « IA », pourtant promise à résoudre la plus vaste gamme de problèmes notamment en matière de santé, n’a eu en réalité qu’assez peu de résultats opérationnels[2]. Il semble que nous héritons encore de l’influence d’analyses assez anciennes, comme celle de Daniel Bell qui estimait que la clé du passage de la société industrielle à la société post-industrielle serait dans l’augmentation de la productivité liée aux activités informationnelles[3] – cette fameuse « société de l’information » – ou de Simon Nora et Alain Minc, selon laquelle il faudrait informatiser l’économie pour produire de la croissance[4].
Apparue dans le sillage de la Seconde Guerre mondiale et de la recherche militaire, l’informatique se présente comme la technologie de rupture de ces dernières décennies. Alors que le nucléaire a créé le désordre et le chaos, l’informatique, elle, se présente en outil d’ordre et de raison. Elle a d’abord accompagné les nouveaux besoins de calculs d’États cherchant à automatiser certaines tâches de calcul ou de stockage, puis a investi dans les années 1970 les salons des particuliers, dans un contexte de reconfiguration économique, politique et culturelle majeur. La miniaturisation toujours plus accrue des composants a conduit à la généralisation d’usages que nous connaissons aujourd’hui avec les téléphones intelligents (smartphones) et à la recomposition en profondeur des moyens de communication, des offres de service et de l’accès à l’information. Depuis début 2010, « l’IA » est présentée comme la dernière évolution majeure de ce courant technique, avec son lot de promesses, de disruptions et de perspectives d’un avenir meilleur. Mais les critiques de cette « IA » n’ont pas manqué et elles nous avertissent de dangers les plus divers, des plus fantaisistes aux plus substantiels. D’un scénario d’extermination de l’homme par les machines[1] à un examen minutieux de l’impact concret de l’algorithmisation de notre monde sur l’humain[2], aucune doctrine majoritaire ne semble se dégager de l’abondante littérature produite à ce sujet. Une constante, en revanche, paraît se dessiner : c’est le rejet de cette critique par les pouvoirs publics, soit en l’ignorant ou en la minimisant, soit en l’institutionnalisant. Le développement, dans certaines des organisations internationales, de textes pour créer une « IA digne de confiance », « éthique » ou « centrée sur l’humain » est certainement à lire en ce sens.
En première analyse, le consensus apparent sur les bénéfices incontestables de la technique pourrait paraître fragilisé avec la publication d’études étayées et convergentes dans de nombreux domaines, comme en ce qui concerne la menace environnementale[1]. Le succès en France, et dans d’autres pays européens, de mouvements politiques écologistes à des élections témoigne de cette prise de conscience citoyenne et du relatif affaiblissement du discours imposé par le capitalisme industriel. Il est également intéressant de relever que les plus vives critiques actuelles de la technique ne proviennent d’ailleurs pas nécessairement d’idéologues ou de politiques, mais proviennent aussi des techniciens eux-mêmes, en pleine conscience des enjeux et des limites des divers moyens à notre disposition[2]. De nombreuses publications parviennent aujourd’hui à dépasser les lieux communs en démontrant que derrière la prétendue neutralité des techniques, il y a surtout des enjeux de pouvoirs et que derrière les prophéties, il y a des artifices marketing maquillant une réalité bien plus modeste[3]. Au final ce n’est d’ailleurs pas la technique en elle-même qui est remise en cause par certains de ces auteurs, mais l’asservissement résultant d’une certaine forme de transfert du sacré à la technique[4]. Et c’est exactement cela qui se joue pour le numérique et « l’IA » qui, en derniers artefacts à la mode (et potentiellement rentables), sont instrumentalisés pour nourrir l’idée d’une révolution et d’une civilisation toujours en « progrès » continu par les sciences, alors que l’on se trouve en réalité en pleine confusion entre fins et moyens[5].
Il est bien connu que le lien entre les sociétés humaines et le système technique composé par l’ensemble de leurs artefacts est extrêmement étroit et chaque (r)évolution majeure a contribué à modeler substantiellement notre environnement, en se déployant parfois sur plusieurs siècles[1]. Ainsi la portée de l’invention de l’imprimerie a dépassé la seule mécanisation de la reproduction d’ouvrages : la Réforme de l’Église, le siècle des Lumières, l’accès au savoir de manière générale ont été autant d’événements liés à cette invention. L’avènement des processus industriels au XIXe siècle a profondément recomposé les rapports entre individus ainsi que nos lieux de vie et nos modes de gouvernance[2]. Aujourd’hui nous en serions à notre 4e révolution industrielle avec la rencontre entre « le monde du physique, du numérique, du biologique et de l’innovation[3] ». Cette révolution nous doterait de moyens nouveaux pour tenter de franchir de nouvelles frontières, même celle, absolue et imposée par la Nature, qui fait tendre tout chose de l’ordre au désordre : l’entropie[4].
Si l’année 2018 a été l’année de l’acmé des principes, chartes et déclarations sur l’intelligence artificielle (« IA[1] »), l’année 2020 a bien démarré pour être un tournant vers des textes plus contraignants, enfin en capacité de protéger les individus et l’entière société de diverses dérives, déjà concrètes. À peu près toutes les organisations internationales se sont mises en ordre de marche dès 2019[2], dans le cadre de leurs mandats respectifs, pour apporter leur contribution à ce qui pourrait constituer dans les années à venir une architecture globale de réglementation de « l’IA », appelée à concilier différents impératifs tels que l’innovation, la croissance économique et la protection des droits fondamentaux. Sur un plan local, nombre d’États ont adopté (ou sont sur le point d’adopter) des stratégies sur « l’IA » visant à s’assurer sur cette même scène mondiale leur leadership scientifique, technologique et moral, en y intégrant parfois un volet sur la régulation ou la réglementation[3]. La Nouvelle-Zélande affirme ainsi être le premier État à avoir adopté des standards, sous forme de charte, en matière de régulation des algorithmes[4]. Dans ce contexte de véritable course pour établir en premier des règles du jeu, un consensus s’exprime en ce qui concerne les potentiels bienfaits de cette « IA » pour l’humanité et la nécessité de créer de la confiance chez les milliards d’usagers sur la planète pour en tirer les bénéfices attendus.
