{"id":1515,"date":"2020-12-31T14:37:09","date_gmt":"2020-12-31T13:37:09","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=1515"},"modified":"2021-01-05T14:02:35","modified_gmt":"2021-01-05T13:02:35","slug":"2021-quelles-perspectives-pour-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2020\/12\/31\/2021-quelles-perspectives-pour-lintelligence-artificielle\/","title":{"rendered":"2021 : Quelles perspectives pour l\u2019intelligence artificielle ?"},"content":{"rendered":"\n

Publi\u00e9 le 31 d\u00e9cembre 2020, mis \u00e0 jour le 5 janvier 2021<\/em><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Sur un plan technologique, l\u2019histoire retiendra vraisemblablement de la d\u00e9cennie qui vient de s\u2019\u00e9couler le r\u00e9enchantement du terme intelligence artificielle (IA) avec les exploits de l\u2019apprentissage automatique et des r\u00e9seaux de neurones. M\u00eame si ces algorithmes ne sont pas tout \u00e0 fait nouveaux, la magie ne cesse d\u2019op\u00e9rer au rythme des promesses, toujours plus nombreuses, des chercheurs et des concepteurs. De la reconnaissance d\u2019image \u00e0 la conduite autonome, de la recherche de fraudes \u00e0 la lutte contre la Covid-19, l\u2019IA ne cesse d\u2019\u00eatre convoqu\u00e9e pour r\u00e9soudre des probl\u00e8mes toujours plus complexes. \u00c0 entendre les discours ambiants, ce qui n\u2019est pas possible aujourd\u2019hui le sera n\u00e9cessairement demain, en agr\u00e9geant toujours plus de donn\u00e9es. Dans le m\u00eame temps, les cons\u00e9quences d\u2019une g\u00e9n\u00e9ralisation h\u00e2tive de l\u2019IA commencent \u00e0 \u00eatre bien document\u00e9es : renforcement des in\u00e9galit\u00e9s d\u00e9j\u00e0 existantes par l\u2019emploi h\u00e2tif d\u2019algorithmes dans les services publics, caisse de r\u00e9sonance \u00e0 diff\u00e9rents types de d\u00e9sordre informationnel, aggravation des atteintes \u00e0 la vie priv\u00e9e ne sont que quelques exemples tr\u00e8s concrets qui esquissent les possibles errements du nouveau monde transform\u00e9 en donn\u00e9es.<\/p>\n\n\n\n\n\n\n\n

L’id\u00e9e est de trouver un \u00e9quilibre entre protection et \u00e9diction d\u2019une r\u00e9glementation trop contraignante pour des cas d\u2019usages simples de l\u2019IA<\/p><\/blockquote>\n\n\n\n

En toute hypoth\u00e8se, 2020 nous aura apport\u00e9 cette certitude : l\u2019\u00e9thique et les principes d\u00e9claratoires ne suffiront pas \u00e0 pr\u00e9venir ces d\u00e9rives et une r\u00e9glementation plus substantielle est indispensable pour cr\u00e9er de la confiance. Le livre blanc de la Commission europ\u00e9enne<\/a> en f\u00e9vrier 2020 et l\u2019\u00e9tude de faisabilit\u00e9<\/a> du Comit\u00e9 ad hoc sur l\u2019intelligence artificielle (CAHAI) du Conseil de l\u2019Europe en d\u00e9cembre 2020 concluent en ce sens. Les deux organisations semblent se diriger vers des textes de nature plus contraignante que ceux produits jusqu\u2019\u00e0 lors, en s\u2019int\u00e9ressant \u00e0 une approche fond\u00e9e sur les risques. L’id\u00e9e est de trouver un \u00e9quilibre entre protection et \u00e9diction d\u2019une r\u00e9glementation trop contraignante pour des cas d\u2019usages simples de l\u2019IA, sans cons\u00e9quences majeures sur les individus ou la soci\u00e9t\u00e9. Le Parlement europ\u00e9en et Assembl\u00e9e Parlementaire du Conseil de l\u2019Europe ont publi\u00e9 en octobre 2020 des rapports donnant une claire impulsion politique pour des r\u00e9glementations et non de la simple r\u00e9gulation (voir en fin d\u2019article \u00ab Aller plus loin \u00bb).  Le rapport de l’Agence des droits fondamentaux de l’Union europ\u00e9enne (FRA – Fundamental Rights Agency) intitul\u00e9 \u00ab Bien pr\u00e9parer l\u2019avenir : l\u2019intelligence artificielle et les droits fondamentaux<\/a> \u00bb et publi\u00e9 en d\u00e9cembre 2020 soutient \u00e9galement une intervention l\u00e9gislative \u00ab pour se prot\u00e9ger efficacement contre l\u2019ing\u00e9rence arbitraire dans les droits fondamentaux et pour donner une s\u00e9curit\u00e9 juridique \u00e0 la fois aux d\u00e9veloppeurs d\u2019IA et aux utilisateurs \u00bb.<\/p>\n\n\n\n

2020 aura \u00e9galement pos\u00e9, \u00e0 l\u2019occasion de ces r\u00e9flexions, la base de politiques de certification et de labellisation. Prenant exemple sur d\u2019autres domaines industriels n\u00e9cessitant de la confiance, comme la pharmacie, l\u2019automobile ou l\u2019aviation, les organisations de standards (IEEE, ISO, CEN notamment) semblent devoir jouer un r\u00f4le majeur aux c\u00f4t\u00e9s des organisations internationales pour poser de tels cadres dans certaines hypoth\u00e8ses d\u2019emploi de l\u2019IA justifiant de telles contraintes.<\/p>\n\n\n\n

En 2021, en ce qui concerne l\u2019Union europ\u00e9enne, des cadres juridiques existants, comme ceux relatifs \u00e0 la s\u00e9curit\u00e9 du fait des produits d\u00e9fectueux ou \u00e0 la propri\u00e9t\u00e9 intellectuelle, vont vraisemblablement \u00e9voluer pour tenir compte de la complexit\u00e9 des cha\u00eenes de fourniture de services employant de \u00ab l\u2019IA \u00bb. Il pourrait aussi \u00eatre question d\u2019une autorit\u00e9 de r\u00e9gulation sp\u00e9cifique. En ce qui concerne le Conseil de l\u2019Europe, le Comit\u00e9 des Ministres devra trancher si la forme d\u2019un nouvel instrument juridique fond\u00e9 sur les droits de l\u2019homme, la d\u00e9mocratie et l\u2019\u00c9tat de droit sera celle d\u2019une Convention ou d\u2019une Convention cadre (instrument contraignant d\u00e8s lors qu\u2019il est ratifi\u00e9 par les Parlements des Etats signataires) ou d\u2019une nouvelle Recommandation (non contraignante). L’UNESCO publiera \u00e9galement en 2021 sa Recommandation sur l’\u00e9thique de l’IA<\/a>, qui sera un texte non-contraignant \u00e9dictant un certain nombre de valeurs et principes devant \u00eatre respect\u00e9s tout au long du cycle de vie d’une IA. <\/p>\n\n\n\n

La question de la coordination autour des initiatives des organisations internationales se pose souvent : \u00e0 l\u2019initiative de ces organisations, 2021 devrait voir appara\u00eetre un tout nouveau site internet regroupant l\u2019ensemble de leurs initiatives afin de d\u00e9livrer une information coordonn\u00e9e. De mani\u00e8re optimiste, on pourra y lire les pr\u00e9mices de politiques coordonn\u00e9es.<\/p>\n\n\n\n

Mais les vents contraires \u00e0 de telles ambitions demeurent. Rappelons-nous en octobre 2020 de la note blanche \u00e0 la Commission europ\u00e9enne<\/a> sign\u00e9e par 14 Etats de l\u2019Union europ\u00e9enne (ou plus exactement des minist\u00e8res \u00e9conomiques ou en charge du num\u00e9rique) dans laquelle ils mettaient en garde Bruxelles contre \u00ab la mise en place de barri\u00e8res et d’exigences lourdes qui peuvent constituer un obstacle \u00e0 l’innovation \u00bb. Au lieu de cela, ces 14 minist\u00e8res sugg\u00e8rent que l’Europe \u00ab devrait se tourner vers des solutions juridiques non contraignantes telles que l’autor\u00e9gulation, la labellisation volontaire et d’autres pratiques \u00bb de ce type. <\/p>\n\n\n\n

Cette position vient en \u00e9cho de celles des entreprises num\u00e9riques, m\u00eame si parmi les BigTech (qui auront les moyens de s\u2019adapter) certaines r\u00e9clament une r\u00e9glementation stricte, comme Microsoft en ce qui concerne la reconnaissance faciale. Google a d\u00e9clench\u00e9 pour sa part une pol\u00e9mique avec le licenciement de Timnit Gebru, une scientifique \u00e9thiopienne sp\u00e9cialis\u00e9e dans l’IA, connue pour ses travaux sur les biais algorithmiques et qui dirigeait l’\u00e9quipe \u00e9thique de Google en mati\u00e8re d’IA. La chercheuse a \u00e9t\u00e9 licenci\u00e9 apr\u00e8s avoir critiqu\u00e9 les pratiques d’embauche des minorit\u00e9s de l’entreprise, avoir remis en question le co\u00fbt environnemental des \u00e9normes centres de donn\u00e9es et avoir rencontr\u00e9 une opposition interne \u00e0 la publication d\u2019un article sur la discrimination algorithmique, qui montrait que les grands mod\u00e8les linguistiques qui traitent des masses de phrases sur Internet finissent in\u00e9luctablement par \u00eatre atteint de biais et \u00e0 renforcer les discriminations. D’apr\u00e8s Reuters<\/a>, Google demanderait maintenant \u00e0 ses \u00e9quipes de \u00ab donner un ton positif \u00bb \u00e0 certaines recherches et d’\u00e9viter de \u00ab pr\u00e9senter sa technologie sous un jour n\u00e9gatif \u00bb.<\/p>\n\n\n\n

Une fracture <\/em>assez classique semble donc encore opposer les Anciens et les Modernes de notre \u00e9poque<\/p><\/blockquote>\n\n\n\n

Plus que jamais, une fracture assez classique semble donc encore opposer les Anciens et les Modernes de notre \u00e9poque, avec \u00e0 chacune des extr\u00eames deux figures que tout opposerait : d\u2019un c\u00f4t\u00e9 du spectre, ceux qui sont parfois qualifi\u00e9s de n\u00e9o-luddites (tenants du fameux \u00ab mod\u00e8le Amish \u00bb) et, de l\u2019autre c\u00f4t\u00e9 du m\u00eame spectre, la cohorte d\u2019ing\u00e9nieurs-entrepreneurs nourris au mod\u00e8le libertarien de la Silicon Valley. Les derniers textes des organisations internationales ou r\u00e9gionales, en synth\u00e8se d\u2019une expertise multipartite, paraissent traiter ce d\u00e9bat sous l\u2019angle d\u2019une balance entre les b\u00e9n\u00e9fices attendus et les risques, en se concentrant sur les usages des algorithmes et de l\u2019IA. La pr\u00e9occupation majeure des d\u00e9cideurs publics et des r\u00e9gulateurs est de ne pas ralentir le moteur de la croissance, avec un secteur num\u00e9rique porteur d\u2019espoirs tout particuliers. La crise sanitaire a d\u00e9montr\u00e9 la robustesse de ce secteur, tr\u00e8s sollicit\u00e9 pour maintenir l\u2019activit\u00e9 des entreprises et du secteur public, et l\u2019on attend de lui qu\u2019il aide \u00e0 absorber le choc \u00e9conomique auquel nous allons \u00eatre confront\u00e9s une fois les aides publiques \u00e9puis\u00e9es. L\u2019intensit\u00e9 d\u2019une r\u00e9glementation sur l\u2019IA risque donc d\u2019\u00eatre tr\u00e8s limit\u00e9e et se concentrer sur la question de la confiance, afin de nous inciter \u00e0 adopter dans notre quotidien toujours plus de solutions fond\u00e9es sur ces technologies.<\/p>\n\n\n\n

En dehors des fronti\u00e8res europ\u00e9ennes, les d\u00e9clarations politiques sur l\u2019IA se sont succ\u00e9d\u00e9, comme aux \u00c9tats-Unis, mais l\u2019av\u00e8nement d\u2019une r\u00e9glementation garantissant des droits fondamentaux \u00e0 l\u2019\u00e8re num\u00e9rique reste un objectif lointain. Sur l\u2019IA, quelques d\u00e9clarations de membres du Congr\u00e8s aux \u00c9tats-Unis ont montr\u00e9 un int\u00e9r\u00eat croissant pour le sujet, et le Bipartisan Policy Center para\u00eet s\u2019\u00eatre saisi de la question, mais sans r\u00e9el objectif court terme. Toujours aux \u00c9tats-Unis, le secteur de la sant\u00e9 sera certainement le premier \u00e0 adapter sa r\u00e9glementation \u00e0 l\u2019IA. Il faut dire que ce secteur a \u00e9t\u00e9 l\u2019un des premiers \u00e0 adopter l’IA, en particulier en radiologie. L\u2019agence am\u00e9ricaine des produits alimentaires et m\u00e9dicamenteux (Food and Drug Administration \u2013 FDA) a commenc\u00e9 \u00e0 se pencher sur la question en s\u2019int\u00e9ressant \u00e0 la question des algorithmes non d\u00e9terministes (dont l\u2019apprentissage automatique \u2013 machine learning<\/em>). <\/p>\n\n\n\n

En 2020, les ONG ont \u00e9galement continu\u00e9 \u00e0 publier des opinions, des d\u00e9clarations politiques et des livres. En plus de contributions \u00e0 la consultation de la Commission europ\u00e9enne sur son livre blanc ou aux travaux du CAHAI, la pression demeure pour l\u2019adoption d\u2019une r\u00e9glementation contraignante protectrice des individus et de la soci\u00e9t\u00e9. Algorithm Watch a notamment publi\u00e9 son\u00a0rapport 2020<\/a>\u00a0pour cartographier les usages et les analyses des syst\u00e8mes de prise de d\u00e9cision algorithmique dans la sph\u00e8re des politiques publiques en Europe. Access Now,\u00a0apr\u00e8s s\u2019\u00eatre retir\u00e9 du Partenariat sur l\u2019IA<\/a>\u00a0(Partnership on AI) du fait de la place limit\u00e9e laiss\u00e9e \u00e0 la soci\u00e9t\u00e9 civile, a publi\u00e9 un\u00a0rapport sur l\u2019\u00e9volution des politiques en Europe en mati\u00e8re d\u2019IA<\/a>.<\/p>\n\n\n\n

Du c\u00f4t\u00e9 de la recherche, les organisateurs de la conf\u00e9rence annuelle NeurIPS (the Neural Information Processing Systems ) ont demand\u00e9 pour la premi\u00e8re fois \u00e0 tous leurs participants de r\u00e9aliser une introduction sur les cons\u00e9quences soci\u00e9tales de leurs recherches, incluant leurs possibles effets n\u00e9gatifs. La dimension \u00e9thique a \u00e9galement \u00e9t\u00e9 consid\u00e9r\u00e9e syst\u00e9matiquement dans la revue des articles soumis \u00e0 publication \u00e0 l’occasion de la conf\u00e9rence.<\/p>\n\n\n\n

Apr\u00e8s une ann\u00e9e 2020 dont personne n\u2019aurait pronostiqu\u00e9 la teneur, il est donc difficile d\u2019\u00e9tablir un profil de ce que pourrait \u00eatre l\u2019ann\u00e9e 2021 en ce qui concerne les diverses applications de l\u2019IA et leur r\u00e9glementation. <\/p>\n\n\n\n

Sur un plan technique, des briques d\u2019IA vont vraisemblablement continuer \u00e0 s\u2019immiscer dans la plupart des logiciels, rendant d\u2019ailleurs toujours plus complexe leur auditabilit\u00e9. Mais il ne s\u2019agit probablement l\u00e0 que d\u2019une \u00e9volution naturelle en ing\u00e9nierie informatique qui va industrialiser les techniques les plus matures. Les chercheurs continuent par ailleurs de chercher diff\u00e9rentes pistes pour d\u00e9passer les limites des syst\u00e8mes actuels, qu’il s’agisse de l’apprentissage par renforcement ou de la mod\u00e9lisation de la causalit\u00e9. La simplification d\u2019usage de certaines applications, comme le remplacement de visages dans des vid\u00e9os (\u00ab deepfakes \u00bb), va aussi conduire \u00e0 une probable multiplication de contenus illicites, pouvant notamment d\u00e9stabiliser les d\u00e9bats politiques. Les avis des sp\u00e9cialistes semblent \u00e9galement converger vers des progr\u00e8s sur le traitement du langage ou dans le domaine de la sant\u00e9, l\u2019usage (discret) de briques d\u2019IA pour la recherche de m\u00e9dicaments ou l\u2019imagerie allant probablement se g\u00e9n\u00e9raliser.<\/p>\n\n\n\n

Sur un plan juridique, l\u2019encadrement para\u00eet plus que jamais n\u00e9cessaire. Il est donc probable que les fondations de cadres internationaux soient pos\u00e9es en 2021 mais avec quel contenu ? L\u2019\u00e9quilibre entre un cadre juridique de confiance, prot\u00e9geant les usagers que nous sommes tous, et un soutien de plus en plus inconditionnel au d\u00e9veloppement d\u2019un secteur num\u00e9rique en plein marasme \u00e9conomique g\u00e9n\u00e9ralis\u00e9 va \u00eatre d\u00e9licat. 2021 verra donc probablement se raffermir le consensus g\u00e9n\u00e9ral centrant nos r\u00e9flexions collectives sur les usages du num\u00e9rique et s\u2019\u00e9loigner un traitement politique de la question de l\u2019opportunit\u00e9 de transformer notre enti\u00e8re soci\u00e9t\u00e9 en donn\u00e9es, question pourtant centrale du changement de gouvernementalit\u00e9 de notre \u00e8re.<\/p>\n\n\n\n

\n\n\n\n

Aller plus loin<\/strong><\/h2>\n\n\n\n