{"id":791,"date":"2020-03-11T17:36:08","date_gmt":"2020-03-11T16:36:08","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=791"},"modified":"2020-05-18T23:21:34","modified_gmt":"2020-05-18T21:21:34","slug":"pourquoi-nous-devrions-ne-pas-craindre-lia","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2020\/03\/11\/pourquoi-nous-devrions-ne-pas-craindre-lia\/","title":{"rendered":"Pourquoi nous devrions (ne pas) craindre l’IA"},"content":{"rendered":"\n
\"\"
Bibliographie de l’ouvrage \u00ab\u00a0L’intelligence artificielle en proc\u00e8s\u00a0\u00bb<\/figcaption><\/figure>\n\n\n\n

\u00c0 longueur d\u2019annonces, de d\u00e9bats, de conf\u00e9rences, d\u2019articles, de reportages ou de livres, l\u2019on ne cesse de nous pr\u00e9senter l\u2019intelligence artificielle (IA) comme la technologie de rupture de la d\u00e9cennie, peut-\u00eatre m\u00eame du si\u00e8cle. Des opportunit\u00e9s sans limites semblent s\u2019ouvrir \u00e0 l\u2019humanit\u00e9 dans la mesure o\u00f9 nous serions \u00e0 m\u00eame de pr\u00e9venir les risques dans un contexte d’usages sans cesse plus g\u00e9n\u00e9ralis\u00e9s. Le\u00a0\u00ab\u00a0papier blanc\u00a0\u00bb (white paper<\/em>) sur l\u2019IA de la Commission europ\u00e9enne<\/a>, publi\u00e9 le 19 f\u00e9vrier 2020, s’approprie ce constat et pose les grandes options des lignes politiques de l’encadrement de cette technologie pour les ann\u00e9es \u00e0 venir.\u00a0<\/p>\n\n\n\n\n\n\n\n

Les fantasmes s\u2019agr\u00e8gent toutefois dans les innombrables discours portant sur cette technologie et la redoutable complexit\u00e9 technique animant les discussions entre experts conduit \u00e0 emplir l\u2019espace public de repr\u00e9sentations o\u00f9 chacun y laisse un peu de sa subjectivit\u00e9 et de sa vision du monde. Ayant ringardis\u00e9 le terme m\u00e9gadonn\u00e9es (big data<\/em>) et tant\u00f4t confondu avec l\u2019informatique, le num\u00e9rique ou m\u00eame internet (voire les blockchains !), le terme \u00ab IA \u00bb (qui sera employ\u00e9 entre guillemets en substitution aux termes plus appropri\u00e9s d\u2019applications de l\u2019intelligence artificielle)est devenu en ce d\u00e9but de si\u00e8cle le mot-valise de r\u00e9f\u00e9rence en mati\u00e8re de technologies, qui emporte avec lui une assez grande vari\u00e9t\u00e9 de pr\u00e9occupations.<\/p>\n\n\n\n

\u00ab L\u2019IA \u00bb, un terme plastique devenu synonyme de progr\u00e8s<\/strong><\/h2>\n\n\n\n

Il faut dire que ce coup de force rh\u00e9torique de John McCarthy et Marvin Minsky, forg\u00e9 en 1955\/1956, continue \u00e0 se d\u00e9ployer avec une grande vigueur du fait de sa plasticit\u00e9, pour ne pas dire de son impr\u00e9cision. Car plus l\u2019on s\u2019int\u00e9resse au sujet, plus l\u2019on apprend \u00e0 s\u2019\u00e9loigner de ce terme\u2026 et plus l\u2019on devient incompr\u00e9hensible pour les profanes : qui se soucie en effet des diff\u00e9rents b\u00e9n\u00e9fices et des limites des r\u00e9seaux de neurones profonds, des machines \u00e0 vecteur de support, des r\u00e9seaux bay\u00e9siens, des arbres de d\u00e9cisions et des syst\u00e8mes experts, en dehors des techniciens de ces mati\u00e8res ? Nous vivrions donc une v\u00e9ritable \u00e8re de l’approximation<\/em>, o\u00f9 la pr\u00e9cision des termes et la r\u00e9alit\u00e9 de la port\u00e9e des technologies importerait moins que ce que l’on esp\u00e8re en faire, ne serait-ce que pour se donner le sentiment de rester adapt\u00e9 \u00e0 son \u00e9poque.<\/p>\n\n\n\n

D\u2019une mani\u00e8re certainement plus troublante, il est extr\u00eamement d\u00e9stabilisant de voir que le b\u00e9n\u00e9fice du recours \u00e0 ces ensembles de technologies, dans les aspects parfois les plus intimes de notre vie courante, n\u2019est m\u00eame plus questionn\u00e9 et que plus personne ne cherche \u00e0 convaincre de ses vertus. \u00ab L\u2019IA \u00bb est devenu le progr\u00e8s et l\u2019on ne questionne pas le progr\u00e8s. Antoinette Rouvroy constate en ce sens un certain ass\u00e8chement de la qualit\u00e9 du d\u00e9bat public et rappelle que \u00ab la gouvernementalit\u00e9 algorithmique, bien que soutenue parfois par des discours ressuscitant l\u2019id\u00e9e de progr\u00e8s, ne se pr\u00e9sente plus tant comme une alternative aux autres formes de gouvernement que comme leur destin in\u00e9luctable \u00bb (A. Rouvroy, \u00ab\u00a0Adopt AI, Think Later – La m\u00e9thode Cou\u00e9 au secours de l\u2019intelligence artificielle\u00a0\u00bb, 2020<\/a>).<\/p>\n\n\n\n

Que l\u2019on s\u2019estime \u00ab pour \u00bb ou \u00ab contre \u00bb (ou m\u00eame au-dessus de ces d\u00e9bats), il faudrait donc arriver avant tout \u00e0 se d\u00e9partir de cette sorte de sid\u00e9ration collective nous ayant saisis. Il para\u00eet urgent de revitaliser les d\u00e9bats sur l\u2019emploi de cette \u00ab IA \u00bb en revenant \u00e0 de tr\u00e8s simples bases pour commencer \u00e0 ordonner une pens\u00e9e critique, constructive et ambitieuse, \u00e0 m\u00eame de prot\u00e9ger de mani\u00e8re effective les individus et la soci\u00e9t\u00e9 d\u2019une certaine forme de d\u00e9rives scientiste et mercantile paralysant le d\u00e9bat d\u00e9mocratique et les choix de soci\u00e9t\u00e9.<\/p>\n\n\n\n

\u00ab L\u2019IA \u00bb, c\u2019est quoi ?<\/strong><\/h2>\n\n\n\n

\u00c0 s\u2019en tenir \u00e0 la d\u00e9finition donn\u00e9e par la Commission d\u2019enrichissement de la langue fran\u00e7aise, l\u2019IA est le \u00ab champ interdisciplinaire th\u00e9orique et pratique qui a pour objet la compr\u00e9hension de m\u00e9canismes de la cognition et de la r\u00e9flexion, et leur imitation par un dispositif mat\u00e9riel et logiciel, \u00e0 des fins d’assistance ou de substitution \u00e0 des activit\u00e9s humaines \u00bb. On se trouve donc dans le champ des sciences cognitives et \u00e0 l\u2019intersection avec l\u2019informatique dont l\u2019ambition g\u00e9n\u00e9rale d\u2019automatisation de t\u00e2ches peut ais\u00e9ment se confondre avec l\u2019ambition pr\u00e9cise d\u2019imiter le fonctionnement du cerveau humain pour parvenir \u00e0 cette automatisation. Pour le reformuler, \u00ab l\u2019IA \u00bb est une forme particuli\u00e8re d\u2019application de l\u2019informatique, dont la r\u00e9alit\u00e9 technologique a \u00e9volu\u00e9 en fonction des m\u00e9thodes \u00e0 la mode : approche descriptive et symbolique dans les ann\u00e9es 1970-80, en \u00e9crivant des r\u00e8gles logiques signifiantes, et connexionniste aujourd\u2019hui, en laissant la machine \u00ab d\u00e9couvrir \u00bb les corr\u00e9lations entre des ph\u00e9nom\u00e8nes traduits en donn\u00e9es (c’est en cela que l\u2019on dit qu\u2019elle \u00ab apprend \u00bb).<\/p>\n\n\n\n

Ce qui devrait bien plus nous int\u00e9resser donc en terme de r\u00e9gulation, ce sont les questions pos\u00e9es par des syst\u00e8mes complexes d\u2019algorithmes en g\u00e9n\u00e9ral plut\u00f4t qu\u2019une technologie pr\u00e9cise, et ce pour une application particuli\u00e8re : la prise de d\u00e9cision sans action humaine. Il devrait, de plus, \u00eatre syst\u00e9matiquement adjoint au p\u00e9rim\u00e8tre de r\u00e9flexion les donn\u00e9es alimentant ces syst\u00e8mes. Car, contrairement \u00e0 un carburant irriguant un moteur thermique de voiture, les donn\u00e9es ont un r\u00f4le de plus en plus structurant sur leur moteur algorithmique, notamment avec l\u2019apprentissage automatique (machine learning<\/em>). Ce qu\u2019il y aurait alors \u00e0 craindre, ce ne serait pas une autonomisation de la machine qui s\u2019en prendrait \u00e0 son concepteur comme dans un mauvais film de science-fiction, mais bien plus d\u2019un exc\u00e8s de confiance dans le pouvoir de ces technologies pour prendre, en toutes circonstances, de meilleures d\u00e9cisions que nous.<\/p>\n\n\n\n

Aller plus loin que la simple balance b\u00e9n\u00e9fices \/ risques<\/strong><\/h2>\n\n\n\n

Alors qu\u2019il est le plus souvent r\u00e9alis\u00e9 une balance sp\u00e9culative entre des b\u00e9n\u00e9fices et des risques probables, l\u2019on omet par cette d\u00e9marche simpliste de s\u2019interroger sur la capacit\u00e9 de ces machines \u00e0 manipuler avec efficacit\u00e9 les concepts dont elles sont nourries. Ainsi, l\u2019emploi en informatique de donn\u00e9es objectives et quantifiables conduit \u00e0 des r\u00e9sultats bien plus robustes qu\u2019avec des donn\u00e9es subjectives (n\u00e9cessitant une interpr\u00e9tation pour \u00eatre transform\u00e9es en donn\u00e9es) et qualitatives. D\u00e9duire du succ\u00e8s d\u2019AlphaGo des potentialit\u00e9s r\u00e9volutionnaires dans tous les champs de l\u2019activit\u00e9 humaine rel\u00e8ve ainsi d\u2019un exc\u00e8s d\u2019optimisme dont il convient de se garder. Des encadrements bien plus contraignants devraient peser sur les syst\u00e8mes manipulant des concepts potentiellement hasardeux ou n\u2019ayant pas de fondement scientifique s\u00e9rieux.<\/p>\n\n\n\n

La deuxi\u00e8me question bien souvent \u00e9lud\u00e9e est celle de l\u2019importante dette intellectuelle qui est en train de se cumuler en empilant des syst\u00e8mes complexes dont l\u2019on ne parvient plus \u00e0 reconstituer le raisonnement. Affirmer, comme le chercheur Yann LeCun, que l\u2019explicabilit\u00e9 n\u2019est pas importante si l\u2019on arrive \u00e0 prouver que le mod\u00e8le fonctionne bien tel qu\u2019il est cens\u00e9 fonctionner, encourage en r\u00e9alit\u00e9 \u00e0 l\u2019abandon de toute pr\u00e9tention \u00e0 construire des th\u00e9ories scientifiques solides pour b\u00e2tir des applications. Cela revient \u00e9galement \u00e0 faire primer les r\u00e9sultats sur la connaissance et \u00e0 privil\u00e9gier des objectifs \u00e0 court terme au d\u00e9triment d\u2019un investissement \u00e0 plus long terme, seul capable de b\u00e2tir des fondements solides \u00e0 m\u00eame de nous aider \u00e0 aller plus loin que les fragiles m\u00e9canismes de l\u2019apprentissage automatique (machine learning<\/em>).  <\/p>\n\n\n\n

La troisi\u00e8me et derni\u00e8re question qui est minimis\u00e9e en se focalisant sur l\u2019\u00e9quilibre entre les bienfaits et les dangers de \u00ab l\u2019IA \u00bb est celle, fondamentale, du type de soci\u00e9t\u00e9 dans laquelle nous souhaitons r\u00e9ellement vivre. \u00c0 entendre les discours majoritaires sur le num\u00e9rique et \u00ab l\u2019IA \u00bb, ce sont aujourd’hui les donn\u00e9es qui constituent le principal gisement d\u2019avenir pour le d\u00e9veloppement \u00e9conomique. Les discours s\u2019affirment centr\u00e9s sur l\u2019humain et pr\u00e9occup\u00e9s du respect des droits fondamentaux mais se fondent en r\u00e9alit\u00e9 sur une mystique num\u00e9rique<\/em> (Rouvroy, 2020<\/a>) o\u00f9 tous les probl\u00e8mes paraitraient pouvoir \u00eatre r\u00e9solus, directement ou indirectement, par ce moyen. \u00ab L\u2019IA \u00bb est ainsi devenue un moyen qui s\u2019est appropri\u00e9 les fins et qui va contribuer, si l\u2019on n\u2019y prend pas garde, \u00e0 encore plus fragiliser nos institutions d\u00e9mocratiques sur lesquelles p\u00e8se d\u00e9j\u00e0 un lourd discr\u00e9dit. En \u00e9tant promoteurs d\u2019un environnement num\u00e9rique automatisant la prise de d\u00e9cision pour en expurger les biais des op\u00e9rateurs humains, nous contribuons en r\u00e9alit\u00e9 \u00e0 saper les fondements d’une soci\u00e9t\u00e9 bas\u00e9e sur la d\u00e9lib\u00e9ration et la primaut\u00e9 du droit au profit d’un \u00ab \u00c9tat des algorithmes \u00bb, math\u00e9matisant les rapports soci\u00e9taux.<\/p>\n\n\n\n

Le trop plein d\u2019\u00e9thique et la n\u00e9cessit\u00e9 d\u2019une r\u00e9ponse juridique<\/strong><\/h2>\n\n\n\n

Face \u00e0 ces enjeux de \u00ab l\u2019IA \u00bb, une importante et dense r\u00e9ponse \u00e9thique s\u2019est constitu\u00e9e depuis le milieu des ann\u00e9es 2010. En s\u2019accordant aux d\u00e9comptes de l\u2019Agence des droits fondamentaux de l\u2019Union europ\u00e9enne<\/a>, plus de 260 documents, textes et chartes non contraignants auraient \u00e9t\u00e9 produits dans le monde en d\u00e9cembre 2019. Fortement inspir\u00e9s de la bio\u00e9thique, les principes qui en d\u00e9coulent paraissent se regrouper en quelques cat\u00e9gories d\u00e9sormais bien identifi\u00e9es comme la transparence, la justice et l\u2019impartialit\u00e9, la bienfaisance et la non-malfaisance, l\u2019autonomie, la responsabilit\u00e9, le respect de la vie priv\u00e9e, la robustesse et la s\u00e9curit\u00e9, etc. Sans aborder les d\u00e9bats portant sur la subjectivit\u00e9 de l\u2019\u00e9thique, il doit \u00eatre simplement constat\u00e9 que cette intense production a servi l\u2019industrie num\u00e9rique \u00e0 d\u00e9porter le discours de la n\u00e9cessaire r\u00e9gulation de \u00ab l\u2019IA \u00bb dans un champ plus souple et moins contraignant. D\u00e9pourvue de sanctions, l\u2019\u00e9thique est en effet un instrument commode d\u2019autor\u00e9gulation dont il convient bien entendu de ne pas minimiser les bienfaits, mais dont la port\u00e9e reste avant tout d\u00e9claratoire. <\/p>\n\n\n\n

L\u2019autre faiblesse de cette \u00e9thique de \u00ab l\u2019IA \u00bb est parfaitement r\u00e9v\u00e9l\u00e9e par les m\u00e9ta-analyses des cadres existants (voir par exemple A. Jobin, M. Ienca, E. Vayena, The global landscape of AI ethics guidelines, Nature Machine Intelligence, 2019<\/a>). Cette \u00e9thique est loin d\u2019\u00eatre univoque et nombre de principes sont polys\u00e9miques, sans aucun dispositif d\u2019interpr\u00e9tation pour en assurer la coh\u00e9rence (comme les tribunaux quand il s\u2019agit d\u2019interpr\u00e9ter des r\u00e8gles de droit). De nombreuses institutions publiques, nationales et internationales, ont publi\u00e9 et vont continuer vraisemblablement de publier des textes non-contraignants et ainsi contribuer \u00e0 stabiliser les d\u00e9bats, mais l\u2019on se retrouve encore une fois ici bien \u00e9loign\u00e9s de normes contraignantes accompagn\u00e9es de m\u00e9canismes rigoureux de suivi et de sanctions en cas de manquement.<\/p>\n\n\n\n

C\u2019est en cela que le mandat du Comit\u00e9 ad hoc sur l\u2019IA (CAHAI) du Conseil de l\u2019Europe <\/a>s\u2019av\u00e8re original et constitue, \u00e0 ce jour, la meilleure opportunit\u00e9 pour fonder un cadre juridique d\u2019application de cette technologie respectueux des valeurs fondamentales de nos soci\u00e9t\u00e9s : les droits de l’homme, l’\u00c9tat de droit et la d\u00e9mocratie. Rappelons qu\u2019\u00e9dicter des standards juridiques en la mati\u00e8re rel\u00e8ve pleinement du mandat de cette organisation internationale, qui s\u2019est d\u00e9j\u00e0 illustr\u00e9e d\u00e8s 1981 avec la Convention 108 sur la protection des donn\u00e9es \u2013 \u00ab grand-m\u00e8re \u00bb du RGPD \u2013 ou la Convention de Budapest en mati\u00e8re de lutte contre la cybercriminalit\u00e9 en 2001. Cette exp\u00e9rience rend l\u00e9gitime le Conseil de l\u2019Europe \u00e0 intervenir, en coordination avec l\u2019Union europ\u00e9enne, l\u2019OCDE et les Nations Unies, pour poser des bases juridiques de haut niveau, transversales et non sp\u00e9cialis\u00e9es, sur lesquelles pourront ensuite entre b\u00e2tis des textes sectoriels pr\u00e9cis, avec un niveau de contraintes (tant ex ante <\/em>qu’ex post<\/em>) proportionnels \u00e0 l\u2019impact pr\u00e9visible sur les individus et la soci\u00e9t\u00e9. <\/p>\n\n\n\n

Une r\u00e9ponse juridique contraignante est la seule \u00e0 m\u00eame de donner suffisamment de substance aux discours sur l’humain, \u00e0 cr\u00e9er de la confiance… et ainsi \u00e9carter les critiques de blanchiment des technologies par l’\u00e9thique. Sans oublier d’y inclure la question de l’impact du num\u00e9rique sur l’environnement, qui va \u00e9galement constituer l’un des enjeux majeurs de notre temps.<\/p>\n\n\n

\"\"<\/div>
Yannick MENECEUR<\/span><\/a><\/div>

Magistrat et ma\u00eetre de conf\u00e9rences associ\u00e9 \u00e0 l’universit\u00e9 de Strasbourg
\nAuteur des ouvrages \u00ab\u00a0L’intelligence artificielle en proc\u00e8s<\/a>\u00a0\u00bb (Bruylant) et \u00ab\u00a0IA g\u00e9n\u00e9rative et professionnels du droit<\/a>\u00a0\u00bb (LexisNexis)<\/p>\n

Les opinions exprim\u00e9es n’engagent que son auteur.<\/em><\/p>\n<\/div><\/div>

<\/div>
<\/path><\/svg><\/span><\/a><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/div><\/div><\/div><\/div>\n\n\n

Pour aller plus loin<\/strong><\/p>\n\n\n\n

Ces d\u00e9veloppements sont approfondis dans l’ouvrage \u00ab\u00a0L’intelligence artificielle en proc\u00e8s<\/a>\u00ab\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00c0 longueur d\u2019annonces, de d\u00e9bats, de conf\u00e9rences, d\u2019articles, de reportages ou de livres, l\u2019on ne cesse de nous pr\u00e9senter l\u2019intelligence artificielle (IA) comme la technologie de rupture de la d\u00e9cennie, peut-\u00eatre m\u00eame du si\u00e8cle. Des opportunit\u00e9s sans limites semblent s\u2019ouvrir \u00e0 l\u2019humanit\u00e9 dans la mesure o\u00f9 nous serions \u00e0 m\u00eame de pr\u00e9venir les risques dans… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[93],"tags":[25,4,92],"coauthors":[17],"class_list":["post-791","post","type-post","status-publish","format-standard","hentry","category-rootia","tag-ia","tag-intelligence-artificielle","tag-lintelligence-artificielle-en-proces"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/791","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=791"}],"version-history":[{"count":4,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/791\/revisions"}],"predecessor-version":[{"id":1191,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/791\/revisions\/1191"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=791"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=791"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=791"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=791"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}