{"id":1349,"date":"2020-08-25T10:00:00","date_gmt":"2020-08-25T08:00:00","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=1349"},"modified":"2020-08-30T10:51:03","modified_gmt":"2020-08-30T08:51:03","slug":"la-critique-de-la-technique-cle-du-developpement-de-lintelligence-artificielle-introduction","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2020\/08\/25\/la-critique-de-la-technique-cle-du-developpement-de-lintelligence-artificielle-introduction\/","title":{"rendered":"La critique de la technique : cl\u00e9 du d\u00e9veloppement de l’intelligence artificielle ? (Introduction)"},"content":{"rendered":"\n

Introduction<\/h2>\n\n\n\n
\"\"
Cr\u00e9dits : Pxfuel<\/a><\/figcaption><\/figure>\n\n\n\n

Si l\u2019ann\u00e9e 2018 a \u00e9t\u00e9 l\u2019ann\u00e9e de l\u2019acm\u00e9 des principes, chartes et d\u00e9clarations sur l\u2019intelligence artificielle (\u00ab IA[1]<\/a><\/sup> \u00bb), l\u2019ann\u00e9e 2020 a bien d\u00e9marr\u00e9 pour \u00eatre un tournant vers des textes plus contraignants, enfin en capacit\u00e9 de prot\u00e9ger les individus et l\u2019enti\u00e8re soci\u00e9t\u00e9 de diverses d\u00e9rives, d\u00e9j\u00e0 concr\u00e8tes. \u00c0 peu pr\u00e8s toutes les organisations internationales se sont mises en ordre de marche d\u00e8s 2019[2]<\/a><\/sup>, dans le cadre de leurs mandats respectifs, pour apporter leur contribution \u00e0 ce qui pourrait constituer dans les ann\u00e9es \u00e0 venir une architecture globale de r\u00e9glementation de \u00ab l\u2019IA \u00bb, appel\u00e9e \u00e0 concilier diff\u00e9rents imp\u00e9ratifs tels que l\u2019innovation, la croissance \u00e9conomique et la protection des droits fondamentaux. Sur un plan local, nombre d\u2019\u00c9tats ont adopt\u00e9 (ou sont sur le point d\u2019adopter) des strat\u00e9gies sur \u00ab l\u2019IA \u00bb visant \u00e0 s\u2019assurer sur cette m\u00eame sc\u00e8ne mondiale leur leadership scientifique, technologique et moral, en y int\u00e9grant parfois un volet sur la r\u00e9gulation ou la r\u00e9glementation[3]<\/a><\/sup>. La Nouvelle-Z\u00e9lande affirme ainsi \u00eatre le premier \u00c9tat \u00e0 avoir adopt\u00e9 des standards, sous forme de charte, en mati\u00e8re de r\u00e9gulation des algorithmes[4]<\/a><\/sup>. Dans ce contexte de v\u00e9ritable course pour \u00e9tablir en premier des r\u00e8gles du jeu, un consensus s\u2019exprime en ce qui concerne les potentiels bienfaits de cette \u00ab IA \u00bb pour l\u2019humanit\u00e9 et la n\u00e9cessit\u00e9 de cr\u00e9er de la confiance chez les milliards d\u2019usagers sur la plan\u00e8te pour en tirer les b\u00e9n\u00e9fices attendus.<\/p>\n\n\n\n\n\n\n\n

Toutefois, les lobbyistes de l\u2019industrie num\u00e9rique s\u2019activent, notamment \u00e0 Bruxelles, pour tenter de diff\u00e9rer ces ambitions au pr\u00e9texte de la n\u00e9cessaire relance en pleine crise \u00e9conomique suite \u00e0 la pand\u00e9mie[5]<\/a><\/sup>. Dans le m\u00eame temps, une l\u00e9g\u00e8re brise d\u2019automne commence \u00e0 se faire ressentir sur les diff\u00e9rents emplois de cette technologie ; face aux promesses d\u00e9\u00e7ues, les investisseurs se rendent bien compte que les potentialit\u00e9s de nombre d\u2019applications ont \u00e9t\u00e9 sur\u00e9valu\u00e9es[6]<\/a><\/sup>. <\/p>\n\n\n\n

Dans ce contexte, il semble tout \u00e0 fait surprenant que ce d\u00e9but de prise de conscience ne s\u2019accompagne pas de la part des r\u00e9gulateurs d\u2019un s\u00e9rieux inventaire permettant de distinguer avec pr\u00e9cision les usages fond\u00e9s de ceux relevant de la pure sp\u00e9culation ni d\u2019un examen encore plus rigoureux des implications sociales et politiques de cette technologie, autrement que sous le prisme de l\u2019innovation et du progr\u00e8s[7]<\/a><\/sup>. La charte en Nouvelle-Z\u00e9lande fait bien la promotion de la transparence des d\u00e9cisions algorithmiques, mais sans pour autant remettre en cause le principe m\u00eame de certaines applications comme l\u2019\u00e9valuation du risque de r\u00e9cidive en mati\u00e8re p\u00e9nale[8]<\/a><\/sup>. <\/p>\n\n\n\n

Ce constat s\u2019explique si l\u2019on replace cette \u00ab IA \u00bb dans une dynamique bien plus large et globale de conception du progr\u00e8s par la technique[9]<\/a><\/sup>. Dans les discours dominants, notamment relay\u00e9s dans les m\u00e9dias g\u00e9n\u00e9ralistes, il n\u2019est en effet proc\u00e9d\u00e9 \u00e0 aucune \u00e9tude approfondie des capacit\u00e9s r\u00e9elles de nouvelles technologies complexes afin de d\u00e9passer les discours commerciaux, tant la nouveaut\u00e9 est devenue synonyme de progr\u00e8s dans nos repr\u00e9sentations. Tout ce qui semble techniquement faisable para\u00eet m\u00eame devenir souhaitable[10]<\/a><\/sup>, surtout si c\u2019est rentable. La science, de plus, est trop souvent confondue avec croyance et de nombreux biais conduisent \u00e0 donner cr\u00e9dit aux arguments d\u2019autorit\u00e9 ou au bon sens plut\u00f4t qu\u2019aux preuves[11]<\/a><\/sup>. Le pouvoir de transformation de technologies, toujours plus invasives, n\u2019est trait\u00e9 que sous l\u2019angle d\u2019une sempiternelle balance entre des b\u00e9n\u00e9fices esp\u00e9r\u00e9s et des risques redout\u00e9s, \u00e9vacuant ainsi toute une s\u00e9rie de \u00ab questions z\u00e9ro \u00bb : sommes-nous s\u00fbrs avant tout que cela fonctionne comme nous l\u2019imaginons ? N\u2019existe-t-il pas d\u2019autres solutions, moins sophistiqu\u00e9es, simples et peu co\u00fbteuses, pour d\u00e9livrer le service recherch\u00e9 ? Est-ce qu\u2019il n\u2019est finalement pas cr\u00e9\u00e9 des probl\u00e8mes plus graves que ceux que l\u2019on essaye de r\u00e9soudre ? <\/p>\n\n\n\n

L\u2019on ne devrait donc pas totalement se satisfaire des postulats tenant pour acquis le b\u00e9n\u00e9fice de cette \u00ab IA \u00bb, m\u00eame si elle est \u00ab centr\u00e9e sur l\u2019humain \u00bb, et pour d\u00e9velopper une \u00ab IA \u00bb de mani\u00e8re durable, les r\u00e9gulateurs devraient pouvoir prendre un pas de recul afin de conduire, par un d\u00e9bat contradictoire et \u00e9clair\u00e9, une r\u00e9flexion sur ses exactes capacit\u00e9s. Il semblerait \u00e9galement opportun qu\u2019ils puissent s\u2019interroger sur les causes profondes de cette situation, qui r\u00e9sulte essentiellement d\u2019une conception mercantile de la science.<\/p>\n\n\n\n

Mais il faut dire que le mythe de la neutralit\u00e9 des technologies, et donc de \u00ab l\u2019IA \u00bb, est devenu extr\u00eamement tenace (premi\u00e8re partie) et que des d\u00e9cennies de gouvernance de la critique de la technique sont parvenues, assez substantiellement, \u00e0 en r\u00e9duire la port\u00e9e et les effets comme dans bien d\u2019autres domaines (deuxi\u00e8me partie). Ce qui s\u2019est d\u00e9j\u00e0 jou\u00e9 avec la critique de l\u2019informatique dans les ann\u00e9es 1980 et de l\u2019internet dans les ann\u00e9es 2000 est train de se rejouer avec \u00ab l\u2019IA \u00bb, avec la m\u00eame tonalit\u00e9 d\u2019arguments, et il est \u00e0 craindre que les atteintes aux droits de l\u2019homme, \u00e0 la d\u00e9mocratie et \u00e0 l\u2019\u00c9tat de droit finissent par se normaliser comme tribu d\u2019un pr\u00e9tendu progr\u00e8s (troisi\u00e8me partie). Les efforts de r\u00e9glementation de \u00ab l\u2019IA \u00bb risquent fort de se trouver fortement d\u00e9vitalis\u00e9s s\u2019il est tenu pour acquis que seuls des d\u00e9rives d\u2019usages seront \u00e0 encadrer, sans traiter les questions pr\u00e9alables de la qualit\u00e9 de la science et de la forme de soci\u00e9t\u00e9 en train de se constituer avec l\u2019emploi massif des outils num\u00e9riques (quatri\u00e8me partie). <\/p>\n\n\n\n

\n\n\n\n

Premi\u00e8re partie : Le mythe de la neutralit\u00e9 de la technique<\/a><\/p>\n\n\n\n

\n\n\n\n

[1]<\/a><\/sup> L\u2019acronyme d\u2019intelligence artificielle sera pr\u00e9sent\u00e9 entre guillemets par commodit\u00e9 \u00e9ditoriale. L\u2019ensemble des technologies recouvertes par ce terme ne constituent naturellement pas une personnalit\u00e9 autonome et, afin de se garder de tout anthropomorphisme, il a \u00e9t\u00e9 choisi de r\u00e9sumer les termes plus appropri\u00e9s \u00ab d\u2019outils d\u2019intelligence artificielle \u00bb ou \u00ab d\u2019applications d\u2019intelligence artificielle \u00bb par le seul terme \u00ab d\u2019IA \u00bb entre guillemets. <\/p>\n\n\n\n

[2]<\/a><\/sup> Groupe de travail de haut niveau sur la coop\u00e9ration num\u00e9rique<\/a>, groupe international d\u2019experts sur l\u2019intelligence artificielle de l\u2019UNESCO<\/a>, r\u00e9seau d\u2019expert de l\u2019OCDE sur l\u2019intelligence artificielle<\/a>, groupe d\u2019experts de haut niveau sur l\u2019intelligence artificielle de la Commission europ\u00e9enne<\/a>, Comit\u00e9 ad hoc sur l\u2019intelligence artificielle du Conseil de l\u2019Europe<\/a><\/p>\n\n\n\n

[3]<\/a><\/sup> Pour une revue des initiatives sur l\u2019IA, incluant ces strat\u00e9gies, voir le site internet du Conseil de l\u2019Europe d\u00e9di\u00e9 \u00e0 l\u2019intellligence artificielle : https:\/\/www.coe.int\/en\/web\/artificial-intelligence\/national-initiatives<\/a> – Consult\u00e9 le 14 aout 2020<\/p>\n\n\n\n

[4]<\/a><\/sup> C. Graham-McLay, New Zealand claims world first in setting standards for government use of algorithms, The Guardian, 27 juillet 2020<\/a><\/p>\n\n\n\n

[5]<\/a><\/sup> J. Delcker, AI: Decoded: Cold winds are blowing around regulation, Politico, 5 juin 2020, accessible sur : https:\/\/www.politico.eu\/newsletter\/ai-decoded\/politico-ai-decoded-cold-winds-are-blowing-around-regulation-the-ethics-of-contact-tracing-doubts-over-ai-to-treat-covid-19\/<\/a> – Consult\u00e9 le 14 ao\u00fbt 2020<\/p>\n\n\n\n

[6]<\/a><\/sup> Voir le dossier Artificial intelligence and its limits dans la revue The Economist du 11 juin 2020, notamment An understanding of AI\u2019s limitations is starting to sink in, The Economist, 11 juin 2020<\/a> et C. Mims, AI Isn\u2019t Magical and Won\u2019t Help You Reopen Your Business, The Washington Post, 30 mai 2020<\/a><\/p>\n\n\n\n

[7]<\/a><\/sup> Voir les pr\u00e9ambules et les introductions de documents produits par exemple par la Commission europ\u00e9enne, l\u2019OCDE, l\u2019UNESCO ou le Conseil de l\u2019Europe, d\u00e9velopp\u00e9s en #4.1. L\u2019\u00e9volution de la notion de progr\u00e8s et de son remplacement par le concept d\u2019innovation ne sera pas discut\u00e9 ici, bien qu\u2019elle caract\u00e9rise \u00e9galement la transition, \u00e0 notre \u00e9poque, d\u2019un progr\u00e8s social vers un progr\u00e8s technique.<\/p>\n\n\n\n

[8]<\/a><\/sup> V\u00e9ritable r\u00e9surgence d\u2019une conception d\u00e9terministe de la mati\u00e8re p\u00e9nale, les constats convergent pour en r\u00e9v\u00e9ler les biais et les dangers. Voir Y. Meneceur, L\u2019intelligence artificielle en proc\u00e8s, Bruylant, 2020, p. 99 et s. ou encore r\u00e9cemment : T. Burgess, Police built an AI to predict violent crime. It was seriously flawed, Wired, 6 ao\u00fbt 2020<\/a><\/p>\n\n\n\n

[9]<\/a><\/sup> Le concept de \u00ab technique \u00bb renvoie tout d\u2019abord \u00e0 un ensemble large de moyens mis en \u0153uvre par les humains pour satisfaire leurs besoins. La sophistication croissante de ces moyens et leur omnipr\u00e9sence dans notre vie quotidienne conduit toutefois \u00e0 devoir consid\u00e9rer cette technique non plus comme un simple outillage, mais comme un syst\u00e8me bien plus complexe, concr\u00e9tisant \u00e9galement les rapports de force, sociaux et politiques, de notre soci\u00e9t\u00e9. C\u2019est ainsi que sera entendu ce terme dans les pr\u00e9sents d\u00e9veloppements. <\/p>\n\n\n\n

[10]<\/a><\/sup> D. Gabor, prix Nobel de physique en 1971, avait d\u00e9clar\u00e9 \u00ab ce qui peut \u00eatre fait doit l\u2019\u00eatre, in\u00e9luctablement \u00bb, caract\u00e9risant que tout ce qui \u00e9tait techniquement faisable par l\u2019humain serait r\u00e9alis\u00e9, m\u00eame contre la morale ou l\u2019\u00e9thique.<\/p>\n\n\n\n

[11]<\/a><\/sup> E. Klein, Le go\u00fbt du vrai, Coll. Tracts, Gallimard, 2020, pp.4-5<\/p>\n","protected":false},"excerpt":{"rendered":"

Introduction Si l\u2019ann\u00e9e 2018 a \u00e9t\u00e9 l\u2019ann\u00e9e de l\u2019acm\u00e9 des principes, chartes et d\u00e9clarations sur l\u2019intelligence artificielle (\u00ab IA[1] \u00bb), l\u2019ann\u00e9e 2020 a bien d\u00e9marr\u00e9 pour \u00eatre un tournant vers des textes plus contraignants, enfin en capacit\u00e9 de prot\u00e9ger les individus et l\u2019enti\u00e8re soci\u00e9t\u00e9 de diverses d\u00e9rives, d\u00e9j\u00e0 concr\u00e8tes. \u00c0 peu pr\u00e8s toutes les organisations internationales se… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[15],"tags":[144,125,25,4,72,127],"coauthors":[17],"class_list":["post-1349","post","type-post","status-publish","format-standard","hentry","category-billetsetudes","tag-critique-de-la-technique","tag-ethiques","tag-ia","tag-intelligence-artificielle","tag-reglementation","tag-regulation"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/1349","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=1349"}],"version-history":[{"count":5,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/1349\/revisions"}],"predecessor-version":[{"id":1391,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/1349\/revisions\/1391"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=1349"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=1349"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=1349"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=1349"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}