{"id":793,"date":"2020-03-11T17:39:07","date_gmt":"2020-03-11T16:39:07","guid":{"rendered":"https:\/\/lestempselectriques.net\/?p=793"},"modified":"2020-05-26T13:51:04","modified_gmt":"2020-05-26T11:51:04","slug":"sur-quelles-bases-construire-une-regulation-proportionnee-de-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/lestempselectriques.net\/index.php\/2020\/03\/11\/sur-quelles-bases-construire-une-regulation-proportionnee-de-lintelligence-artificielle\/","title":{"rendered":"Sur quelles bases construire une r\u00e9gulation proportionn\u00e9e de l\u2019intelligence artificielle ?"},"content":{"rendered":"\n
\"\"
Bibliographie de l’ouvrage \u00ab\u00a0L’intelligence artificielle en proc\u00e8s\u00a0\u00bb<\/figcaption><\/figure>\n\n\n\n

Nous sommes loin d\u2019en avoir fini avec la d\u00e9finition de ce que serait exactement l\u2019intelligence artificielle (IA). Un rapport technique du centre commun de recherche de la Commission europ\u00e9enne paru en f\u00e9vrier 2020 a proc\u00e9d\u00e9 \u00e0 une analyse approfondie de cette question (B. Delipetrev, G. De Prato, F. Mart\u00ednez-Plumed, E. G\u00f3mez,  M. L\u00f3pez Cobo, S. Samoili, AI Watch – Defining Artificial Intelligence: towards an operational definition and taxonomy of artificial intelligence, Joint Research Centre of the European Commission, 27 f\u00e9vrier 2020<\/a>). Les chercheurs de ce centre ont tent\u00e9 de classifier cette technologie en proc\u00e9dant \u00e0 une revue des d\u00e9finitions existantes dans des rapports institutionnels, des publications scientifiques et des \u00e9tudes venant du secteur priv\u00e9 de 1955 \u00e0 nos jours. L\u2019\u00e9quipe de recherche en a conclu \u00e0 la d\u00e9couverte de 4 caract\u00e9ristiques communes : a) la perception d\u2019un environnement et de la complexit\u00e9 du monde, b) le traitement de l\u2019information, en collectant et en interpr\u00e9tant des signaux d\u2019entr\u00e9e, c) la prise de d\u00e9cision, incluant le raisonnement, l\u2019apprentissage et la r\u00e9alisation d\u2019actions et d) l\u2019atteinte de buts pr\u00e9d\u00e9finis.<\/p>\n\n\n\n\n\n\n\n

Le r\u00e9seau d\u2019expert de l\u2019OCDE sur l\u2019IA (OECD Network of Experts on  AI \u2013 ONE AI) en a fait \u00e9galement l\u2019une de ses th\u00e9matiques de travail dans le cadre de l\u2019op\u00e9rationnalisation de ses principes en proposant dresser une classification des \u00ab syst\u00e8mes d\u2019intelligence artificielle \u00bb, entendus comme un \u00ab syst\u00e8me automatis\u00e9 qui, pour un ensemble donn\u00e9 d’objectifs d\u00e9finis par l’homme, est en mesure d\u2019\u00e9tablir des pr\u00e9visions, de formuler des recommandations, ou de prendre des d\u00e9cisions influant sur des environnements r\u00e9els ou virtuels \u00bb, lesquels \u00ab sont con\u00e7us pour fonctionner \u00e0 des degr\u00e9s d\u2019autonomie divers \u00bb. Le Conseil de l\u2019Europe d\u00e9finit pour sa part cette technologie comme un \u00ab ensemble de sciences, th\u00e9ories et techniques dont le but est de reproduire par une machine des capacit\u00e9s cognitives d\u2019un \u00eatre humain \u00bb.<\/p>\n\n\n\n

M\u00eame si des points de convergence se dessinent, les multiples facettes de l\u2019IA (et de ses applications) conduisent donc \u00e0 de grandes difficult\u00e9s pour \u00e9tablir une d\u00e9finition et une classification commun\u00e9ment partag\u00e9es. Que l\u2019on adopte un champ large ou restreint pour d\u00e9finir l\u2019IA, chacun semble y mettre une part de sa subjectivit\u00e9 et, surtout, se projette dans une perspective propre \u00e0 son champ d\u2019expertise. Les juristes se retrouvent souvent fort d\u00e9munis face \u00e0 des d\u00e9bats technologiques et ont bien du mal \u00e0 circonscrire dans leur propre champ \u00e9tude cet objet si particulier, dans l\u2019objectif d\u2019en r\u00e9guler les usages \u00e0 partir de concepts technologiquement neutres. <\/p>\n\n\n\n

Une d\u00e9finition juridique de l\u2019IA <\/strong><\/h2>\n\n\n\n

Pour b\u00e2tir une d\u00e9finition juridique de l\u2019IA, commen\u00e7ons tout d\u2019abord par questionner l\u2019IA au regard de ses finalit\u00e9s dans un sens tr\u00e8s large. Pour reprendre les \u00e9l\u00e9ments communs de d\u00e9finition pr\u00e9c\u00e9demment \u00e9voqu\u00e9s, l\u2019IA sert tout d\u2019abord \u00e0 automatiser des t\u00e2ches. Notons que toute forme de programmation informatique r\u00e9pond \u00e0 cet usage et il faudrait parvenir \u00e0 isoler la singularit\u00e9 de l\u2019IA par rapport \u00e0 d\u2019autres programmes informatiques. En premi\u00e8re analyse, l\u2019IA est donc souvent caract\u00e9ris\u00e9e par un comportement particulier : sa capacit\u00e9 \u00e0 interagir avec son environnement et \u00e0 traiter des signaux d\u2019entr\u00e9e pour prendre des d\u00e9cisions dans un but pr\u00e9d\u00e9fini.<\/p>\n\n\n\n

Or, l\u00e0 encore, tous les programmes informatiques traitent des signaux d\u2019entr\u00e9e dans un but pr\u00e9d\u00e9fini (qu\u2019il soit calculatoire, d\u2019adaptation, de modification, de classification, d\u2019enregistrement, de consultation, etc). L\u2019apparence de prise de d\u00e9cision d\u2019une IA pourrait para\u00eetre la singulariser mais, l\u00e0 encore, tout programme proc\u00e8de \u00e0 des choix d\u2019une complexit\u00e9 variable. Et m\u00eame si les derniers d\u00e9veloppements de l\u2019apprentissage automatique (machine learning<\/em>) se r\u00e9v\u00e8lent parmi les complexes, l\u2019on doit admettre dans le m\u00eame temps que la complexit\u00e9 ne cr\u00e9e pas de l\u2019intelligence (M. Amblard, Id\u00e9e re\u00e7ue : Les algorithmes prennent-ils des d\u00e9cisions ?, Interstices, 29 mars 2018<\/a>).<\/p>\n\n\n\n

De plus, il semble insuffisant de ne consid\u00e9rer que la composante m\u00e9canique sans consid\u00e9rer les flux qui l\u2019animent. Contrairement \u00e0 un carburant se limitant \u00e0 irriguer un moteur thermique de voiture, les donn\u00e9es ont un r\u00f4le de plus en plus structurant sur leur moteur algorithmique, notamment avec l\u2019emploi d\u2019apprentissage automatique. L\u2019IA devrait donc \u00eatre consid\u00e9r\u00e9e en ce qu\u2019elle constitue un syst\u00e8me, et tr\u00e8s pr\u00e9cis\u00e9ment un syst\u00e8me algorithmique<\/strong>, compos\u00e9e \u00e0 la fois de son m\u00e9canisme et des flux de donn\u00e9es alimentant ce m\u00e9canisme. Syst\u00e8mes d\u2019ailleurs qui ne cr\u00e9ent pas tous les m\u00eames risques au regard a) du domaine de leur emploi (certains \u00e9tant plus \u00e0 risques, comme la justice ou la sant\u00e9) et de b) leur cas d\u2019usage pr\u00e9cis (un robot conversationnel ne cr\u00e9\u00e9 pas les m\u00eames risques qu\u2019un outil d\u2019aide \u00e0 la d\u00e9cision – Voir Livre blanc sur l\u2019intelligence artificielle de la Commission europ\u00e9enne, 19 f\u00e9vrier 2020, p.20<\/a>). En ce sens, deux axes pourraient \u00eatre consid\u00e9r\u00e9s pour classifier les syst\u00e8mes algorithmiques.<\/p>\n\n\n\n

Un premier axe \u00e0 consid\u00e9rer par une r\u00e9gulation : explicabilit\u00e9, d\u00e9terminisme et autonomie d\u2019un syst\u00e8me algorithmique<\/strong><\/h2>\n\n\n\n

Il convient, \u00e0 nouveau, de constater que le terme IA a d\u00e9sign\u00e9 des r\u00e9alit\u00e9s technologiques qui ont \u00e9volu\u00e9 en fonction des m\u00e9thodes \u00e0 la mode : approche descriptive et symbolique dans les ann\u00e9es 1970-80, en \u00e9crivant des r\u00e8gles logiques signifiantes, et connexionniste aujourd\u2019hui, en laissant la machine \u00ab d\u00e9couvrir \u00bb les corr\u00e9lations entre des ph\u00e9nom\u00e8nes traduits en donn\u00e9es (c’est en cela que l\u2019on dit qu\u2019elle \u00ab apprend \u00bb). Ces deux formes d\u2019automatisation ne pr\u00e9sentent toutefois pas les m\u00eames caract\u00e9ristiques d\u2019explicabilit\u00e9<\/strong> de leur fonctionnement sous-jacent : celle-ci serait plut\u00f4t meilleure pour les approches descriptives et plus en retrait pour les approches connexionnistes. <\/p>\n\n\n\n

Si l\u2019on questionne ensuite l\u2019IA au regard du produit de son fonctionnement, l\u2019on peut \u00e9galement cat\u00e9goriser ses r\u00e9sultats au moins en deux formes : la premi\u00e8re est d\u00e9terministe<\/strong> et la seconde non d\u00e9terministe<\/strong>. La premi\u00e8re forme est assez simple \u00e0 comprendre et assez rassurante. A chaque entr\u00e9e sera syst\u00e9matiquement corr\u00e9l\u00e9e la m\u00eame sortie. L\u2019on peut ainsi esp\u00e9rer que pour des besoins simplement calculatoires, la machine puisse \u00eatre dans la capacit\u00e9 de produire toujours le m\u00eame (et le bon) r\u00e9sultat. La seconde est plus complexe \u00e0 appr\u00e9hender. A chaque m\u00eame entr\u00e9e, le r\u00e9sultat en sortie sera susceptible de varier en raison de l\u2019\u00e9volution d\u2019autres variables employ\u00e9es par le syst\u00e8me : il est en ainsi par exemple des syst\u00e8mes de recommandation sur des sites marchands dont le r\u00e9sultat peut varier non seulement en fonction de vos propres interactions, mais \u00e9galement des interactions des autres utilisateurs appartenant au m\u00eame groupe de profil statistique. <\/p>\n\n\n\n

Enfin se pose la question de l\u2019autonomie<\/strong> du syst\u00e8me, soit qu\u2019il soit en capacit\u00e9, une fois programm\u00e9 ou entra\u00een\u00e9, de faire interagir un op\u00e9rateur humain pour son r\u00e9sultat final ou, au contraire, de s\u2019en dispenser pour s\u2019adapter, de mani\u00e8re autonome, \u00e0 son environnement. Il va sans dire qu\u2019en l\u2019absence d\u2019humain dans la boucle, se pose la question de la correction de d\u00e9rives de syst\u00e8mes et des facteurs d\u2019alerte conduisant \u00e0 une intervention humaine et d\u2019une attention encore plus accrue sur leur fonctionnement.<\/p>\n\n\n\n

Nous consid\u00e9rerons donc que l\u2019ensemble de ces trois caract\u00e9ristiques constituent ensemble un indicateur de complexit\u00e9 du syst\u00e8me algorithmique<\/strong> devant conduire \u00e0 consid\u00e9rer des instruments juridiques diff\u00e9rents en fonction du risque encouru. Il manque toutefois une dimension \u00e0 corr\u00e9ler \u00e0 cet indicateur : celle de l\u2019intensit\u00e9 de l\u2019impact sur les individus et la soci\u00e9t\u00e9.<\/p>\n\n\n\n

Un second axe \u00e0 consid\u00e9rer par une r\u00e9gulation : l\u2019impact probable du syst\u00e8me algorithmique<\/strong><\/h2>\n\n\n\n

Tous les syst\u00e8mes algorithmiques ne justifient bien entendu pas les m\u00eames contraintes. Il pourrait donc \u00eatre d\u00e9velopp\u00e9 le concept \u00ab d\u2019impact significatif<\/strong> \u00bb sur les individus ou la soci\u00e9t\u00e9, afin d\u2019introduire une forme de proportionnalit\u00e9 dans l\u2019intensit\u00e9 des mesures contraignantes au regard, notamment, des risques de violation des droits fondamentaux. <\/p>\n\n\n\n

Une \u00e9chelle d\u2019impact pourrait \u00eatre construite, \u00e0 l\u2019image de celle propos\u00e9e par la Commission d\u2019\u00e9thique des donn\u00e9es allemande (Datenethikkommission<\/em><\/a>), fond\u00e9e sur la combinaison de la probabilit\u00e9 de la survenue d\u2019un dommage et la gravit\u00e9 de celui-ci. La mesure de cet impact pourrait r\u00e9sulter d\u2019un cadre m\u00e9thodologique pr\u00e9cis tel qu\u2019une \u00e9tude d\u2019impact pr\u00e9alable sur les droits de l\u2019homme (voir en ce sens la Recommandation de la Commissaire aux droits de l\u2019homme du Conseil de l\u2019Europe, D\u00e9coder l\u2019IA : 10 mesures pour prot\u00e9ger les droits de l\u2019homme, p.7<\/a>).<\/p>\n\n\n\n

Des modalit\u00e9s de r\u00e9gulation proportionnelles \u00e0 la combinaison entre complexit\u00e9 et impact probable <\/strong><\/h2>\n\n\n\n

Afin de distinguer les syst\u00e8mes algorithmiques sur lesquels devraient reposer les contraintes les plus fortes, il pourrait \u00eatre r\u00e9aliser une combinaison entre complexit\u00e9 et impact probable sur les individus ou la soci\u00e9t\u00e9. Ainsi les syst\u00e8mes cumulant faible explicabilit\u00e9, non d\u00e9terminisme et large autonomie devraient faire l\u2019objet de contraintes r\u00e8glementaires importantes (voire une prohibition) si leur impact probable est tr\u00e8s \u00e9lev\u00e9. Des mesures ex ante <\/em>(mise en service conditionn\u00e9e \u00e0 une v\u00e9rification ou une certification pr\u00e9alable) pourraient \u00eatre \u00e9dict\u00e9es et accompagn\u00e9es des mesures ex post<\/em> sp\u00e9cifique (revue r\u00e9guli\u00e8re de fonctionnement par un tiers accr\u00e9dit\u00e9).<\/p>\n\n\n\n

\"\"
Extrait de Y. Meneceur, L’intelligence artificielle en proc\u00e8s, Bruylant, mai 2020, p.363.<\/figcaption><\/figure>\n\n\n\n

Les syst\u00e8mes avec un faible impact probable pourraient ne faire l\u2019objet que de contr\u00f4les facultatifs, laiss\u00e9s \u00e0 la discr\u00e9tion de leurs concepteurs. Les recours devant les tribunaux resteraient ouverts en toute hypoth\u00e8se en cas de dommage, \u00e9tant pr\u00e9cis\u00e9 que la nature des mesures prises par les concepteurs pour pr\u00e9venir les risques seraient de nature \u00e0 mod\u00e9rer (ou aggraver) ensuite leur responsabilit\u00e9. L’on retrouve l\u00e0 les m\u00e9canismes classiques connus dans la plupart des syst\u00e8mes juridiques, dont l’adaptation aux sp\u00e9cificit\u00e9s de proc\u00e9dures de conception de syst\u00e8mes algorithmiques est envisag\u00e9e par la Commission europ\u00e9enne (dans le cadre de la responsabilit\u00e9 du fait des produits d\u00e9fectueux notamment).<\/p>\n\n\n

\"\"<\/div>
Yannick MENECEUR<\/span><\/a><\/div>

Magistrat et ma\u00eetre de conf\u00e9rences associ\u00e9 \u00e0 l’universit\u00e9 de Strasbourg
\nAuteur des ouvrages \u00ab\u00a0L’intelligence artificielle en proc\u00e8s<\/a>\u00a0\u00bb (Bruylant) et \u00ab\u00a0IA g\u00e9n\u00e9rative et professionnels du droit<\/a>\u00a0\u00bb (LexisNexis)<\/p>\n

Les opinions exprim\u00e9es n’engagent que son auteur.<\/em><\/p>\n<\/div><\/div>

<\/div>
<\/path><\/svg><\/span><\/a><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/path><\/svg><\/span><\/a><\/div><\/div><\/div><\/div>\n\n\n
\n\n\n\n

Pour aller plus loin<\/strong><\/p>\n\n\n\n

Ces d\u00e9veloppements sont approfondis dans l’ouvrage \u00ab\u00a0L’intelligence artificielle en proc\u00e8s<\/a>\u00ab\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

Nous sommes loin d\u2019en avoir fini avec la d\u00e9finition de ce que serait exactement l\u2019intelligence artificielle (IA). Un rapport technique du centre commun de recherche de la Commission europ\u00e9enne paru en f\u00e9vrier 2020 a proc\u00e9d\u00e9 \u00e0 une analyse approfondie de cette question (B. Delipetrev, G. De Prato, F. Mart\u00ednez-Plumed, E. G\u00f3mez,  M. L\u00f3pez Cobo, S. Samoili,… Plus…<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[93],"tags":[25,4,92],"coauthors":[17],"class_list":["post-793","post","type-post","status-publish","format-standard","hentry","category-rootia","tag-ia","tag-intelligence-artificielle","tag-lintelligence-artificielle-en-proces"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/793","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/comments?post=793"}],"version-history":[{"count":6,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/793\/revisions"}],"predecessor-version":[{"id":1212,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/posts\/793\/revisions\/1212"}],"wp:attachment":[{"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/media?parent=793"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/categories?post=793"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/tags?post=793"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/lestempselectriques.net\/index.php\/wp-json\/wp\/v2\/coauthors?post=793"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}