Des éthiques à l’éthique
Invité : Emmanuel Goffi, philosophe et directeur de l’Observatoire Éthique & Intelligence Artificielle, de l’Institut Sapiens et professeur en éthique de l’IA à aivancity, School for Technology, Business & Society
L’éthique est partout dans les discours sur l’IA, solution universelle à tous les maux redoutés et révélés.
Il semble communément admis dans l’opinion publique que le numérique ne règlera pas tout et que tout problème n’a pas de solution numérique… l’échec de l’application StopCovid en témoigne de manière sensible.
L’IA, en dernier avatar à la mode avalant au passage d’autres termes comme Big Data, technologies de l’information, algorithmes et même informatique, nous pose aussi cet exact problème. Présentée par l’industrie numérique, et même les pouvoirs publics, comme le vecteur de progrès et de croissance de l’humanité dans les années à venir, cette intelligence – très – artificielle a ses propres défauts.
En mécanique statistique extrêmement sophistiquée, elle fait face aux écueils que les professionnels de la donnée affrontent depuis des décennies : biais, difficultés d’interprétation, confusions entre corrélation et causalité… Certes une machine arrive aujourd’hui à discriminer avec aisance un chat d’un chien, mais elle discrimine avec la même aisance – et sans que les concepteurs ne s’en aperçoivent immédiatement – les populations, en révélant des biais sous-jacents parfois bien enfoui.
Peut-être pire : l’on tente de généraliser des succès très spécialisés pour tout traiter de la même manière. La société ne se laisse pas facilement mettre en équation, en tout cas bien moins facilement que le jeu de go.
L’éthique a surgi au milieu des années 2010 comme une évidence pour résoudre tous ces problèmes. En étant centré sur l’humain et en adoptant une posture morale adéquate, guidés par des principes prometteurs, on devrait tout pouvoir résoudre. Or de quelle éthique parle-t-on ? Celle exporté maladroitement de la biomédecine ? Celle, très contingente, venant d’une industrie édictant des règles pour elle-même ? Ou d’une véritable science de la morale, préambule à… du droit. Moins que l’éthique, au singulier, nous allons donc parler des éthiques, au pluriel.
Ecoutez l’entretien avec Emmanuel Goffi, philosophe et directeur de l’Observatoire Éthique & Intelligence Artificielle, de l’Institut Sapiens et professeur en éthique de l’IA à aivancity, School for Technology, Business & Society