Overblog Suivre ce blog
Editer l'article Administration Créer mon blog
Vivement l'Ecole!

Isabelle Falque-Pierrotin «Nos choix de société ne doivent pas être dictés par les algorithmes»...j

31 Mars 2017 , Rédigé par Liberation Publié dans #Politique, #Sociologie

Résultat de recherche d'images pour "algorithme"

La présidente de la Commission nationale de l’informatique et des libertés organise un grand débat public sur les questions éthiques soulevées par les algorithmes, qui se sont immiscés dans presque tous les aspects de notre quotidien : santé, éducation, justice…

En 1974, le Monde provoquait l’émoi dans l’opinion publique en révélant l’existence de «Safari», un projet gouvernemental qui visait à interconnecter l’ensemble des fichiers nominatifs de l’administration française. Quatre ans plus tard naissait la Commission nationale de l’informatique et des libertés (Cnil), chargée de veiller à la protection des données personnelles. En près de quarante ans d’exercice, le périmètre de l’institution n’a cessé de s’étendre, à mesure que le numérique pénétrait tous les domaines d’activité et que l’innovation s’accélérait. Le 23 janvier, la Cnil a ainsi amorcé une discussion autour des questions éthiques soulevées par les algorithmes, destinée à se poursuivre jusqu’à l’automne. Pour sa présidente, Isabelle Falque-Pierrotin, il s’agit de permettre à un large public de s’approprier des enjeux qui font désormais partie de notre quotidien.

Pourquoi soumettre les algorithmes à la question éthique ?

La loi pour une République numérique a chargé la Cnil d’une mission de réflexion sur les enjeux éthiques liés au numérique. Nous tenions à cette mission : ce texte consacre explicitement une dimension éthique de notre activité qui existe, en réalité, depuis la création de la commission. Mais la Cnil ne résume pas à elle seule le sujet. Les questions éthiques sont éminemment complexes, elles intéressent par définition tous nos concitoyens, et touchent tous les aspects de la vie numérique. Nous avons pensé que pour remplir cette mission, la bonne réponse était de lancer une dynamique, un processus de débat public, dans lequel nous jouerions un rôle de facilitateur et de «synthétiseur».

Le thème des algorithmes est venu assez naturellement, car il est présent dans beaucoup de domaines de la vie quotidienne : les moteurs de recherche, la recommandation, mais aussi la médecine prédictive, la justice avec l’analyse des actes de récidive… C’est une problématique identifiée par le public, en même temps qu’un objet de craintes : en filigrane, il y a la question du libre arbitre et de la capacité de maîtrise. Par ailleurs, le secrétariat d’Etat au numérique a lancé une stratégie nationale en matière d’intelligence artificielle. Tout cela nous semblait cohérent.

Comment avez-vous organisé ce débat ?

Nous avons contacté plusieurs organisations pour leur proposer de «co-construire» ce débat avec nous (1). L’idée est de montrer qu’au-delà de la diversité des usages et des problématiques sectorielles, il y a des questions éthiques communes. A l’automne, à l’issue de ce processus, nous restituerons les éléments du débat public (2), et peut-être des grandes lignes de recommandations éthiques - à ce stade, il est encore un peu tôt pour le savoir.

Quel bilan avez-vous tiré de la première journée de débats ?

Elle a vu émerger beaucoup d’interrogations sur la manière dont sont construits les algorithmes, sur leur fonctionnement, ainsi que sur le risque de reproduction des biais, des discriminations, par exemple dans le cas des algorithmes de prévision des récidives. La question de l’explicabilité a aussi été abordée. La transparence des algorithmes, ce n’est pas simple à honorer : si on vous dit ce qu’il y a à l’intérieur d’un moteur, cela ne vous dit pas pour autant comment il fonctionne, si vous-même n’êtes pas compétent en matière de mécanique. Expliquer un algorithme, c’est expliquer son objectif, les paramètres qu’il utilise pour le remplir, la hiérarchie de ces différents paramètres. Si on utilise un algorithme pour gérer les patients au sein d’un hôpital, quel est le principal critère ? Est-ce la rotation des lits la plus rapide possible ? On voit bien qu’il y a une demande très forte d’intelligibilité de la logique des algorithmes.

(...)

Amaelle Guiton

L'entretien complet est à retrouver en cliquant ci-dessous

Lire aussi:

Partager cet article

Repost 0