Reconnaissance faciale : l’impératif du débat démocratique

Publié le 4 février 2022 par Virginie Fauvel / Localtis

Plusieurs acteurs privés et publics se sont exprimés sur l’épineux sujet de la reconnaissance faciale dans l’espace public, lors d’un débat organisé mardi 1er février par la Mission Ecoter France et Territoires numériques. Soulevant des enjeux éthiques, de sécurité intérieure, cette technologie – jusqu’à aujourd’hui interdite par principe, autorisée par exception – touche aux libertés individuelles et collectives et nécessite “l’ouverture d’un débat au plus haut niveau”.

Écartement des yeux, distance avec le nez, commissure des lèvres… Reposant sur un ensemble de critères, la reconnaissance faciale, couplée à l’analyse d’images avec l’intelligence artificielle, permet même de reconnaître les émotions. Est-ce pour autant la technologie de biométrie “la plus naturelle”, comme l’affirme l’un des intervenants de la visioconférence organisée par la Mission Ecoter mardi 1er février 2022 ? Vaste débat que celui de “l’usage de la reconnaissance faciale dans l’espace public”. Propre à révolutionner notre quotidien, la reconnaissance faciale connaît déjà des usages nombreux et variés, dopés par un marché en expansion de 20% par an ces trois dernières années, dominé par les entreprises chinoises, japonaises et américaines. Dans le domaine commercial, on se sert déjà de son visage pour déverrouiller son smartphone et, demain peut-être, pour payer en ligne. Elle permet déjà, dans certains aéroports, de passer le contrôle d’identité. Certains veulent même l’utiliser rapidement pour identifier des individus en temps réel dans une foule et lui prête la capacité de “déjouer ainsi par avance des attentats terroristes”. Y recourir ou pas. La question se pose avec d’autant plus d’acuité que des enjeux “majeurs de sécurité intérieure” émergent, avec l’organisation prochaine de la Coupe du monde de rugby et des Jeux olympiques et paralympiques.

L’objectif de la visioconférence du 1er février était donc de donner la parole aux différents acteurs publics et privés sur cet épineux sujet, ses enjeux et usages. Pour Anthony Borre, premier adjoint au maire de Nice, la ville qui recense pas moins de 3.800 caméras, pas l’ombre d’un doute : à la question de savoir si cette technologie est efficace, la réponse est oui. “Même si les caméras seules ne peuvent pas tout”, tempère-t-il. Il cite leur utilité en matière de lutte contre les dépôts sauvages, les incivilités, la lutte contre la délinquance. C’est surtout de l’expérimentation menée en 2019 lors du carnaval (voir notre article du 19 février), dans la fan-zone, dont il parlera. Une expérimentation menée avec “1.000 personnes au courant et consentantes” afin de déterminer si ces technologies étaient efficaces. Il évoque le fait que le logiciel utilisé a permis de distinguer le jumeau dont la photo lui avait été soumise de l’autre. “Il a permis également de faire le lien entre la photo d’un homme présent lors du carnaval et sa photo 20 ans plus tôt”, se félicite l’élu niçois. Autant d’éléments qui ont permis à la ville de Nice de transmettre un rapport au gouvernement concluant à l’efficacité de ces technologies.

“Les faux positifs”

À propos de cette expérimentation, la réaction de Jacques Priol, président de l’observatoire Data Publica (voir notre article du 28 janvier 2022) (1), n’a pas été tendre. L’auteur de “Le big data des territoires” et de “Ne laissez pas Google gérer nos vies” a d’abord tenu à rappeler comment fonctionne concrètement la reconnaissance faciale. “On accorde à la reconnaissance faciale des intentions qui sont louables et difficilement critiquables mais le problème, c’est de rentrer dans le cœur des algorithmes, dans le cœur de la boîte de l’intelligence artificielle”, insiste Jacques Priol. “La reconnaissance faciale, ce n’est pas la capacité d’un smartphone à me reconnaître alors que j’ai déjà donné au smartphone l’ensemble des informations biométriques qui permettent d’identifier mon visage. Ce processus c’est de l’authentification !”, commence-t-il. Selon lui, ce dont on parle aujourd’hui – “généraliser la reconnaissance faciale dans l’espace public” -, “c’est très différent”. “On donne à un algorithme des images de visages que l’on va rechercher. Et on va lui demander de reconnaître ces visages parmi la foule.” Et, souligne Jacques Priol, “contrairement à ce qu’on laisse entendre de ce qui a été fait sur Nice, quand cette expérimentation se fait sur l’ensemble d’une population, l’algorithme fait des erreurs”, souligne-t-il. Avant d’ajouter : “Il faut, d’une part, que l’algorithme fasse son apprentissage et, d’autre part, il va falloir le paramétrer.” “Il y a, poursuit-il, deux manières de le faire plus ou moins dures : la première consiste à ce qu’il fasse le moins d’erreurs possibles et il risque de rater sa cible… La deuxième, de manière à être sûrs d’attraper celui ou celle qu’on recherche MAIS on va en attraper beaucoup d’autres… C’est ce qu’on l’on va appeler ‘les faux positifs’ : les gens arrêtés par erreur.” Se basant sur des études “massives” qui ont déjà été menées, Jacques Priol donne ce chiffre : “On a entre 40 et 70% de succès avec la reconnaissance faciale dans l’espace public.”

“Une expérimentation qui a 100% de résultats positifs, c’est une mauvaise expérimentation !”

“À Nice, distingue-t-il, ce n’est pas cela qu’on a fait : on a cherché à reconnaître un individu dont on avait au préalable renseigné tous les critères.” Il rappelle que l’entreprise qui a participé à cette expérimentation ainsi que la ville de Nice ont fait valoir “100% de résultats positifs” au terme de cette expérimentation. “Pardon mais en termes de méthodologie, une expérimentation qui a 100% de résultats positifs, cela n’existe pas, c’est une mauvaise expérimentation !”, s’insurge Jacques Priol. Pour être efficace dans l’espace public, “la reconnaissance faciale suppose la surveillance de tous et le contrôle de tous”, insiste Jacques Priol qui souligne qu’il n’est “pas contre” mais que “cela doit être impérativement débattu”. Il ajoute que la ville de San Francisco, où sont nées ces technologies, a finalement voté l’interdiction du déploiement de la reconnaissance faciale dans l’espace public au motif que les risques de discriminations et d’erreurs étaient trop grands et les droits élémentaires humains bafoués.

Anthony Borre, de son côté, compare ce débat à celui de la vidéoprotection et se souvient des réticences générales avant de voir aujourd’hui “tout le monde consentir”. Ce à quoi Jacques Priol répond que c’est plutôt le même débat qu’avec les véhicules autonomes : “On nous promettait le déploiement des voitures sans conducteur et c’était une erreur.”

“Le principe en Europe, c’est NON”

Sur le plan juridique, Yann-Maël Larher, avocat en droit du numérique, rappelle que deux grands textes régissent ce sujet : le règlement général sur la protection des données (RGPD) adopté en 2016 et une directive Police Justice adoptée le 27 avril 2016. “Pourquoi on parle d’expérimentation ?”, rappelle le juriste. “C’est parce qu’aujourd’hui, le principe en Europe c’est NON, sauf si les personnes que l’on filme donnent leur autorisation, car les données biométriques que l’on exploite sont considérées comme sensibles (religion, sexe, couleur de peau) et doivent à ce titre être protégées. Pour mettre en place un système de vidéoprotection, couplé à la reconnaissance faciale, il faut l’autorisation des personnes et faire en amont une analyse d’impact du risque”, précise l’avocat, rappelant au passage le principe de la “privacy by design” (voir notre article du 28 janvier 2020) qui veut que plus le RGPD est intégré en amont de la conception des applications et services traitant des données personnelles, plus il est facile à implémenter.

L’avocat signale par ailleurs le décret de mars 2021 qui permet de contrôler le respect du port du masque dans les transports par des vidéos intelligentes (voir notre article du 11 mars 2021). Il insiste sur le fait que la verbalisation ne se fait pas directement via les caméras et qu’elle n’a rien d’automatique ; les caméras “délivrent des données qui permettent de faire des contrôles sur place avec des agents”. “On pourrait avoir un schéma plus simple”, conclut l’avocat qui appelle, lui aussi, à un débat de société.

À la Cnil, 245 personnes pour tous les fichiers de France

“La Cnil n’est-elle pas l’empêcheur de tourner en rond ? “, interpelle un spectateur dans un commentaire, donnant une occasion supplémentaire à Mathias Moulin, secrétaire général adjoint de la Commission nationale de l’informatique et des libertés (Cnil), de rappeler que la Cnil “est une autorité administrative indépendante”. “Nous sommes le régulateur et avons à ce titre des missions de conseil et contrôle”, “nous ne sommes pas le législateur”. À la Cnil, “nous sommes 245 personnes pour tous les fichiers de France”, lance Mathias Moulin qui précise en préambule qu’il faut distinguer deux cas de figure. Celui prévu par le RGPD avec le principe d’interdiction assorti d’exceptions (car la donnée biométrique est sensible) et qui prévoit la possibilité de mener des expérimentations. Et celui qui prévoit “l’application de la loi Informatique et Libertés en matière régalienne pour les usages de police/justice”. Le traitement et la mise en œuvre de données biométriques ne peuvent se faire qu’en cas de nécessité absolue et sur la base d’un texte l’autorisant (une loi ou un décret). Il faut un encadrement, un cadre législatif qui le permet et à ce stade, ce n’est pas le cas en France, “d’où la nécessité d’avoir un débat au plus haut niveau”. Les enjeux de la biométrie sont particuliers, car ils sont attachés à ce que l’on est intrinsèquement, notre visage qui révèle de nombreux éléments sensibles. Il répète à plusieurs reprises que “cette technologie présente des risques” et appelle “à ne pas être naïfs et croire que nos libertés sont acquises”. Il estime que, couplée avec la vidéosurveillance, la reconnaissance faciale présente “un double enjeu”. “La vidéosurveillance est déjà très intrusive : elle permet la géolocalisation, de savoir avec qui vous êtes, ce que vous faites”, décortique Mathias Moulin. “Couplée à la reconnaissance faciale, on peut savoir désormais qui vous êtes”, poursuit-il. Selon lui, l’enjeu de société est réel : “On s’habitue, il y a un effet cliquet : ça devient la norme et on perd de vue les enjeux et les risques.”

Un autre commentaire de spectateur interroge sur le fait de savoir si les pouvoirs publics pourront encore résister longtemps à cette technologie et si “au lieu de la rejeter, ne feraient-ils pas mieux de la maîtriser ?”. C’est en ce sens qu’intervient Yannick Ragonneau, directeur de programme sûreté et sécurité de la société Atos. “On a affaire à des technologies qui reposent sur l’intelligence artificielle”, nécessitant de l’apprentissage. Il plaide donc pour la mise en place d’un cadre juridique et d’entraînement “pour ne pas se faire dépasser par d’autres régions en Europe qui auraient des politiques beaucoup plus agressives” tout en respectant nos valeurs. Selon lui, l’essentiel est d’instaurer un cadre de confiance. “J’ai confiance dans les institutions de ce pays pour garantir les libertés de tous” et ce n’est pas avec “le papier et le crayon que l’on pourra assurer la protection des territoires”, conclut Yannick Ragonneau.

Jacques Priol affirme quant à lui que le cadre juridique existe. Il rappelle l’existence du rapport de la Défenseure des droits de juillet 2021 qui conclut à l’interdiction de la reconnaissance faciale en France (voir notre article du 21 juillet 2021). Il signale également que le régulateur européen a demandé un moratoire en avril 2021. Il avertit : “La maturité actuelle des technologies va nous conduire à des erreurs préjudiciables.”

(1) L’observatoire entend développer la réflexion sur les usages de la donnée au service de l’intérêt général en s’appuyant sur des chercheurs et des retours d’expériences. Il est animé par quatre sociétés de conseil (Civiteo, datactivist, Innopublica, Parme Avocats).