Nantes

Euradio

Current track

Title

Artist

Current show

Current show

Background

L’édito de Constantin Pavléas – Reconnaissance faciale et frayeur mondiale ! Une éthique européenne ?

L'édito du mardi 12 March 2019

[PODCAST]

Comme chaque mardi, nous recevons ce matin Constantin Pavléas, avocat et professeur de droit du numérique et des nouvelles technologies.

Bonjour Constantin, vous nous parliez la semaine dernière des assistants vocaux. Vous nous parlez aujourd’hui de la reconnaissance faciale par l’intelligence artificielle … quels problèmes éthiques posent-ils ?

Depuis 2 ans, la reconnaissance faciale par des algorithmes d’intelligence artificielle a pris son essor et est utilisée à grande échelle dans le monde.

Des applications grand public ont vu le jour. La reconnaissance faciale permet de déverrouiller certains téléphones intelligents. De commander et de payer ses courses dans certains magasins en Chine !

Les États utilisent aussi cette technologie. Par exemple pour contrôler l’identité des individus aux frontières ; pour identifier par des caméras de surveillance des personnes ayant commis des infractions ; voire pour stigmatiser !

Ah oui ? Qu’est-ce que vous entendez par « stigmatiser » ?

A Shenzhen, en Chine, le visage d’une personne ayant grillé un feu rouge en voiture, ou d’un piéton qui a traversé sans attendre le signal, est projeté sur un écran géant. Y apparaissent son nom et une partie du numéro de sa carte d’identité.

Vous êtes ainsi surveillés. A bon ou mauvais escient.

A terme, la reconnaissance faciale sera combinée au système de « crédit social » en cours de déploiement en Chine. L’État chinois pourra ainsi plus facilement identifier les auteurs de comportements qualifiés de déviants.

Par exemple, ne pas sortir de chez soi pendant plusieurs jours ; ne pas se présenter à une réunion de travail ; ne pas suivre attentivement un cours ou une présentation ; traverser hors les clous… des agissements qui pourraient être attribués à une personne reconnue par les algorithmes.

Avec à la clé des mauvais scores qui ont vont limiter la liberté des chinois : ne plus pouvoir acheter des billets de train ou d’avion, s’inscrire dans une bonne université, louer ou acheter un logement, prendre un crédit, trouver un emploi…

Cela fait froid dans le dos. Sans parler du risque d’erreur encore présent dans ces technologies.

Qu’en est-il en Europe ?

En Europe, nous avons le RGPD, le règlement de protection des données à caractère personnel. La reconnaissance faciale constitue clairement un traitement de données personnelles. Ce traitement doit donc obéir aux règles instituées par le règlement, notamment informer la personne et dans la plupart des cas avoir son consentement.

Mais nous devons aller plus loin. Les règles juridiques doivent s’appuyer sur des règles éthiques. L’intelligence artificielle doit avoir une finalité « éthique » ; et elle doit être fiable sur le plan technique.

La Commission européenne y travaille. Elle a proposé un projet de lignes directrices pour garantir la finalité éthique des systèmes basés sur l’intelligence artificielle. Ce document a reçu de nombreux commentaires et sera finalisé au cours du mois de mars. Sa vocation est de servir de socle pour une intelligence artificielle éthique, sûre et de pointe en Europe ; et d’être une source d’inspiration au niveau mondial.

Saluons cette initiative et la prise de conscience des institutions européennes dans un domaine si important pour préserver nos valeurs démocratiques et les libertés individuelles !

La matinale d’Euradio

Débutez la journée avec l'essentiel de l'info européenne !

More info