Voyage, transport, e-commerce, protection des données personnelles… Les 3/4 des droits des consommateurs qui s’appliquent en France comme dans les autres pays européens sont issus de directives et règlements européens. Dans cette chronique, Elphège Tignel, du Centre Européen des consommateurs France, vous explique sur euradio comment l’Europe protège les consommateurs dans leur vie quotidienne et quels sont vos droits si vous voyagez, déménagez, achetez, payez, étudiez, téléphonez… en Europe.
Elphège, vous nous parlez aujourd’hui de l'intelligence artificielle et de la manière dont l’Europe souhaite a décidé de l’encadrer pour protéger nos droits fondamentaux.
La question est simple : que sait Internet de vous ? La réponse pourrait bien vous surprendre. Car nos données personnelles, c’est une véritable mine d’or pour les nouvelles technologies, et surtout pour l’intelligence artificielle. Le problème, c’est qu’elles sont parfois utilisées d’une manière qui n’est ni éthique, ni transparente.
C’est pourquoi l’Europe a décidé d’encadrer cette technologie avec un premier texte, l’IA Act, qui rentre en partie en vigueur ce mois-ci.
Quels dangers représente l’IA concrètement pour les consommateurs ?
Prenons des exemples. Imaginez Sophie, une mère de famille qui télécharge une application éducative pour son enfant. Cette application utilise l'IA pour adapter les exercices au niveau de l'enfant. Cependant, elle collecte également des données sur les habitudes de l'enfant et affiche des publicités l’incitant à faire des achats.
Autre exemple : Céline qui souhaite louer un appartement à Rome pour les vacances. La plateforme de location utilise un algorithme pour analyser son activité sur les réseaux sociaux. Résultat ? Céline est jugée « peu fiable » car l’algorithme suppose qu’elle voudra organiser des fêtes dans cet appartement.
Un dernier exemple ? Lisa qui achète régulièrement sur un site allemand. Elle souhaite payer son nouvel ordinateur portable en plusieurs fois. Mais sa demande est rejetée. Pourquoi ? Parce qu’un algorithme a analysé ses recherches en ligne, remarqué qu’elle avait consulté des comparateurs de prix et qu’elle avait même payé une facture d’énergie en retard. Même sa localisation en France a joué contre elle, car le vendeur estimait que les recours seraient plus complexes en cas de non-paiement. Résultat : Lisa a été "notée" comme instable financièrement.
C’est assez inquiétant, mais ces pratiques sont-elles autorisées ?
Non, et c’est là que l’Europe intervient.
Le règlement sur l’intelligence artificielle, ou IA Act, interdit expressément ce type de "notation sociale". C’est une pratique où les individus sont évalués sur leur comportement pour leur attribuer des avantages ou leur imposer des restrictions. En Europe, c’est formellement interdit depuis le 2 février 2025.
D’autres technologies sont-elles également concernées par ces interdictions ?
Absolument.
Par exemple, les systèmes d’IA qui exploitent les vulnérabilités des personnes. C’est le cas de l’application qu’avait téléchargé Sophie qui incitait son enfant à faire des achats en ligne. Ou encore des vidéos manipulatrices, les fameux deep fakes, qui influencent les choix des consommateurs pour par exemple, investir dans des placements financiers risqués.
En somme, l’IA Act pose des garde-fous pour une technologie plus éthique.
Exactement. Cette législation européenne est une première mondiale. Elle fixe les limites pour garantir que les technologies restent au service des citoyens, sans compromettre leurs droits fondamentaux, leur vie privée ou leur sécurité.
Mais ce n’est qu’un début. L’Europe devra aller encore plus loin pour protéger les consommateurs tout en encourageant une utilisation de l’IA respectueuse des valeurs européennes.
Un entretien réalisé par Laurence Aubron.
