Dévoile-moi ton visage et je te dirai qui tu es

Dévoile-moi ton visage et je te dirai qui tu es. Parresia a choisi de se pencher sur la reconnaissance faciale et sur les enjeux qui y sont liés dans la toute première réglementation mondiale proposée par l'Union européenne : l'IA Act. Méfiez-nous des yeux qui ne sauraient voir...

Deux yeux, un nez, une bouche. Un visage. Notre visage. Le nôtre, vraiment ? Plus tant que ça. L’omniprésence de l’intelligence artificielle (IA) nous vole petit à petit des bouts de nous. Via Chat GPT, Face ID ou même à travers les applications que nous utilisons au quotidien. L’IA a réussi à s’immiscer dans nos vies, sans même que nous nous en apercevions.

Mais au-delà de nos corps morcellés par écran interposé, ce sont les fondements de notre liberté qui sont remis en question. Et nous l’acceptons. Nous acceptons les géolocalisations, les empreintes numériques et les voix enregistrées, le tout à usage récréatif. En toute confiance et sans danger, ou plutôt de manière aveuglée ? 

Alors l’Union européenne a décidé de se pencher sur la question, elle va faire “des efforts” pour éviter le danger, limiter la casse. “Des efforts” pour réglementer l’IA et plus précisément, la reconnaissance faciale. “Des efforts” déjà controversés. Et suffisants ? 

Mais penchons-nous d’abord sur la reconnaissance faciale en elle-même. Est-ce qu’elle serait une sorte d’IA qui sait tout, tant déverrouiller notre téléphone qu’ouvrir notre compte bancaire ? Ou bien cette reconnaissance est-elle surtout synonyme de surveillance de masse par les humain·e·s qui se cachent derrière ? 

La reconnaissance faciale repose sur une technologie photographique qui enregistre notre structure faciale biométrique, permettant ainsi une identification à partir d’une base de données stockées. En d’autres mots, nos visages ont remplacé nos mots de passe, ce qui, objectivement, est beaucoup plus sûr.

Mais alors, puisque la sécurité est plus optimale avec ces technologies, où est le problème ?

Prenons l’exemple de la Chine, largement (re)connue en matière de reconnaissance faciale. Une entreprise d'intelligence artificielle chinoise, SenseTime, a développé des caméras capables de détecter des comportements jugés indésirables, tels que le tabagisme ou le non-port du masque. La liberté des citoyen·ne·s chinois·e·s est, dans ce cas-ci, clairement compromise puisqu’on parle d’identification d’individus à travers des caméras dissimulées dans des lieux publics. Une sorte d’espionnage à grande échelle, de Big Brother des temps modernes. 

Actuellement, l’idée semble improbable en Europe.. On crierait au liberticide, mais vu tout ce qu’on accepte aujourd’hui, ne court-on pas à notre propre déchéance de liberté ? Une transparence totale de la part des entreprises (et de l’État), ainsi que des réglementations, deviennent cruciales au vu de l’avenir numérique qui se dessine.

Pour l’instant, au sein de l’UE, des dispositifs comme en Chine ne sont absolument pas à l’ordre du jour, bien au contraire. L’acte législatif proposé par l’UE est le premier de la sorte au niveau mondial. Mais le temps institutionnel est manifestement bien plus lent que celui des IA, et d’ici que les réglementations européennes entrent en vigueur, ne sera-t-il pas déjà trop tard ? Est-ce que tout cela ne sera pas déjà obsolète ? 

Prenons un exemple, presque au hasard… Pim Eyes. Ce site web permet des recherches par reconnaissance faciale avec une simplicité déconcertante. Il suffit de télécharger une photo pour que la magie opère. Pim Eyes dévoile toutes les images associées aux mêmes traits biométriques qui existent dans les abysses Internet. Les résultats peuvent révéler des découvertes inattendues et interpellantes.

Preuve en est: j’ai accepté de jouer les cobayes pour vous, bien que je doive avouer avoir longuement hésité. La principale raison de cette hésitation était de savoir si la photo que je téléchargerais dans le moteur de recherche finirait par faire partie du nébuleux trou noir d'Internet.

 Je finis tout de même par importer une de mes propres photos, et là... Je suis choquée par le résultat !

Je découvre des photos de moi qui ont été postées par mon établissement scolaire. Jusque-là rien d’anormal. Mais je me mets à faire défiler les images et là, je tombe sur une photo de moi en manifestation pro-palestinienne. Je n’avais jamais vu ce cliché, je ne savais même pas qu’il existait. Je m'interroge alors sur la facilité d'accès à ces photos, réalisant que ce site présente un potentiel danger, offrant un accès ouvert à n'importe qui, sur toustes. 

L’utilisation de la reconnaissance faciale prend de plus en plus d’ampleur en Europe. Et c’est là que l’UE intervient, ou pas finalement. De longues discussions ont actuellement lieu pour mettre en place la toute première réglementation de l’IA : l’IA Act. Mais, même si la volonté première est louable, nos problèmes sont loin d’être résolus…

Tout commence en avril 2021 avec une simple proposition visant à établir un cadre réglementaire pour les IA, classifiant les différents types en fonction de leur niveau de risque. Les scores sociaux étant considérés comme risques inacceptables, seront interdits. Les IA qui peuvent compromettre la sécurité ou les droits fondamentaux sont des risques élevés et seront évalués avant leur mise sur le marché. Enfin, les risques limités, tels que ChatGPT, doivent respecter des exigences minimales de transparence.

Un accord provisoire a été conclu, mais son adoption exige une attente prolongée. Ces technologies innovantes sont en constante évolution, nécessitant du temps pour élaborer des accords d'une telle envergure. Mais le temps file et ces technologies se métamorphosent sans cesse.

Pensez-vous que l’IA Act garantira la protection de nos droits fondamentaux ? 

Au vu de ce que je tire de mes recherches, la réponse est plutôt “pas du tout” et même “que du contraire”: la surveillance biométrique deviendra licite et omniprésente. Les défenseur·euse·s des droits numériques critiquent le fait que la récente législation européenne ne rejette pas complètement la possibilité de surveillance de masse. Ainsi, si nous manifestons ou si nous souhaitons seulement nous promener, nous serons surveillé·e·s. 

Une surveillance constante compromet notre droit à la citoyenneté en étouffant notre liberté d’expression et en portant atteinte à notre vie privée. Parresia reviendra d’ici peu avec un article présentant les risques qu’encourent déjà certaines populations, comme c’est le cas en Palestine. 

En attendant, il est crucial de prendre conscience de l’envergure de ces technologies tant utilisées (et de base, incroyablement utiles), afin d’aller vers un avenir où innovations technologiques et protection de la vie privée cheminent ensemble, comme des algorithmes extrêmement bien synchronisés. Si Google ou Meta le peuvent, pourquoi pas nous ?

Amina Derouich
19/2/2024

A lire également

Justice
Éducation
Société

Le souhait d’un autre temps

Deux fois plus de travail pour deux fois moins de reconnaissance. C’est la réalité de nombreuses femmes dans la société patriarcale qu’est la nôtre.📈📉 Comment s’extirper de ces carcans lorsque d’aucuns estiment encore que les femmes sont prédestinées à certains métiers ?Lorsque certaines de celles qui se battent contre ces injonctions perpétuent ces mêmes schémas pernicieux ? Lorsque la souffrance de toute une part de la société devrait rester invisible ?
Zélie Sels
30/3/2024
Société
Éducation

Portraits parcours: Zofia, la maraichère

Il en est facile d'oublier que derrière les chiffres se cachent du savoir-faire, de la sueur, de la transmission, des années d'expertise mais aussi et surtout des visages singuliers.
Laurianne Systermans
25/3/2024
Société
Éducation

Portraits parcours: Eric, le cordiste

Il en est facile d'oublier que derrière les chiffres se cachent du savoir-faire, de la sueur, de la transmission, des années d'expertise mais aussi et surtout des visages singuliers.
Zélie Sels
25/3/2024