Dévoile-moi ton visage et je te dirai qui tu es

Dévoile-moi ton visage et je te dirai qui tu es. Parresia a choisi de se pencher sur la reconnaissance faciale et sur les enjeux qui y sont liés dans la toute première réglementation mondiale proposée par l'Union européenne : l'IA Act. Méfiez-nous des yeux qui ne sauraient voir...

Deux yeux, un nez, une bouche. Un visage. Notre visage. Le nôtre, vraiment ? Plus tant que ça. L’omniprésence de l’intelligence artificielle (IA) nous vole petit à petit des bouts de nous. Via Chat GPT, Face ID ou même à travers les applications que nous utilisons au quotidien. L’IA a réussi à s’immiscer dans nos vies, sans même que nous nous en apercevions.

Mais au-delà de nos corps morcellés par écran interposé, ce sont les fondements de notre liberté qui sont remis en question. Et nous l’acceptons. Nous acceptons les géolocalisations, les empreintes numériques et les voix enregistrées, le tout à usage récréatif. En toute confiance et sans danger, ou plutôt de manière aveuglée ? 

Alors l’Union européenne a décidé de se pencher sur la question, elle va faire “des efforts” pour éviter le danger, limiter la casse. “Des efforts” pour réglementer l’IA et plus précisément, la reconnaissance faciale. “Des efforts” déjà controversés. Et suffisants ? 

Mais penchons-nous d’abord sur la reconnaissance faciale en elle-même. Est-ce qu’elle serait une sorte d’IA qui sait tout, tant déverrouiller notre téléphone qu’ouvrir notre compte bancaire ? Ou bien cette reconnaissance est-elle surtout synonyme de surveillance de masse par les humain·e·s qui se cachent derrière ? 

La reconnaissance faciale repose sur une technologie photographique qui enregistre notre structure faciale biométrique, permettant ainsi une identification à partir d’une base de données stockées. En d’autres mots, nos visages ont remplacé nos mots de passe, ce qui, objectivement, est beaucoup plus sûr.

Mais alors, puisque la sécurité est plus optimale avec ces technologies, où est le problème ?

Prenons l’exemple de la Chine, largement (re)connue en matière de reconnaissance faciale. Une entreprise d'intelligence artificielle chinoise, SenseTime, a développé des caméras capables de détecter des comportements jugés indésirables, tels que le tabagisme ou le non-port du masque. La liberté des citoyen·ne·s chinois·e·s est, dans ce cas-ci, clairement compromise puisqu’on parle d’identification d’individus à travers des caméras dissimulées dans des lieux publics. Une sorte d’espionnage à grande échelle, de Big Brother des temps modernes. 

Actuellement, l’idée semble improbable en Europe.. On crierait au liberticide, mais vu tout ce qu’on accepte aujourd’hui, ne court-on pas à notre propre déchéance de liberté ? Une transparence totale de la part des entreprises (et de l’État), ainsi que des réglementations, deviennent cruciales au vu de l’avenir numérique qui se dessine.

Pour l’instant, au sein de l’UE, des dispositifs comme en Chine ne sont absolument pas à l’ordre du jour, bien au contraire. L’acte législatif proposé par l’UE est le premier de la sorte au niveau mondial. Mais le temps institutionnel est manifestement bien plus lent que celui des IA, et d’ici que les réglementations européennes entrent en vigueur, ne sera-t-il pas déjà trop tard ? Est-ce que tout cela ne sera pas déjà obsolète ? 

Prenons un exemple, presque au hasard… Pim Eyes. Ce site web permet des recherches par reconnaissance faciale avec une simplicité déconcertante. Il suffit de télécharger une photo pour que la magie opère. Pim Eyes dévoile toutes les images associées aux mêmes traits biométriques qui existent dans les abysses Internet. Les résultats peuvent révéler des découvertes inattendues et interpellantes.

Preuve en est: j’ai accepté de jouer les cobayes pour vous, bien que je doive avouer avoir longuement hésité. La principale raison de cette hésitation était de savoir si la photo que je téléchargerais dans le moteur de recherche finirait par faire partie du nébuleux trou noir d'Internet.

 Je finis tout de même par importer une de mes propres photos, et là... Je suis choquée par le résultat !

Je découvre des photos de moi qui ont été postées par mon établissement scolaire. Jusque-là rien d’anormal. Mais je me mets à faire défiler les images et là, je tombe sur une photo de moi en manifestation pro-palestinienne. Je n’avais jamais vu ce cliché, je ne savais même pas qu’il existait. Je m'interroge alors sur la facilité d'accès à ces photos, réalisant que ce site présente un potentiel danger, offrant un accès ouvert à n'importe qui, sur toustes. 

L’utilisation de la reconnaissance faciale prend de plus en plus d’ampleur en Europe. Et c’est là que l’UE intervient, ou pas finalement. De longues discussions ont actuellement lieu pour mettre en place la toute première réglementation de l’IA : l’IA Act. Mais, même si la volonté première est louable, nos problèmes sont loin d’être résolus…

Tout commence en avril 2021 avec une simple proposition visant à établir un cadre réglementaire pour les IA, classifiant les différents types en fonction de leur niveau de risque. Les scores sociaux étant considérés comme risques inacceptables, seront interdits. Les IA qui peuvent compromettre la sécurité ou les droits fondamentaux sont des risques élevés et seront évalués avant leur mise sur le marché. Enfin, les risques limités, tels que ChatGPT, doivent respecter des exigences minimales de transparence.

Un accord provisoire a été conclu, mais son adoption exige une attente prolongée. Ces technologies innovantes sont en constante évolution, nécessitant du temps pour élaborer des accords d'une telle envergure. Mais le temps file et ces technologies se métamorphosent sans cesse.

Pensez-vous que l’IA Act garantira la protection de nos droits fondamentaux ? 

Au vu de ce que je tire de mes recherches, la réponse est plutôt “pas du tout” et même “que du contraire”: la surveillance biométrique deviendra licite et omniprésente. Les défenseur·euse·s des droits numériques critiquent le fait que la récente législation européenne ne rejette pas complètement la possibilité de surveillance de masse. Ainsi, si nous manifestons ou si nous souhaitons seulement nous promener, nous serons surveillé·e·s. 

Une surveillance constante compromet notre droit à la citoyenneté en étouffant notre liberté d’expression et en portant atteinte à notre vie privée. Parresia reviendra d’ici peu avec un article présentant les risques qu’encourent déjà certaines populations, comme c’est le cas en Palestine. 

En attendant, il est crucial de prendre conscience de l’envergure de ces technologies tant utilisées (et de base, incroyablement utiles), afin d’aller vers un avenir où innovations technologiques et protection de la vie privée cheminent ensemble, comme des algorithmes extrêmement bien synchronisés. Si Google ou Meta le peuvent, pourquoi pas nous ?

Amina Derouich
19/2/2024

A lire également

Militance
Éducation
Justice
Politique
Société

Bâtiment Walid Daqqah: Quand le vieux monde se radicalise, le nouveau monde occupe et résiste

Beaucoup d’encre a coulé. Mais le traitement médiatique de l’occupation d’un bâtiment de l’ULB dans le cadre du mouvement Escalate For Palestine n’est-il pas symptomatique d’une narration constamment en faveur de l’ordre établi ? Envers et contre tout… « Occuper l’espace public, c’est aussi rappeler, que l’illégal peut être légitime, que le légal n’est pas toujours juste, et que le vernis du Vieux Monde doit craquer. »
Ines Talaouanou
19/7/2024
Culture
Justice
Militance
Société

Bruxelles, terrain d’(en)jeu (dé)colonial

Le 20 juin dernier marquait les 64 ans de l’indépendance du Congo. Un pays dont une partie de l’histoire est tristement liée à la Belgique. Des décennies de colonisation, des millions de mort·e·s et d’innombrables exactions. Aujourd’hui, il n’y a toujours pas de consensus politique sur la position que la Belgique doit adopter au regard de son passé colonial. Pire, l’espace public regorge de symboles coloniaux vecteurs d’un récit partial. Une réflexion sur l’espace public ne peut omettre la question des vestiges du passé colonial belge. Retour sur les balises historiques, l’état des lieux, BLM, les initiatives militantes et associatives et le rapport du groupe de travail bruxellois « Vers la décolonisation de l’espace public en Région de Bruxelles-Capitale. »
Ilyas Boukria
4/8/2024
Environnement
Politique
Sport

JO 2024: L’espace public mis en jeu

Ça y est, les Jeux olympiques 2024 sont officiellement lancés. Vendredi soir, le monde entier avait les yeux rivés sur Paris où la cérémonie d’ouverture de cet événement titanesque en a mis plein les yeux à plus d’un·e. Derrière les costumes, les danses et les paillettes se cachent pourtant des mesures bien moins réjouissantes. Depuis sa candidature en 2015, la France a pris une série d’initiatives pour s’assurer d’être vue sous son meilleur jour le long de la compétition, quitte à ce que ce soit au détriment de ses propres citoyen·ne·s et de leur espace public. Réquisition de logement étudiants, réservation de bandes de circulation, augmentation des prix des transports, barrières, QR code, vidéosurveillance algorithmique, nettoyage social et chute de l’horeca. Découvre le revers de la médaille de ces Jeux olympiques 2024.
Ilyas Boukria
29/7/2024