Hackers :

Cahen, M. (non daté). Les risques juridiques des logiciels de reconnaissance faciale [article de loi]. Repéré à https://www.murielle-cahen.com/publications/reconnaissance%20-faciale.asp

Carman, A. (2017). The Galaxy S8’s facial scanner can, unsurprisingly, be tricked with a photo. The Verge. Disponible en ligne : https://www.theverge.com/2017/3/31/15136226/samsung-galaxy-s8-face-scan-security

Dan. (2016). Cette application de reconnaissance faciale anéantit votre vie privée avec une seule photo !. Hitek.fr. Disponible en ligne : https://hitek.fr/42/application-reconnaissance-faciale-photo-metro-collecte-infos-personnelles_4569

Gazagne, D. (2016). Proposition de loi relative à la reconnaissance faciale [article de loi]. Lexing. Repéré à https://www.alain-bensoussan.com/avocats/proposition-de-loi-reconnaissance-faciale/2016/07/21/

Krasznay, Balabit, C. (2017). Pirater les données biométriques , plus faciles qu’il n’y paraît ? La Tribune. Disponible en ligne : https://www.latribune.fr/opinions/tribunes/pirater-les-donnees-biometriques-empreintes-voix-visage-iris-et-sequencage-adn-plus-facile-qu-il-n-y-parait-761568.html

Sécurité :

Berdah, A. (2014). Première interpellation grâce au nouveau système de reconnaissance faciale. LeFigaro.fr. Disponible en ligne : http://www.lefigaro.fr/actualite-france/2014/04/09/01016-20140409ARTFIG00372-une-premiere-interpellation-grace-a-un-nouveau-systeme-de-reconnaissance-faciale.php

D’Henry, B. (2017). Le paiement par reconnaissance : une révolution est en cours. Sense Fuel. Disponible en ligne : https://blog.sensefuel.com/le-paiement-par-reconnaissance-faciale-une-nouvelle-r%C3%A9volution-est-en-marche

Grégoire, F. (sans date). Le paiement par reconnaissance faciale [article]. Companeo. Disponible en ligne : https://www.companeo.com/caisse-enregistreuse/actualites/le-paiement-par-reconnaissance-faciale

Hassan, G. (2018). La reconnaissance faciale testée par la police britannique fait un tas d’erreurs. Courrier Sciences. Disponible en ligne : https://www.courrierinternational.com/article/la-reconnaissance-faciale-testee-par-la-police-britannique-fait-un-tas-derreurs

Artistes :

Bolesse, C. (2017). Un artiste crée des vêtements pour piéger les systèmes de reconnaissance faciale. BFM TV. Disponible en ligne sur : https://sciencepost.fr/2017/01/artiste-motif-anti-reconnaissance-faciale-vetements/

Blanchot, V. (2018). Un portrait peint par une intelligence artificielle vendu pour 432 500 $. Presse Citron. Disponible en ligne : https://www.presse-citron.net/portrait-peinture-intelligence-artificielle-edmond-belamy/

https://hightech.bfmtv.com/epoque/un-artiste-cree-des-vetements-pour-pieger-les-systemes-de-reconnaissance-faciale-1078357.html_

Harvey, A. (1/03/2017). HyperFace [article]. Repéré à https://ahprojects.com/hyperface/

Labbe, P. (2018). Une peinture, réalisée par une intelligence artificielle, mise aux enchères. Objetconnecte.net. Disponible en ligne : https://www.objetconnecte.net/peinture-intelligence-artificielle-encheres/

Lechner, M. (2014). Le nouvel âge du camouflage. Libération. Disponible en ligne : https://next.liberation.fr/culture/2014/07/04/le-nouvel-age-du-camouflage_1057464

Ledit, G. (2017). Un maquillage pour tromper les logiciels de reconnaissance faciale. Usbek & Rica. Disponible en ligne : https://usbeketrica.com/article/un-maquillage-pour-contrer-la-reconnaissance-faciale

Sans Auteur. Facial Weaponization Zach Blas (2011-14). Repéré à http://espacevirtuel.jeudepaume.org/facial-weaponization-2952/

Sans Auteur. (2017). Une marque lance des vêtements anti-reconnaissance faciale. CNEWS. Disponible en ligne : https://www.cnews.fr/monde/2017-01-05/une-marque-lance-des-vetements-anti-reconnaissance-faciale-746023

Selon le CNIL, qui est la Commission Nationale de l’Informatique et des Libertés, « la reconnaissance faciale est une technique qui permet à partir de traits de visage d’authentifier une personne : c’est-à-dire, vérifier qu’une personne est bien ce qu’elle prétend être, ou, d’identifier une personne : c’est-à-dire, de retrouver une personne au sein d’un groupe, d’une image ou d’une base de données ».

Si nous nous tenons à cette définition, la reconnaissance faciale semble être plutôt utile et pratique, pour retrouver des personnes disparues ou encore pour la sécurité. Mais le processus de la reconnaissance faciale va beaucoup plus loin que cela.

La reconnaissance faciale est une nouvelle technologie de plus en plus utilisée dans notre monde actuel. Elle peut servir à notre usage personnel, tout comme à notre sécurité.

Pour pouvoir poursuivre votre lecture de ce Mooc, il vous faut avant tout connaître les bases de la reconnaissance faciale.

Il faut tout d’abord bien faire la différence entre la reconnaissance faciale, qui est un système servant à reconnaître quelqu’un sur une vidéo ou une photo, et le système de détection de visage, qui sert à repérer des visages sur des photos ou des vidéos mais qui ne les reconnait pas.

 

Il existe d’autres moyens de reconnaissance utilisées par les systèmes de sécurité qu’on appelle reconnaissance biométrique qui sont :

• Les empreintes digitales.
• La forme de la main.
• Les réseaux veineux.
• L’iris.

Ces moyens de sécurité sont tout aussi utiles que la reconnaissance faciale pour la sécurité dans les endroits à risques comme les aéroports, pour déverrouiller des smartphones ou des ordinateurs mais sont tout aussi faillibles.

Les hackers Julian Albrecht et Jan Krissler ont d’ailleurs réussi à déjouer un système de reconnaissance veineuse en plaçant des caméras à l’intérieur de sèches-mains et en modelant ensuite les mains en cire d’abeille des personnes les ayant utilisés. Ils ont donc utilisé la forme de la main et le système veineux pour reconstruire les mains.

 

 

D’autres hackers ont réussi à tromper un système de reconnaissance de l’iris en imprimant une photo de l’oeil en infrarouge et en plaçant une lentille de contact par dessus pour donner l’aspect d’un véritable oeil. Grâce à cela, ils sont parvenus à déverrouiller un téléphone.

Pour détourner le système de reconnaissance faciale dans sa part abusive, certains artistes ont créé des motifs ou des masques qui biaisent les systèmes par des algorithmes. 

En voici trois exemples :

Projet HyperFace

Adam Harvey, artiste berlinois, est un des collaborateurs du prototype HyperFace, créé et développé à partir de 2017 au Sundance Film Festival. Ce projet a été développé avec des membres du collectif Hyphen Labs, qui porte le festival et un salon de Neurocosmétique. Ce collectif défend l’afro-féminisme. 

Le motif vestimentaire inventé par Adam Harvey biaise les systèmes de reconnaissance faciale, à la base créés pour protéger les populations mais trop souvent, selon lui, utilisés à des fins commerciales.

Ces motifs sont des algorithmes censés représenter des centaines de visages pour les caméras, ce qui donne des milliers de faux résultats et brouille les pistes. On ne voit pas vraiment à l’oeil nu de visages (même si on peut deviner des formes se rapprochant plus du smiley que du visage humain) ; en revanche les caméras de surveillance et de reconnaissance faciale reconnaît ces données comme des visages et n’arrivent plus à n’en distinguer qu’un seul.

Méthode : détourner la caméra en la détournant de sa cible d’origine.

 

Le maquillage anti-reconnaissance de Grigory Bakunov

Grigory Bakunov est un expert qui travaille dans l’une des plus grosses compagnies technologiques de Russie. Il partage l’avis selon lequel les dispositifs de reconnaissance faciale prennent une trop grande part dans la sécurité et la surveillance, ce qu’il dénonce. Les gens sont surveillés dans la rue dans quelques grandes villes, les réseaux disposent de bases de données à propos du visage des utilisateurs qu’ils peuvent revendre à des sociétés marchandes.

Bakunov a donc mis au point un algorithme anti-reconnaissance faciale ne permet pas de reconnaître quelqu’un. Avec cet algorithme il a créé un maquillage fait de bandes et des petites formes géométriques qui représente l’algorithme qu’il a créé.

Néanmoins il y a une limite à ce projet ; Bakunov s’est rendu compte que ce maquillage visant à brouiller les pistes de la reconnaissance faciale pouvaient éventuellement être utilisés à des fins autrement intentionnées que celles de départ. Il explique que ce maquillage pourrait aussi très bien être utilisé pour brouiller les pistes des banques, ou encore de la police. C’est pour cette raison qu’il a choisi de ne pas commercialiser son dispositif et le rendre accessible.

  

Facial Weaponization Suite

Zach Blas est un artiste et écrivain de 38 ans basé à Londres. Il travaille en parti dans une perspective technologique et politique. 

Il a développé le projet Facial Weaponization Suit (suite d’arme faciale) entre 2011 et 2014. Son oeuvre proteste contre la reconnaissance faciale biométrique dans une perspective de combattre les inégalités générées par ces technologies (visage “type” par exemple).

Son oeuvre se présente sous la forme de “masques collectifs” modélisés à partir de données faciale de pleins de participants, mélangées toutes ensemble et formant cet forme étrange et tout rose que l’on peut voir.

Il a créé 4 masques, qui dénoncent 4 faits de société : 

• masque généré à partir des données biométriques de plusieurs homosexuels, en opposition à un nouveau système de reconnaissance faciale qui serait capable de déterminer l’orientation sexuelle de quelqu’un.
• le second traite de la noirceur, pour dénoncer :

– l’incapacité des logiciels de reconnaissance faciale à reconnaître les peaux noires

– la favorisation de la couleur noir dans l’esthétique militante

– la couleur noir qui embrouille les systèmes informatiques

• le 3e masque traite du féminisme en dénonçant la dissimulation et l’imperceptibilité. Il fait contrepoint en citant la loi française sur le port du voile (interdiction du port du voile intégral dans l’espace public ; datant du 14 septembre 2010) comme une obligation de visibilité

• enfin, le 4e masque brouille et dénonce l’évolution et le développement des systèmes de reconnaissance de données biométriques aux frontières, notamment à la frontière américano-mexicaine, pour empêcher de passer.

Ce mouvement se joint aux mouvements sociaux, qui sont nombreux à utiliser le port du masque en emblême et pour se protéger. C’est une manière pour l’artiste de protester contre la reconnaissance en tant que moyen de créer des normes et des profils genrés, binaires et respectant une certaine norme ainsi qu’une blanchité.

 

 

« Face off », la reconnaissance faciale disséquée 

Jacob Burge est un photographe qui vit au Japon. Il pense la photographie en rapport à la vidéosurveillance. Cette série de photos peut représenter les algorithmes qui sont utilisés dans les technologies de reconnaissance faciale. Son but, comme les autres artistes, est de dénoncer les risques de la reconnaissance faciale. Il fait ce travail avec humour, puisqu’il précise qu’il n’a pas demandé l’avis à ses modèles avant de les prendre en photo, mais à en voir son travail, cela ne porte pas atteinte aux personnes puisque leurs visages sont complètement transformés. Ce geste est fait pour critiquer le fait que les individus sont repérés, reconnus dans la rue, contre leur gré. Même si ils ne sont pas suspects et que les caméras de reconnaissance ne les visent pas si ils ne sont pas concernés, ils peuvent quand même être à vue et ce n’est pas agréable pour leur individualité et leur intégrité. 

Burge cherche à montrer le côté représentatif de la société, où règne un monde axés sur les apparences, avec un gouvernement qui cherche à surveiller et normer sa population.

 

Simone C Niquille et son Technoflesh

Simone Niquille est une chercheuse et designeuse suisse. Son travail, intitulé Technoflesh, aborde le thème de l’identité « sans corps ». Elle cherche à mettre en valeur le fait que l’identité et les données biométriques sont de plus en plus surveillés dans le quotidien des individus, et elle cherche à bafouer ce système en  cachant une partie d’un visage et en y ajoutant des attributs comme des lunettes de soleil, qui permettent de dissimuler l’identité d’une personne. Les lunettes de soleil ont fait partie des premiers objets du quotidien utilisés en tant que revendication et en opposition aux systèmes de reconnaissance faciale utilisés par les gouvernements.

Il faut avant tout savoir que des lois récentes ont permis d’encadrer la mise en pratique de la reconnaissance faciale.

La loi 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés a été modifié par la loi 2018-493 du 20 juin 2018. Et elle dit, selon l’article 1er que « l’informatique doit être au service de chaque citoyen » et « ne doit porter atteinte ni à l’identité humaine, ni aux droits de l’Homme, ni à la vie privée, ni aux libertés individuelles ou publiques ». Et les sanctions pour ceux qui tenteraient de contourner la loi sont lourdes. 

Tout cela reste encore très général, mais en ce qui concerne plus particulièrement la reconnaissance faciale, en Europe les systèmes de reconnaissance de Google et Facebook ont été interdits. Une proposition de loi a été déposé et ajouterait alors un chapitre au Code de la Sécurité Intérieure. Cette loi autoriserait la reconnaissance faciale pour la prévention du terrorisme et concernerait uniquement les personnes fichées « S ». Mais ces logiciels de reconnaissance faciale posent plusieurs questions notamment sur le droit à l’image ou encore sur la question de l’utilisation des données personnelles ainsi que sur la sécurité de ces données. C’est pourquoi aux Etats-Unis, l’entreprise Microsoft demande au gouvernement de créer une loi sur la reconnaissance faciale car c’est pour eux une technologie qui peut être bénéfique au niveau de la sécurité mais qui, mal utilisée, peut menacer les libertés individuelles.

Maintenant que nous savons ce que dit la loi sur la reconnaissance faciale et que la technologie dépasse la loi, nous allons voir différents dangers qui sont dûs à la reconnaissance faciale.

Votre téléphone est mal verrouillé…

Nous avons pu voir que la sécurité liée à la reconnaissance faciale n’est pas encore tout à fait aboutie, c’est pourquoi il semblerait dangereux de faire totalement confiance à cette nouvelle technologie. Par exemple, une entreprise vietnamienne « Bkav », a réussi à tromper le système de reconnaissance faciale de l’Iphone avec un masque fabriqué à l’aide d’une imprimante 3D pour faire un visage, des impressions en 2D pour les yeux et la bouche, une texture de peau et un nez en silicone. Mais des questions se posent quant à la faisabilité du processus sans l’aide de la «victime », car ici, le hacker a utilisé son propre visage pour faire l’expérience, mais si la personne attaquée n’est pas au courant, la difficulté peut être supérieure.

 

  Masque utilisé par « Bkav » pour tromper la reconnaissance faciale.

 

Néanmoins, comme nous allons le voir tout de suite, des chercheurs ont réussi à tromper plusieurs logiciels de reconnaissance faciale uniquement grâce à l’aide de photos. Ils ont pour cela crée un système qui produit des modèles numériques de visages à partir de photos de Facebook. Les modèles sont ensuite fabriqués en 3D, puis affichés en réalité virtuelle, ce qui permet d’avoir le mouvement et la profondeur qui est recherchée par la reconnaissance faciale.

Un autre exemple de piratage de reconnaissance faciale a été montré lors de la présentation des nouveaux smartphone de la marque Samsung. Un bloggeur a alors enregistré son visage dans le téléphone présenté et a réussi à tromper le logiciel grâce à un selfie pris sur un autre appareil. Même si cette opération a pris quelques secondes, cela montre tout de même que le logiciel de reconnaissance faciale peut être contourné.

 

La vidéo qui montre le déverrouillage du smartphone à l’aide d’un selfie :

 

D’ailleurs, un jeune new-yorkais de 10 ans est également parvenu à détourner la reconnaissance faciale de l’Iphone. Il voulait simplement s’amuser avec le nouveau téléphone de sa mère et en voyant le visage de l’enfant, l’appareil s’est déverrouillé pensant qu’il s’agissait du propriétaire. Le jeune garçon n’a même pas fait exprès. Pour être sûr, la mère a refait l’identification faciale sur son smartphone et le jeune garçon a de nouveau réussi à ouvrir le téléphone. Donc même si le visage du propriétaire n’est pas le même, le logiciel a confondu une femme d’une trentaine d’années avec un garçon de 10 ans. Apple a alors recommandé aux jumeaux, aux frères et sœurs et aux enfants de moins de 13 ans de ne pas utiliser cette fonctionnalité de l’appareil.

Se protéger de la reconnaissance faciale.

Evidemment, la reconnaissance faciale n’est pas simplement utilisée pour déverrouiller des téléphones puisque de nombreuses caméras de surveillance sont équipées de logiciel de reconnaissance faciale qui permet de repérer et de reconnaitre des personnes qui auraient commis des délits et qui sont recherchés. Mais ces caméras dans la rue, sur vos téléphones et ordinateurs vous reconnaissent quand même. Donc, maintenant que nous savons que la reconnaissance faciale peut être trompée par n’importe qui et avec des outils plutôt facile d’accès, nous allons voir quelles sont les conséquences de ce piratage et dans le même temps quels sont les meilleurs moyens pour se protéger des piratages via la reconnaissance faciale.

Pour sensibiliser aux nouvelles technologies comme la reconnaissance faciale et aux traces que nous laissons sur Internet, un photographe russe Egor Tsvetkov a lancé un projet appelé « Your face is Big Data », le big data est un ensemble de données qui est tellement volumineux qu’il dépasse les capacités d’analyse humaines et même informatiques. Le projet de ce photographe était de montrer qu’avec une simple photo prise dans le métro et avec l’application FindFace (qui permet de retrouver les gens que vous croisez avec une photo), il pouvait retrouver toutes les informations possibles sur ces personnes qui lui étaient totalement inconnues. Cette application, FindFace est relié à des réseaux sociaux comme Facebook et Instagram et peut, à partir d’une photo, retrouver les informations que laissent la personne sur ces réseaux. Le photographe russe à l’initiative de ce projet a voulu alerter sur les nouvelles technologies comme la reconnaissance faciale qui peut être utilisé à mauvais escient et sur les réseaux sociaux qui peuvent (si on ne fait pas attention à ce que l’on poste) nous retirer notre droit à la vie privée. Et la conséquence ici est que n’importe qui peut tout savoir de votre vie ou vous retrouver, même si vous n’avez aucun lien.

Dans le métro VS Sur les réseaux

Exemples de photos prise par E.Tsvetkov pour le projet « Your face is Big Data »        

 

 

L’une des plus grandes conséquences du piratage de la reconnaissance faciale est évidemment la liberté. Nous sommes libres de choisir d’utiliser ou non la reconnaissance faciale proposées sur nos appareils mais nous ne savons pas où vont toutes nos données même si nous ne nous sommes pas fait pirater. Donc pour se protéger de cela, plusieurs choses sont conseillées. Tout d’abord, ce qui revient le plus souvent c’est de combiner le système de reconnaissance faciale avec un autre système de sécurisation de l’appareil comme le mot de passe par exemple. Mais pour lutter contre la reconnaissance faciale dans les espaces publics avec les caméras de surveillance, des chercheurs de l’université de Pittsburgh ont inventé une paire de lunette qui ne coûte que 22 cents et qui permet de tromper le système de reconnaissance faciale qui reconnaît alors un autre visage que la personne qui porte les lunettes. Et bien sûr, ce que tous les « white hackers » (hackers bien intentionnés qui repèrent les failles informatiques pour les entreprises) recommandent, c’est d’éviter de poster trop d’informations sur les réseaux sociaux et de faire très attention à ce que nous postons sur ces derniers.

Les lunettes qui permettent de ne pas se faire repérer par les différents systèmes de reconnaissance faciale.

 

Même si cette nouvelle technologie qu’est la reconnaissance faciale peut faire peur, elle peut nous être utile, notamment à la société pour lutter contre le terrorisme par exemple. À condition de ne pas l’utiliser de manière abusive la question est de savoir si la sécurité est plus importante que la liberté du droit à la vie privée.

La reconnaissance faciale est utilisée dans beaucoup de domaines de la sécurité.

Utilisation par des institutions 

On la retrouve dans la Police, pour gérer les interpellations dans les foules, les délinquants dans les rues etc. Au FBI, dans les villes, les lycées.

Dans les aéroports c’est pour le contrôle des usagers étrangers et l’accès ou non à l’embarcation

Sans enregistrement préalable de données biométriques, le système compare les données photographiques du visage du voyageur se trouvant sur la puce IC intégrée au passeport de la personne avec une photo prise au portail de reconnaissance faciale afin de vérifier l’identité du voyageur.

Fonctionnement

Le système peut identifier en temps réel avec exactitude le type de voiture, l’habillement, le sexe et même l’âge d’un passant… Ces informations sur les passants s’affichent automatiquement à l’écran. Quand il s’agit d’un criminel recherché, l’alarme du système se déclenche en montrant les données le concernant sur l’écran. (Extrait du Courrier International)

Fonctionnement de la Solution FacePro

Recueille de données, enregistrement des visages, configuration d’une alerte, niveau de contrôle élevé, plusieurs caméras peuvent être connectées (jusqu’à 20), et une caméra permet d’enregistrer jusqu’à 10000 visages voir une extension à 30000. Permet le comptage d’individu, catégories d’âge et de genre.