Faception : le logiciel qui prétend repérer les terroristes, les pédophiles, …

En avril 2008, Sophos avait présenté une technologie révolutionnaire : l’utilisation de la reconnaissance faciale pour identifier et arrêter les créateurs de virus, avant même qu’ils ne commencent à écrire et à programmer quoi que ce soit !

Sophos avait alors demandé à ses lecteurs des images d’obscuration faciale avec lesquelles tester cette technologie, mais bien évidement il s’agissait d’une blague ! Poisson d’Avril !

Cependant ce qui suit n’est pas une blague, et il se pourrait que vous perdiez rapidement le sourire !

Une entreprise spécialisée dans le profilage facial de personnalités a ressorti des cartons cette passion, datant de l’époque victorienne, pour la physiognomie en l’intégrant au sein d’une application appelée Faception.

La start-up israélienne déclare qu’avec une simple observation, elle peut reconnaître des traits de visage indétectables par l’œil humain : ces traits qui aident à identifier si vous avez la tête d’un joueur de poker, d’un génie, d’un universitaire, d’un pédophile, ou bien encore d’un terroriste !

La start-up voit dans cette technologie un grand potentiel dans le domaine de l’apprentissage automatique, permettant ainsi la détection des “bad guys”. Elle revendique l’utilisation de 15 critères afin d’évaluer certains traits du visage avec une efficacité de 80%.

80 % d’efficacité ? Est-ce vraiment suffisant pour arrêter quelqu’un et le suspecter de terrorisme ou de pédophilie ? Cette approche ressemble en réalité à ce genre de commentaire “excusez-moi, veuillez nous suivre, votre philtrum à une forme suspecte et la symétrie de vos lèvres ne nous plait pas”.

The Washington Post a cité Shai Gilboa, le directeur général de Faception :

Gilboa, qui a déclaré au journal qu’il était également responsable de l’éthique, a souligné qu’il ne rendrait jamais public les critères qui sont sensés prédire les traits négatifs.

Cependant, rendre ces derniers disponibles auprès des agences gouvernementales ne semble pas être un problème : Faception a apparemment signé un contrat avec une agence de sécurité nationale aux Etats-Unis, afin d’aider à l’identification des terroristes.

En effet, selon The Mirror, l’entreprise déclare avoir réussi, avec sa technologie, à identifier comme terroristes 9 des 11 djihadistes ayant commis les attentats de Paris, et ce sans avoir été informé au préalable de leur potentiel implication dans ce massacre.

L’entreprise a également récemment fait la démonstration de sa technologie au cours d’un tournoi de poker. Afin de prédire qui serait présent parmi les finalistes, l’analyse des photos de 50 joueurs a été réalisée, et la comparaison a été effectuée avec une base de données composée de joueurs de poker professionnel.

Faception a, pour ainsi dire, parier sur 4 joueurs. 2 d’entre eux faisaient partie des 3 finalistes du tournoi en question.

Si vous vous demandez si cette base de données ne contiendrait pas, par hasard, des photos de certains joueurs présents eux-mêmes au tournoi, rendant cette prédiction un peu moins extraordinaire, alors vous avez peut être mis le doigt sur quelque chose d’intéressant.

Pedro Domingos, un professeur d’infromatique à l’Université de Washington et auteur de “The Master Algorithm”, a pris un exemple pour illustrer la complexité de l’utilisation des systèmes d’intelligence artificielle pour tirer des conclusions. Comme il l’a déclaré au journal The Washington Post, un de ses collègues avait développé un système informatique afin de voir la différence entre de chiens et des loups.

Ce système y arrivait plutôt bien. Il avait une précision de presque 100%. Cependant il s’est avéré que l’ordinateur ne réalisait en fait aucune comparaison des différences perceptibles au niveau des canines. En réalité, toutes les photos de loups avait été prises avec de la neige en fond, contrairement à celles des chiens.

En d’autres termes, un système peut arriver à de bonnes conclusions, mais avec de mauvaises hypothèses. Ainsi, du fait de telles limitations, Gilboa ne voit pas Faception être utilisé seul pour identifier de potentiels terroristes, mais plutôt en complément d’autres sources, que le gouvernement aurait en parallèle à disposition.

Cependant, l’utilisation du profilage facial reste un problème pour certains d’entre nous. En effet, comment aborder ce sujet sans enfreindre la loi de Godwin ? La loi mentionne que dans une discussion sur internet qui dure longtemps, à un moment ou à un autre, un internaute finira par comparer quelqu’un ou quelque chose à Hitler ou au nazisme.

Game over, la discussion est  terminée, le perdant capitule devant l’argument ultime !

Voilà comment les choses se passent en réalité, … désolé Mr. Godwin, mais il ne s’agit pas ici d’une hyperbole : les nazis aimaient vraiment parler de physiognomie pour déterminer si un individu était juif ou non.

Durant le troisième Reich, il y avait des raisons d’être effrayé par l’utilisation du profilage facial. La physiognomie a longtemps été considérée comme une pseudoscience, à côté de sa petite sœur la phrénologie : l’idée que vous pouvez déterminer la personnalité, voire la moralité, à partir de la morphologie des os d’un individu.

Vous pouvez imaginer pourquoi ces techniques étaient si populaires, à leur apogée, durant la première moitié du 19^ème siècle, lorsque les salons mondains ont vu fleurir ces machines automatiques phrénologiques, pour effectuer des auto-diagnostiques (comme si vous ne pouviez pas vous-même vous rendre compte si vous étiez un honnête homme ou bien un tueur en série).

En effet, une approche qui consiste à déterminer la personnalité et la moralité d’une personne à partir de la représentation d’un minuscule cerveau et de tout ce qu’il y a autour du crâne, est séduisante et permettrait en plus de détecter “la ruse, la tromperie, la fuite, la sagesse, le mensonge, la tromperie, la malice et la sensualité”. Tous ces aspects étant bien évidemment révélateurs d’une personnalité diabolique par la simple présence d’une paupière un peu charnue.

The Washington Post a cité Alexander Todorov, un professeur de psychologie de Princeton dont les travaux de recherches traitaient en partie de perception faciale, en soulignant le côté douteux de la revendication faite au sujet de la physiognomie faciale :

Ne vous méprenez pas, la reconnaissance faciale existe bel et bien.

En effet, elle est réelle au point d’être utilisée pour sortir les stars pornos de l’anonymat.

Elle est aussi assez pertinente pour être utilisée par Microsoft au sein d’applications afin de reconnaitre nos émotions.

Est-elle par contre toujours pertinente pour déterminer si quelqu’un est un terroriste avec ses seuls traits de visage ?

Nous pouvons seulement espérer que la plupart sinon toutes les agences gouvernementales n’adopteront pas cette méthode douteuse de profilage. Cette méthode m’apparait clairement comme une dérive dangereuse. N’hésitez pas à laisser vos commentaires à ce sujet ci-dessous.

Follow @SophosFrance
//
Billet inspiré de ““Faception” software claims it can spot terrorists, pedophiles, great poker players” par Lisa Vaas de Naked Security
Partagez “Faception : le logiciel qui prétend repérer les terroristes, les pédophiles, …” avec http://wp.me/p2YJS1-2Hb