Facebook : stopper le revenge porn en uploadant vos propres photos de nu !

Vous vous demandez peut-être si votre petit ami a vraiment supprimé vos photos de nu, prises en portant une médaille de championnat, comme il l’avait promis ? A priori cela n’a pas été le cas de Nathan Broad du Richmond Football Club, et de la photo d’une jeune femme arborant des souvenirs sportifs sur sa poitrine nue, qu’il avait pourtant promis de supprimer mais qu’il a en fait partagée !

Facebook veut vous épargner le souci causé par toutes ces photos de nu partagées sans votre consentement. En effet, il veut que vous arriviez à cet état de sérénité absolue en lui envoyant vos propres photos de nu !

WHAAAA ????

Arrêtez-vous, et respirez profondément ! Cela a pourtant du sens : le réseau social n’a pas donné beaucoup de détails, mais à partir du peu d’éléments qui ont été partagés à ce sujet, il semble que Facebook ait prévu d’utiliser des hashs de vos photos de nu, tout comme les forces de l’ordre utilisent des hashs d’images d’enfants connus dans des cas d’abus.

Un hash est créé en traitant une photo avec une fonction de hachage. En sortie on obtient une empreinte numérique qui ressemble à un bric-à-brac de lettres et de chiffres. Vous ne pouvez plus, à partir du hash, revenir vers la photo de départ, mais la même photo, ou des copies identiques de cette dernière, aboutiront toujours au même hash.

Donc, un hash de votre photo la plus intime vous donne ce type de résultat peu explicite :

48008908c31b9c8f8ba6bf2a4a283f29c15309b1

Depuis 2008, le NCMEC (National Center for Missing & Exploited Children) a mis à disposition une liste de valeurs de hashs concernant des photos d’enfants connus et abusés sexuellement, fournies par les FAI, et qui permettent aux entreprises de vérifier d’éventuelles correspondances en balayant de gros volumes de fichiers, sans que ces entreprises n’aient à conserver des copies de ces images offensantes, ou n’aient à forcer les messages privés d’individus.

Le hash utilisé à l’origine pour créer des identifiants de fichiers uniques était le MD5, mais Microsoft a sorti sa propre technologie PhotoDNA pour participer à cette démarche.

PhotoDNA crée une signature unique pour une photo en la convertissant en noir et blanc, en la redimensionnant et en la décomposant suivant une grille. Dans chaque cellule de la grille, la technologie génère un histogramme reflétant des gradients d’intensité ou des contours, à partir desquels elle calcule un soi-disant ADN. Les images avec un ADN similaire peuvent ensuite être comparées.

Étant donné que la quantité de données dans l’ADN est faible, de grandes quantités de données peuvent être scannées rapidement, permettant à des entreprises comme Microsoft, Google, Verizon, Twitter, Facebook et Yahoo de trouver une aiguille dans une botte de foin ! Cette technique fonctionne même si les images ont été redimensionnées ou rognées.

Attention, nous ne savons pas si c’est la technologie que Facebook a l’intention d’utiliser. Il a annoncé un programme pilote avec quatre pays, le Royaume-Uni, les États-Unis, l’Australie et le Canada, dans lequel des internautes seront à priori invités à envoyer des photos d’eux-mêmes via Messenger.

Julie Inman Grant, la commissaire e-safety australienne, dont le bureau travaille avec Facebook, a déclaré à ABC News en Australie que l’envoi de photos via Messenger suffirait pour permettre à Facebook de prendre des mesures pour empêcher tout upload ultérieur, et sans que la photo ne soit stockée ou visionnée par les employés.

Facebook déclare qu’il ne stockera pas de photos de nu, mais utilisera la technologie de mise en correspondance des photos pour tagger les images après leur envoi via son service Messenger chiffré. Puis, Inman Grant a déclaré: “Si quelqu’un essayait de uploader cette même image, avec a même empreinte numérique ou la même valeur de hash, le uploading de cette dernière sera alors bloqué”.

Ce procédé est tout d’abord testé en Australie et sera bientôt testé en Grande-Bretagne, aux Etats-Unis et au Canada. Actuellement, les utilisateurs de Facebook peuvent signaler des photos d’eux-mêmes, qui ont déjà été publiées sans leur consentement ou de manière malveillante. Une fois les images taggées, les équipes internes de Facebook vont les examiner, en utilisant la technique de hachage pour éviter qu’elles soient de nouveau uploadées.

Dans le cadre de ce projet pilote les utilisateurs peuvent agir de manière préventive, en informant des entreprises de sécurité travaillant avec Facebook, concernant des photos spécifiques.

Certes, au départ, vous devez fournir la photo en question afin de créer le hash. Mais après cela, le hash sera en mesure d’aider la plateforme en ligne pour répondre plus ou moins instantanément à la question suivante : “Est-ce que je connais cette photo ?”, et à bloquer donc sa circulation, et ce sans que vous ayez à renvoyer la photo en question.

Nous aimerions avoir plus de détails de la part de Facebook à ce sujet. Par exemple, quelles mesures de protection sont en place pour s’assurer que les utilisateurs ne peuvent pas prendre une ancienne photo au hasard, une photo publicitaire non pornographique par exemple, et l’envoyer sous le faux prétexte que c’est une photo de nu et qu’ils ont de fait le droit de la retirer de la circulation sur les médias sociaux ?  Les quelques détails qui ont déjà été révélés sur ce programme semblent prometteurs, mais Facebook doit nous en dire un peu plus. S’il répond à mes questions, je vous le ferai savoir.

Mises à jour du 10/11/2017 :

Facebook a depuis confirmé comment le programme pilote fonctionne dans un blog post.

Voici comment il fonctionne :

• Les Australiens peuvent faire un signalement sur le site web officiel du Commissariat à la eSafety.
• Le bureau du commissaire à la eSafety avise Facebook, mais n’a pas accès à la photo.
• Pour identifier l’image sur Facebook, les internautes doivent l’envoyer à eux-mêmes sur Messenger.
• Un membre de l’équipe Facebook Community Operations examine et hache l’image.
• Facebook stocke le hash, et non la photo, dans sa base de données pour éviter les uploads ultérieurs.
• La personne supprime la photo de Messenger et Facebook la supprime de ses serveurs.
• Facebook empêche la publication ou le partage des images qui correspondent au hash stocké.

Ce que le récent blog post ne précise pas, selon Motherboard, c’est que les images envoyées pour examen ne sont pas brouillées, comme l’a expliqué un porte-parole de Facebook.

Alex Stamos, Chief Security Officer chez Facebook, a tweeté :

In recognition of that risk, we have taken the steps we can to protect this data and to only retain non-reversible hashes. To prevent adversarial reporting, at this time we need to have humans review the images in a controlled, secure environment.

— Alex Stamos (@alexstamos) 9 novembre 2017

Billet inspiré de Facebook: upload your nudes to stop revenge porn, sur Sophos nakedsecurity.