Des photos et des vidéos deepfakes déclenchent le détecteur fake news de Facebook

Réseaux sociaux

Facebook pour lutter contre les fake news vérifie l’authenticité des articles publiés sur sa plateforme sociale. Depuis mars dernier, il a déployé la vérification de faits liés à des photos et des vidéos, tels que certains supports deepfakes.

deepfakes

Facebook commencera officiellement à vérifier l’authenticité des vidéos et des photos dans le cadre d’un effort croissant visant à éliminer les fake news, a déclaré l’entreprise la semaine dernière.

Facebook a déjà réagi à l’épidémie de fake news en vérifiant l’authenticité des articles publiés sur sa plateforme sociale. Pour ce faire, il collabore avec toute un éventail d’entreprises externes pour la vérification des faits, afin d’examiner et d’évaluer la véracité des contenus.

Cependant, une image vaut mille mots, et il va aussi falloir s’attaquer à présent aux images fake news. Dans un message publié jeudi sur son site newsroom, l’entreprise a écrit :

À ce jour, la plupart de nos partenaires de vérification des faits se sont concentrés sur la vérification des articles. Cependant, nous avons également travaillé activement à la mise au point de nouvelles technologies et à la mise en place de nouveaux partenariats afin de nous attaquer à d’autres formes de désinformation. Aujourd’hui, nous étendons la vérification des faits liés à des photos et à des vidéos à l’ensemble de nos 27 partenaires dans 17 pays du monde entier (et nous intégrons régulièrement de nouveaux partenaires pour la vérification des faits). Cette initiative nous aidera à identifier et à prendre les mesures adéquates pour lutter contre plus de types de désinformation, et plus rapidement. 

Facebook, qui déploie depuis mars la vérification de faits liés à des photos et des vidéos, a déclaré qu’il existe trois principaux types de fake news visuelles. Le premier est la fabrication, à savoir lorsqu’un individu fabrique des images avec Photoshop ou produit des vidéos deepfakes. Un bon exemple est une photo de septembre 2017, qui montrait un joueur des Seahawks de Seattle brûlant un drapeau américain. L’image, d’une célébration d’après-match, avait été trafiquée pour permettre d’insérer le drapeau.

La catégorie suivante concerne les images prises hors contexte. Par exemple, en 2013, une photographie populaire sur Facebook montrait Raoni Metuktire, chef de la tribu brésilienne Kayapó, en larmes, après que le gouvernement ait autorisé la construction d’un barrage hydroélectrique. En fait, il sanglotait parce qu’il venait de rejoindre un membre de sa famille !

La troisième catégorie associe des faux textes ou des déclarations audio à des photographies. Dans l’exemple de Facebook, une fausse agence de presse appelé “BBC News Hub” a associé des commentaires non fondés à une photo du Premier ministre indien Narendra Modi, affirmant qu’il avait détourné des fonds publics et qu’il était “le 7e Premier ministre le plus corrompu au monde en 2018”. (sic)

Le système de vérification d’image de Facebook utilise des algorithmes d’apprentissage automatique qui se concentrent sur divers points de données au sein de l’image. Ceux-ci peuvent inclure des commentaires d’utilisateurs de Facebook. Les images signalées sont acheminées vers les vérificateurs de faits spécialisés, qui utilisent ensuite des outils tels que la recherche d’image inversée et les métadonnées d’image. Ces dernières peuvent leur dire quand et où la photo ou la vidéo a été prise. Ils utiliseront également leurs propres techniques de recherche pour vérifier l’image par rapport à d’autres informations provenant d’universitaires et d’organismes gouvernementaux.

Le système utilise également la reconnaissance optique des caractères (OCR) pour “lire” le texte des photos et le comparer au texte des autres titres. L’entreprise teste également des nouvelles techniques pour détecter si une photo ou une vidéo a été falsifiée, selon les propos rapportés.

L’annonce de Facebook est intervenue un jour seulement après que le CEO Mark Zuckerberg ait publié une longue mise à jour décrivant les progrès de l’entreprise dans la lutte contre la manipulation des élections et la manière dont elle s’emploie à éliminer les faux comptes et la désinformation en général. Il a déclaré :

Lorsqu’un message est signalé comme potentiellement faux ou viral, nous le transmettons aux vérificateurs de faits indépendants pour examen. Tous les vérificateurs que nous utilisons sont certifiés par l’International Fact-Checking Network non partisan. Les publications considérées comme fausses sont rétrogradées et perdent en moyenne 80% au niveau du potentiel de futures vues.  

Facebook a peut-être les meilleures intentions du monde, mais il s’est déjà lancé dans l’analyse de photos par le passé et a échoué. En septembre 2016, il a été contraint de faire machine arrière après avoir censuré une célèbre image historique d’une jeune fille vietnamienne nue de neuf ans fuyant une attaque au napalm. Dans ce cas, l’entreprise avait initialement opposé son veto à la photo pour violation de ses normes communautaires.


Billet inspiré de Deepfake pics and videos set off Facebook’s fake news detector, sur Sophos nakedsecurity.

Leave a Reply

Your email address will not be published.