Récemment, YouTube a annoncé sur son blog des créateurs qu’il désactivait les commentaires sur des millions de vidéos mettant en scène des mineurs, en réponse à des informations selon lesquelles des individus laisseraient des commentaires abjectes sur des vidéos montrant des enfants faisant du yoga de la gymnastique, ou jouant à des jeux tels que Twister.
Comme l’a documenté le créateur de contenu Matt Watson une semaine auparavant, de telles sections de commentaires YouTube comportaient ce qu’il appelait un “trou de ver“. En cinq clics à peine, vous pourriez vous retrouver dans un “cercle de pédophilie soft” où des prédateurs d’enfants laissent des commentaires sexuels et se mettent en relation les uns avec les autres via les sections de commentaires concernant des vidéos inoffensives mettant en scène des enfants, partageant des informations de contact ou, parfois, des liens vers de véritables images de maltraitance.
La nouvelle a provoqué la fuite d’une foule d’annonceurs, alors que de grandes marques telles que Disney, Epic Games (l’éditeur de Fortnite), GNC et Nestlé ont retiré leurs publicités.
YouTube a déclaré que la semaine précédente, la plateforme avait désactivé les commentaires YouTube sur des dizaines de millions de vidéos qui pouvaient être “sujettes à des comportements de type prédateur”. Au cours des prochains mois, elle prévoit également de suspendre les commentaires YouTube sur les vidéos présentant de “jeunes mineurs” ainsi que celles présentant des mineurs plus âgés mais qui “risqueraient d’attirer des individus au comportement prédateur”.
Il n’est pas possible de supprimer les commentaires sur toutes ces vidéos : YouTube a précisé qu’un petit nombre de créateurs seraient en mesure de conserver les commentaires activés, mais qu’ils seraient tenus de modérer de matière active ces derniers et d’apporter la preuve d’un faible risque de comportement prédateur les concernant. YouTube indique qu’il travaillera directement avec ces créateurs et espère que leur nombre augmentera à mesure qu’il améliorera sa capacité à détecter les commentaires violents.
Le filtre Predator supprimera deux fois plus de commentaires
YouTube a déclaré qu’il a supprimé des centaines de millions de commentaires violents, mais a travaillé également sur un classificateur encore plus efficace pour balayer spécifiquement les commentaires YouTube prédateurs. Il a accéléré le lancement du classificateur, qui n’affecte pas la monétisation de la vidéo et qui est censé détecter et supprimer deux fois plus de commentaires individuels.
YouTube a déclaré avoir également supprimé des milliers de commentaires inappropriés sur des vidéos présentant des mineurs et clôturé des centaines de comptes de visionnage. En outre, il a signalé un comportement illégal au NCMEC afin qu’il puisse travailler avec les autorités compétentes.
Les créateurs de contenu crient au scandale
L’exode des grandes entreprises a conduit certains créateurs à qualifier l’incident d’”Adpocalypse 2.0″.
L’Adpocalypse 1.0 a eu lieu entre mars et mai 2017, lorsque des annonceurs importants tels que AT&T et Johnson & Johnson ont annulé des annonces diffusées sur YouTube dans des vidéos extrémistes ou relayant des discours de haine. En réponse, YouTube a soudainement modifié ses processus automatisés de diffusion d’annonces sur l’ensemble de la plateforme, ce qui était considéré comme une mesure punitive à l’encontre des créateurs dont le contenu n’était ni raciste ni pro-terroristes.
Près de deux ans plus tard, les créateurs de contenu ont à nouveau l’impression d’être punis après avoir commis une faute. Vous avez la technologie pour faire davantage que juste blâmer les créateurs de contenu pour ce problème, a déclaré Tay Zonday, utilisateur de Twitter, suite à l’annonce de Google :
Your platform is very sophisticated at predicting what will keep an individual clicking and watching more videos. It tracks more than 1,000 data points on each person. That same AI can be deployed to expose, purge and report bad actors. Blaming content is knee-jerk and imperfect.
— Tay Zonday (@TayZonday) 1 mars 2019
D’autres ont critiqué Watson pour ses appels répétés, lancés aux gros annonceurs pour qu’ils se retirent de YouTube, et d’autres appels lancés aux consommateurs pour les boycotter, un message qu’il a véhiculé dans cinq vidéos qu’il a uploadées après la publication de sa première.
L’un d’entre eux, Daniel Keem, également connu sous le nom de Keemstar, animateur de la chaîne YouTube DramaAlert, a déclaré qu’un deuxième Adpocalypse n’arrêterait pas les agresseurs d’enfants :
Si les annonceurs quittent YouTube, cela n’arrêtera pas les pédophiles dans la section des commentaires. Cela va simplement nuire aux moyens de subsistance des YouTubers, grands et petits.
Billet inspiré de YouTube disables comments on millions of videos of children, sur Sophos nakedsecurity.
