Cosa dobbiamo fare esattamente di quei video per bambini che partendo da un noto personaggio dei cartoni animati lo trasformano in un mostro che compie ogni sorta di sconcerie?
La lezione è che i filtri automatici che dovrebbero sbarazzarsi dei contenuti di YouTube inadatti ai bambini sono ben lontani dall’essere a prova di bomba.
All’inizio del mese il New York Time ha riportato la notizia che un allarmante insieme di video inquietanti hanno eluso gli algoritmi creati per tenere lontani attori malintenzionati da YouTube Kids.
Il NYT ha incluso i link ad alcuni video che poi sono stati rimossi. Ad eccezione di un video ancora online che mostra brutali genitori con la figlia in una scena in cui le rasano la fronte facendola piangere e sanguinare.
Tutto questo tuttavia non dovrebbe verificarsi. Infatti nel febbraio 2015, YouTube aveva annunciato il lancio di una zona kid-friendly.
Secondo il NYT, da allora genitori e bambini si sono riversati nel canale YouTube Kids.
Quest’ultimo coinvolge oltre 11 milioni di spettatori settimanali, attratti da un numero apparentemente illimitato di clip, compresi gli show di Disney e Nickelodeon. Questi spettatori comprendono anche genitori che presumono che su YouTube Kids i loro bambini vedranno solo contenuti adatti alla loro età ripuliti dalle schifezze che si possono trovare sul sito principale di YouTube.
Queste porcherie includono contenuti che possono essere razzisti, antisemiti, omofobi, sessuali o orribilmente violenti. Alcuni contenuti di YouTube negano l’Olocausto o cercano di giustificare il terrorismo o i crimini contro l’umanità. Si tratta di contenuti che hanno messo YouTube nel mirino di gruppi che stanno cercando di mettere in atto sanzioni legali non solo contro YouTube, ma anche contro Facebook e Twitter, in paesi come la Francia o la Germania, dove tale contenuto è illegale.
Chi sta eludendo i filtri di YouTube Kids per colpire i bambini con questi assurdi video? E perché lo sta facendo? A quale scopo qualcuno vuole mostrare Topolino steso per strada in una pozza di sangue mentre Minnie lo guarda?
Apparentemente, secondo il NYT, è solo una questione di soldi. Questi video che non stanno né in cielo né in terra vengono legati a pubblicità posizionate automaticamente. Ciò significa che sia i loro creatori sia YouTube ne stanno approfittando.
Ma YouTube li sta anche combattendo: nei mesi precedenti ad agosto, ha annunciato che i creatori di contenuti non potevano più trarre profitto dall’uso inappropriato di personaggi adatti alle famiglie.
Come riportato dal NYT, i video sono “animati in modo indipendente, presumibilmente per evitare violazioni del copyright”. Alcune clip caricate di recente hanno milioni di visualizzazioni sul sito principale di YouTube. Non è chiaro quante di queste visualizzazioni provengano da YouTube Kids.
YouTube sta affrontando il problema, ma sta anche cercando di minimizzarlo. Afferma che il numero di video su YouTube Kids ignorati dai suoi filtri algoritmici e quindi contrassegnati dagli utenti negli ultimi 30 giorni, equivaleva a un minuscolo 0,005% del totale dei video. Secondo The Verge, YouTube ha ignorato i rapporti secondo cui i video inappropriati accumulavano milioni di visualizzazioni su YouTube Kids senza essere controllati. La società afferma che quelle visualizzazioni provengono da attività su YouTube corrette, visto che nei suoi termini di servizio si chiarisce che il canale è rivolto agli utenti che hanno almeno 13 anni.
La scorsa settimana YouTube ha annunciato l’implementazione di una nuova norma che limita l’età di questo tipo di contenuti nell’app YouTube principale quando viene contrassegnato. Juniper Downs, direttore delle policy di YouTube, ha dichiarato a The Verge che “i contenuti con limiti di età sono automaticamente non consentiti in YouTube Kids”. Tale politica è in fase di realizzazione da un po’ di tempo, quindi l’implementazione non è una risposta diretta alla recente copertura mediatica in merito al contenuto inappropriato, dice YouTube.
Il primo passo per tenere fuori questa roba da YouTube Kids sono i filtri algoritmici. Quindi, la società afferma di avere una squadra di persone che sta esaminando i video segnalati. Se un video contrassegnato nell’app principale contiene personaggi per bambini, verrà inviato al team di revisione della policy. YouTube afferma che migliaia di persone, compresi i volontari, lavorano per rivedere contenuti segnalati tutto il giorno, in tutto il mondo. Se la revisione conclude che un video vìola la nuova norma, sarà soggetto a limiti di età e verrà bloccato automaticamente dalla visualizzazione nell’app Kids.
YouTube spera che nella finestra di tempo che intercorre tra il passaggio dei contenuti da YouTube a YouTube Kids – una questione di giorni – gli utenti contrassegneranno i clip che potrebbero potenzialmente disturbare i bambini. The Verge riporta che YouTube inizierà presto a formare il suo team di revisione sulla nuova politica, che dovrebbe essere attiva entro poche settimane.
- Tratto dall’articolo YouTube to crack down on inappropriate videos targeting kids su Naked Security
David Lovelock
Stop sending these in Italian please