Youtube nei guai con i moderatori dei contenuti

Una nuova causa sostiene che Youtube non è riuscita a supportare i moderatori di contenuti che guardano e rimuovono video inappropriati o violenti caricati sul sito

Youtube è di nuovo nei guai. Questa volta, la causa è stata intentata da un ex moderatore di contenuti che afferma di aver dovuto guardare video di decapitazioni, sparatorie, abusi sui minori e altri contenuti inquietanti prima di rimuoverli dal sito di video, senza che gli fosse affiancato un sostegno psicologico di qualche tipo.

Secondo quanto riportato da NBC News, a causa di questa assenza di supporto medico, l’ex moderatore ha avuto incubi, attacchi di panico e non è più riuscito a stare in aree affollate.

L’accusatore anonimo, che come altri moderatori era stato fornito a Youtube da un’altra azienda, sostiene che i team di moderazione erano talmente a corto di personale che molto spesso i lavoratori dovevano superare le quattro ore al giorno raccomandate per la scansione di video violenti, arrivando a guardare tra i 100 e i 300 video al giorno, con pochissimo margine di errore.

Nel frattempo, la causa afferma che i “Wellness Coach” di YouTube a disposizione dei moderatori di contenuti lavoravano solo per un numero limitato di ore e non erano effettivamente autorizzati a offrire consulenza medica, lasciando i moderatori a trovare da soli, e quindi anche pagare, la propria assistenza sanitaria psicologica.

La causa fa eco ad altre cause legali di moderazione dei contenuti simili, intentate contro Facebook, mostrando ulteriormente la presenza di una grande problematica nel merito di come l’industria tecnologica regola e gestisce i contenuti generati dagli utenti.

Il problema non scomparirà presto, anche perché YouTube prevede di fare sempre più affidamento sui moderatori umani dopo che il suo sistema algoritmico di moderazione dei contenuti ha commesso tantissimi errori.

E, allora, visto che è così difficile trovare una strategia migliore, sarebbe il caso di offrire maggiore tutela ai moderatori dei contenuti.

Assumerli, pagarli bene e fornire loro benefici e supporto per la salute mentale.

Fino a quanto l’intelligenza artificiale non sarà pronta per assumere il controllo del giudizio umano sulla sorveglianza di contenuti orribili, qualcuno dovrà farlo.