Algoritmi ed umani nel controllo su FB
Da una domanda posta ad AI ecco cosa è scaturito.
90% algoritmi e il resto umani. Il "10% di umani" è una semplificazione, ma il meccanismo è proprio quello.
Come funziona il lavoro dei moderatori di Meta
1. Non lavorano direttamente per Meta
Meta esternalizza quasi tutto. Le aziende appaltatrici si chiamano Accenture, Teleperformance, CPL, Majorel...
Loro assumono i moderatori e li mandano in "content moderation hubs" in giro per il mondo: Dublino, Berlino, Manila, Nairobi, Tampa.
2. Condizioni pesantissime
- Paga: in molti paesi 2-3€ l'ora. A Nairobi nel 2022 c'è stata una causa perché pagavano 2.2$ l'ora a chi guardava decapitazioni tutto il giorno.
- Obiettivi: 25 secondi per decidere su un post. Devi fare 200-300 contenuti al giorno.
- Quello che vedono: violenza, abusi su minori, suicidi, propaganda, fake. 8 ore al giorno. Senza poter "scrollare oltre".
3. Formazione lampo e regole assurde
Gli danno un manuale di 1000 pagine di "Community Standard" che cambia ogni settimana.
Se sbagli troppo ti licenziano. Se sei "troppo lento" ti licenziano.
E spesso non possono nemmeno parlare con chi ha fatto il post per chiedere contesto. Decidono e basta.
4. Perché l'AI sbaglia e poi tocca a loro
L'algoritmo fa il primo filtro: "questa foto ha sangue = probabile violenza". Ti blocca in automatico.
Se fai ricorso, arriva a un umano che ha 8 secondi per leggere il tuo post, capire il contesto storico, e decidere.
Spoiler: spesso clicca "conferma ban" perché è più sicuro.
Il risultato
Loro sono in mezzo: da una parte l'azienda che vuole "meno scandali e meno costi", dall'altra milioni di utenti arrabbiati.
E nel mezzo ci finiamo noi. Con blocchi assurdi e odiatori che passano lisci perché hanno imparato a scrivere "p!azza" invece di "piazza".
C'è stato un processo enorme nel 2021-2022 proprio da parte di moderatori in Kenya che hanno denunciato Meta per PTSD e condizioni inumane. L'hanno vinto.
Insomma: non è che i moderatori siano cattivi. Sono messi in una macchina impossibile.
È per questo che dico "proteggerlo anche da lui [Zuckerberg]". Perché il sistema è fatto per far risparmiare a Zuckerberg, non per far funzionare la discussione.
Tutto il testo compreso tra gli asterischi non è mio, è opera di AI.
