Vad händer när du har flaggat ett Facebook-inlägg som olämpligt? Facebook använder en blandning av automatiserade processer (maskininlärning) och mänskliga granskare. Företaget har tidigare öppnat upp kring hur artificiell intelligens används, och nu kommer en ny rapport om hur den mänskliga granskningen går till.

Ellen Silver, operativ direktör, skriver om hur de nu cirka 7 500 granskarna anställs och utbildas. De sitter i alla tidszoner och talar över 50 språk, men Ellen Silver avslöjar också att bara vissa språk täcks 24 timmar om dygnet. För en del mindre språk kan företaget behöva skicka ett flaggat inlägg vidare till en inhyrd specialist och då tar det så klart längre tid att granska det.

Anställda granskare får minst 80 timmars träning med en instruktör och övar på att granska och göra avvägningar i en kopia av det verkliga systemet.

Ellen Silver skriver också att en vanlig missuppfattning bland användare är att granskare har kvoter de måste fylla och därför riskerar att fatta förhastade beslut, men att det är fel.