Moderadores de conteúdo na internet

Internet: por trás do Grande Filtro
Através de fatos e ficções, mergulho na realidade dos moderadores de conteúdo. Jovens, vigiados e mal pagos, trabalham sob pressão máxima para limpar os esgotos das redes sociais. Além do trauma, lidam com o fascínio lúgubre da mídia e amigos
Joanne McNeil, no The Nation | Tradução: Vitor Costa/Outras palavras

 

No circo de empregos de merda que as empresas de tecnologia criaram nas últimas poucas décadas – de motoristas de Uber a “turcos mecânicos” (mechanical turkers) – os moderadores de conteúdo são os que mais se ferram: eles são os pagadores de pecados, os bodes expiatórios. Eles sofrem para que nós, o resto da humanidade, possamos continuar nossos dias rolando nossos feeds, protegidos da vasta magnitude da depravação humana neste mundo, pelo menos tal como ela é documentada e compartilhada em imagens nas mídias sociais.

Você já conhece essa história. Pessoas mal remuneradas são organizadas em um ambiente de call center como trabalhadores contratados para uma plataforma da qual você com certeza já ouviu falar, em um escritório em algum lugar distante, provavelmente nas Filipinas ou no Sudoeste dos Estados Unidos. Em suas mesas, em uma tela, elas assistem a imagens de pessoas sendo estupradas ou mortas, de violência cometida contra crianças e animais: aí elas veem e apagam as imagens da plataforma. Os trabalhadores sofrem por sua saúde mental e o estresse pós-traumático os atormenta muito depois do último post que eles filtraram.

O fato de conhecermos essas histórias é algo relativamente recente. Houve alguns relatos anteriores sobre isso, mas uma publicação de Adrian Chen para a revista Wired em 2014 foi particularmente mobilizadora. Na matéria, Chen mostrava que um dos grandes problemas para os moderadores de conteúdo é que a maioria das pessoas não sabe de sua existência. Chen tratou do custo psicológico para esses trabalhadores, referenciando-se na pesquisa de Sarah T.

Leia também: As mudanças que afetam a retomada da economia global https://bit.ly/3NnFF3n

Roberts, professora da UCLA e codiretora do Center for Critical Internet Inquiry, que publicou um livro sobre o assunto, Behind the Screen: Content Moderation in the Shadows of Social Media, em 2019. No mesmo ano, uma reportagem de Casey Newton no The Verge revelou como acontece a exploração do trabalho no dia-a-dia dessas pessoas: pausas para banheiro monitoradas, trabalhadores vigiados pela administração enquanto vigiam a vida dos outros, uma enorme ansiedade no local de trabalho adicionada ao trauma causado pela própria atividade. Aumentar a conscientização pública sobre um problema como esse é bem importante – mas, agora que sabemos sobre a moderação de conteúdo, o que devemos fazer a respeito?

Poderíamos perguntar aos próprios moderadores de conteúdo, mas, apesar dos vários artigos e livros, suas identidades e experiências vividas permanecem um mistério. Há uma ausência de ensaios em primeira pessoa, memórias e relatos pessoais. Os ouvimos através de citações anônimas e como fontes não identificadas. Quem são eles? Como eles acabaram aceitando esse trabalho? O que eles fazem para se divertir? É difícil ter amigos e manter relacionamentos com um trabalho tão traumatizante? Outra pergunta que podemos fazer é: o que eles realmente veem?

É o que todos perguntam a Kayleigh, a narradora da novela de Hanna Bervoets, We Had to Remove This Post. A tia de Kayleigh, seu terapeuta e seu novo colega de trabalho querem saber como é trabalhar como moderadora de conteúdo para a Hexa, uma empresa terceirizada de uma grande plataforma de mídia social. “As pessoas agem como se fosse uma pergunta perfeitamente normal”, diz Kayleigh, “mas que pergunta pode ser normal quando o que você espera é uma resposta horrível?”

Com seu tom coloquial e um tanto contido, e uma narradora bem inteligente, We Had to Remove This Post parece uma história de uma mulher só – o que faz sentido, já que Bervoets é dramaturga, além de autora de vários romances que exploram temas como reality shows, bioética, e fandoms tóxicos. O livro, primeira obra da escritora holandesa a ser publicada em inglês, foi lançado na Holanda no ano passado com uma tiragem de mais de 600 mil exemplares. A narrativa se estrutura como um testemunho não oficial de Kayleigh a um advogado que está montando um caso contra uma empresa de mídia social. Kayleigh agora trabalha em um museu. Todos, ela pensa, incluindo o advogado, têm um interesse voyeurístico em sua experiência, enquanto presumem o pior sobre seu estado mental: “Não posso deixar de suspeitar de uma certa fascinação lúgubre, um desejo que os compele a perguntar, mas que nunca pode ser totalmente satisfeito”. Os capítulos seguintes revelam a lacuna de entendimento entre esses trabalhadores e o público, embora nem sempre como a autora pretende.

A moderação de conteúdo é marcada por certas contradições que convidam a esse tipo de  narrativa. É um trabalho ligado ao cuidado – os trabalhadores selecionam o material para o bem-estar dos outros –, que exige insensibilidade ou um alto nível de tolerância, como Roberts escreveu, em relação a “imagens e materiais que podem ser violentos, perturbadores e, na pior das hipóteses, psicologicamente prejudiciais”. Com essa referência, Kayleigh é uma personagem ideal para sondar as profundezas da mídia social: ela é brusca, mas não sem emoção, reservada, mas não sem desejos privados.

O livro é em parte um romance de escritório e em parte uma crônica do rompimento de um relacionamento. Kayleigh e Sigrid, outra moderadora, se aproximam durante um happy hour no escritório e não demora para irem morar juntas. Seu relacionamento é sustentado por limites tacitamente compreendidos, mas cuidadosamente estabelecidos, entre a vida e o trabalho. “Eu nunca perguntei a ela com o que ela sonhava”, conta Kayleigh. “Tive algumas ideias. Mas eram todas coisas que eu preferia não pensar, pelo menos não à noite, com as luzes apagadas e nossas mesas na Hexa a quilômetros de distância”.

Mas à medida que o trabalho se torna mais difícil e angustiante, Sigrid pede a Kayleigh algum apoio emocional: quem mais poderia entender os horrores que ela via? Sigrid é assombrada por uma garota que postou fotos de automutilação e parece ter morrido por suicídio. Sigrid encaminhou o conteúdo para o departamento de proteção à criança da empresa. “Você fez o que podia, baby, não foi?” É o que Kayleigh oferece em resposta. Mas sua tentativa de consolar Sigrid é insuficiente.

Acontece que Kayleigh e Sigrid não são as únicas pessoas que ficam no escritório da Hexa. As moderadoras de conteúdo se encontram com tanta frequência na sala de amamentação que a empresa remove a fechadura da porta. É um detalhe peculiar que se destaca e exige contexto adicional. Uma explicação pode ser encontrada na história de Newton para The Verge. “Desesperados por uma corrida de dopamina em meio à miséria”, relata ele, os moderadores do Facebook eram frequentemente encontrados fazendo sexo na sala de amamentação, então “a gerência removeu as fechaduras das portas da sala das mães lactantes e de um punhado de outros ambientes privados”.

Um ponto de virada no romance também vem diretamente do artigo de Newton. A equipe da Hexa observa um suicídio prestes a acontecer – não na tela, mas na janela do escritório; há um homem de pé no telhado do prédio ao lado. Sim, eles testemunharam cenas como essa muitas vezes antes, embora mediadas por seus monitores de mesa – mas quando está acontecendo tão perto, na vida real, é visceral. O cuidado que aparece na descrição da autora para o delicado relacionamento de Kayleigh e Sigrid faz falta aqui. Esboçado brevemente neste pequeno livro de pouco mais de 100 páginas, o evento torna-se, na narrativa de Bervoets, uma observação confusa e não particularmente original de que a tela embota emoções que as pessoas experimentam mais vividamente na vida real. “Esse tempo todo era como se eu estivesse assistindo a um vídeo”, Kayleigh reflete mais tarde. Bervoets não está plagiando o trabalho de Newton aqui: ela o lista em uma seção “Fontes Selecionadas” no final do livro, junto com Roberts e Chen. O problema é que, mesmo quando ela pega histórias dessas fontes, a ficção de Bervoets carece de apostas: Kayleigh, ao contrário da maioria dos moderadores de conteúdo da vida real, não vive sempre no vermelho.

O lançamento em The Verge foi chocante não porque nos contou o que os moderadores de conteúdo veem e fazem – Roberts, Chen e outros já haviam revelado isso –, mas porque expôs as demandas ultrajantes que esses trabalhadores enfrentam, além do trauma. Newton escreveu que os moderadores de conteúdo eram forçados a trabalhar no limite para obter pontuações de precisão quase perfeitas, porque qualquer pessoa com pontuação abaixo de 95% corria o risco de ser demitida. No Arizona, pagava-se pela hora de trabalho US$ 4 acima do valor mínimo e todos os trabalhadores perfilados por Newton tinham dificuldade de pagar as contas.

Kayleigh parece muito menos sujeita a essas terríveis condições econômicas. Desde as primeiras páginas, vemos que ela “caiu para cima”, em um bom trabalho em um museu, e nunca mais terá que assistir a um vídeo de decapitação. Bervoets tomou a embaraçosa decisão de contar essa história do ponto de vista de uma mulher de classe média. Kayleigh também é proprietária de um imóvel, a casa de sua mãe, que ela herdou, e a certa altura ela despeja alguns inquilinos de forma “educada”. Ela tem dívidas porque mimou muito sua namorada anterior com uma televisão, um toca-discos, roupas extravagantes e uma viagem a Paris. Tudo soa como o início de uma inverossímil abertura sombria da franquia Confessions of a Shopaholic (Confissões de um/a viciado/a em compras).

A “Hexa” não precisa ser descrita como um ambiente de panela de pressão, é claro. A história se passa na Europa e talvez eles tirem todo o mês de agosto de férias. Mas quando os colegas de trabalho de Kayleigh se radicalizam por conta do conteúdo que filtram, como o negacionismo do Holocausto e a teoria da Terra plana, exatamente da mesma forma que os trabalhadores do artigo de Newton, eu tenho dificuldade em acreditar. Quem são esses trabalhadores? Por que eles aceitaram esse trabalho? Por que eles não conseguem empregos em museus – ou em qualquer outro lugar? We Had to Remove This Post não tenta responder a essas perguntas ou complexificar os exemplos que extrai de reportagens anteriores ou adicionar mais textura narrativa ou psicológica, o que acaba apenas ecoando a conscientização pública que as fontes de Bervoets já haviam alcançado. O público sabe que a moderação de conteúdo está acontecendo. Isso é abordado, ainda que de brincadeira, em Kimi, o filme mais recente de Steven Soderbergh.

Leia também - Marcio Pochmann: Século 21 impõe novas bases para a educação brasileira https://bit.ly/3Bv2KNR

Kimi, que foi lançado no início deste ano, é sobre uma supervisora de tecnologia, Angela (interpretada por Zoë Kravitz), que monitora os feeds de um produto de voz semelhante à Alexa, da Amazon, limpando seus dados e codificando filtros automatizados. “Confie em mim, eu conheço o mal – eu já fui moderadora no Facebook”, diz Angela a um colega em uma vídeo-chamada de seu espaçoso apartamento tipo sonho do Instagram. Em mãos menos capazes, essa breve dica de história de fundo pode não ter sido incorporada. Claramente, Angela não trabalhou em um ambiente como o do artigo de Newton. Mas a riqueza da personagem abre uma nova dimensão para a crítica. Para qualquer trabalhador, ganhar mais dinheiro é melhor do que o salário mínimo, mas o que é uma compensação justa, afinal, quando estamos falando de um emprego que não deveria existir?

Em Kimi, Soderbergh encontra uma linha comum entre os horrores aos quais os moderadores de conteúdo estão expostos e o trauma de um piloto de drone: a vigilância aumenta sua angústia; a distância e a incapacidade de intervir criam um sentimento duradouro de culpa. Outra abordagem ao assunto da moderação de conteúdo, adotada por Sam Byers em seu romance de 2021 Come Join Our Disease, é arrastar o leitor pela sua “fascinação lúgubre” e forçá-lo a enfrentá-la. No romance, uma empresa de tecnologia recruta uma mulher sem-teto chamada Maya para trabalhar como moderadora de conteúdo, e ela luta nessa transição do desemprego para o trabalho de escritório mais brutal do mundo. “Este foi um mundo que me cuspiu sem hesitação ou remorso”, diz Maya. “Agora me aceitou de volta sem interesse ou pedido de desculpas. Ao fazer isso, causou um novo tipo de desaparecimento.” Ter sucesso nesse trabalho é ser invisível, tal como Maya foi no acampamento onde morava. Nas descrições pesadas e revoltantes que se seguem, Byers mina o objetivo expresso da empresa de mídia social fictícia: “Quando trabalhamos bem, ninguém percebe que aquilo que fazemos precisa ser feito”. O romance me lembrou de uma citação de um moderador em um dos relatórios de Chen, que comparou sua posição a um “canal de esgoto e toda a merda do mundo flui para você e você precisa limpar”. Nada disso torna a experiência de leitura mais agradável, mas, mérito de Byers, essa é a questão.

“Lá em Albuquerque, trabalhamos em uma fileira de casulos cinzas como as centenas de outros alinhados no call center. Fotografias de cenas da natureza e slogans como ‘Não há “eu” na equipe’ pontilhavam as paredes.” É assim que Rita J. King escreve sobre a época em que trabalhou como moderadora de conteúdo para a AOL e o material vulgar que ela ajudou a filtrar de suas salas de bate-papo agora extintas, em uma reportagem de capa para o Village Voice em 2001. Sim, uma história mais antiga que o MySpace. A história de King se destaca, depois de todos esses anos, porque foi escrita por alguém que fez esse trabalho: uma voz apoiada pela experiência, não apenas uma citação que prova que um humano estava lá. Em um relato mais recente, publicado em 2019 pelo New Republic, Josh Sklar, ex-moderador de conteúdo do Facebook, aponta que a mídia se debruça sobre a “pornografia da miséria” sem notar os “pensamentos reais dos trabalhadores sobre seu trabalho, além do que eles odeiam. Eu gostaria que os próprios moderadores de conteúdo falassem sobre isso”. Dessa forma, um projeto como We Had to Remove This Post corre o risco de contar a história ignorando os trabalhadores reais: ele não transcende a “pornografia da miséria”, a própria “fascinação lúgubre” que Kayleigh critica. Há um descompasso entre o estilo envolvente da autora e o assunto, que ela não consegue elevar – a imaginação de Bervoets para ali onde termina a reportagem da qual ela se inspira.

Talvez, se ouvíssemos esses trabalhadores, tivéssemos menos suposições malucas sobre seu trabalho e suas vidas. Em vez de perguntar o que eles viram, uma pergunta melhor – e que uma ficção como essa pode tentar responder – é: o que os moderadores de conteúdo de mídia social realmente querem? Respeito e recursos — seguro de saúde, saúde mental, alimentação, moradia, creche, melhores salários — seria meu palpite. Mas não é isso que falta a Kayleigh, a bem educada proprietária de um imóvel, e por isso ainda ficamos alheios a essa realidade.

Outra boa pergunta é, pra começo de conversa, por que precisamos desses moderadores de conteúdo. Nas reportagens, e em todas as fontes de Boeverts, há evidências mais do que suficientes para concluir: se a tortura dos trabalhadores é uma parte intrínseca ao seu sistema, então é o Facebook que tem que morrer. Ou o TikTok ou o YouTube: que morram todos.

Leia também: Despercebida durante um dia de trabalho típico em ambiente remoto https://bit.ly/3Kgmngi