Em 2015, o Reddit girou em torno de sua atitude de administração laissez-faire ao introduzir um novo conjunto de regras antiassédio, resultando no fechamento de um punhado de subreddits deploráveis. Isso incluía a imagem do corpo envergonhando r/fatpeoplehate e o centro nacionalista branco r/coontown.
Na época, a mudança foi criticada por cantos da comunidade Reddit como uma restrição à liberdade de expressão; uma reação previsível, dada a abordagem anterior do Reddit, cultivou vários grupos marginais de direita. Outros usuários do Reddit criticaram a proibição com base na eficácia, sugerindo que fechar um monte de subreddits apenas empurraria esses usuários para outros grupos.
Agora, um estudar co-autoria entre o Georgia Institute of Technology, a Emory University e a University of Michigan tem conclusivamente determinou que a proibição funcionou e que o esmagamento de subreddits tóxicos teve um efeito claro no discurso de ódio em todo o mundo site.
Os pesquisadores pesquisaram mais de 100 milhões de postagens do Reddit, antes e depois dos administradores banirem r/fatpeoplehate e r/coontown. Eles então criaram uma maneira de quantificar o uso do discurso de ódio:
“Dado que o Reddit baniu os fóruns r/fatpeoplehate e r/CoonTown, nos concentramos no conteúdo textual que é característico desses fóruns”, explica o jornal. “Usando uma técnica automatizada de identificação de palavras-chave, construímos léxicos de palavras-chave para r/fatpeoplehate e r/CoonTown, que permite rastrear se as palavras desses léxicos se tornam mais comuns em outros fóruns após a proibição.
Ver relacionados
“Em seguida, inspecionamos manualmente os léxicos gerados automaticamente e identificamos um subconjunto de termos especialmente orientados para o discurso de ódio. Esses léxicos refinados manualmente são mais esparsos, mas oferecem maior precisão.”
Em ambos os conselhos, os pesquisadores descobriram que um número significativo de usuários descontinuou suas contas depois que a proibição entrou em vigor. Aqueles que permaneceram não se tornaram mais virulentos em suas opiniões, mas diminuíram seu nível de discurso de ódio “em pelo menos 80%” nas postagens subsequentes.
“Após a proibição, o Reddit viu uma redução de 90,63% no uso de palavras de ódio filtradas manualmente pelos usuários do r/fatpeoplehate e um Redução de 81,08% no uso de palavras de ódio filtradas manualmente pelos usuários do r/CoonTown (em relação ao respectivo controle grupos). Verificou-se que as mudanças observadas no uso do discurso de ódio foram causadas pela proibição e não por acaso, por meio de testes de permutação.”
Uma crítica à proibição em 2015 foi que ela iria “espalhar a infecção”, com ex-usuários de subreddits tóxicos trazendo sua mensagem para comunidades inócuas. Em vez disso, os pesquisadores descobriram que os usuários do r/CoonTown se mudaram para subreddits “onde o comportamento racista foi notado ou é predominante”, incluindo r/The_Donald e r/BlackCrimesMatter. Os usuários do r/fatpeoplehate mudaram-se para subreddits “dedicados a torrar usuários que postam voluntariamente fotos de si mesmos ou de outros”, incluindo /RoastMe, bem como hubs de jogos e TV como r/fo4 e r/MrRobot.
Em ambos os casos, o estudo não encontrou nenhuma mudança no uso do discurso de ódio de subreddits “invadidos”: “Os migrantes não não trouxeram o discurso de ódio com eles para suas novas comunidades, nem os residentes de longa data o pegaram de eles."
O resultado final para os pesquisadores é que a proibição funcionou, tendo sucesso tanto no nível do usuário quanto da comunidade na redução da prevalência do discurso de ódio. Os pesquisadores, no entanto, observam que os usuários tóxicos pareciam fugir para outros sites mais obscuros, como o clone do Reddit, Voat e Gab. A proibição, portanto, não eliminou totalmente o fanatismo, mas no que diz respeito ao objetivo do Reddit de manter a saúde de sua própria comunidade, foi um claro sucesso.
A existência contínua de subreddits como r/The_Donald sugere que a abordagem do Reddit está longe de ser abrangente, mas o estudo é uma forte indicação de que jogar barreiras na frente de comunidades odiosas pode impedir que ideologias tóxicas criem raízes em determinados plataformas. Quanto à questão mais ampla sobre como o ódio pode ser combatido na Internet em geral, essa é uma questão que preocupa não apenas pessoas como Facebook e Google, mas governos em todo o mundo. No início deste ano, por exemplo, vários parlamentares do Reino Unido acusaram as redes sociais de “vender ódio” e pediram que fizessem mais para prevenir o abuso online.
