Facebook, como já escrevi antes, é uma empresa que está passando por um grande número de dificuldades de crescimento. Isso é esperado de qualquer clube que conte com quase um terço do planeta entre os seus membros – você não pode esperar que todos eles representem os seus valores.
Ao mesmo tempo, não é uma boa ideia quando o seu modelo de receita torna estupidamente fácil espalhar discurso de ódio para um público que você sabe que será receptivo. Este é o problema que o Facebook tem que enfrentar, depois de um ProPública investigação descobriu que poderia veicular anúncios patrocinados no Facebook diretamente nas linhas do tempo de pessoas com o termo “odiador de judeus” em suas biografias.
A publicação pagou US$ 30 para atingir indivíduos interessados nos tópicos de “odiador de judeus” (2.274 pessoas), “como queimar judeus” (duas pessoas), “História de por que os judeus arruinam o mundo” (uma pessoa) e “Hitler não fez nada de errado” (15 pessoas). Descobrir que essa coalizão de intolerância não foi suficiente para criar um segmento publicitário, o algoritmo da rede social sugeriu que
ProPública visar pessoas com interesse na Segunda Emenda, o que a aumentaria em 119.000 pessoas saudáveis. A Segunda Emenda, para quem não sabe, refere-se ao direito de portar armas – e o fato de o algoritmo da empresa ter sugerido o grupo implica que há muitas pessoas no diagrama de Venn para anti-semitas e aqueles que exibem seu entusiasmo pela posse de armas em seus mangas. No fim, ProPública decidiu usar fãs da Schutzstaffel alemã e do Partido Nazista em seu segmento publicitário, aumentando-o em mais 5.643 pessoas.Enquanto ProPública colocar um anúncio deliberadamente brando para essas pessoas (foi aprovado pelo Facebook em 15 minutos), o risco é que outros poderia usar a capacidade sem precedentes da rede social de atingir as pessoas pelos seus interesses para espalhar propaganda ou organizar organizações de extrema direita comícios. Como era, ProPública conseguiu que 101 pessoas clicassem em uma mensagem amplamente não direcionada.
O Facebook, para seu crédito, foi rápido em retirar as tags ofensivas assim que ProPública relatou suas descobertas, e a empresa fez questão de ressaltar que foi gerado por algoritmos. Dito isto, Ardósia acompanharam a investigação com uma de sua autoria, encontrando categorias igualmente preocupantes para os anunciantes explorarem:
Veja relacionado
O Facebook agora removeu a capacidade dos anunciantes de atingir pessoas com base em “alvos auto-relatados”. campos” o que deve levar a opções mais higienizadas – embora presumivelmente ainda seja possível direcionar usando termos de apito de cachorro se você souber quais frases legítimas usar.
Facebook emitiu uma declaração completa sobre o assunto, que afirma que “o discurso de ódio e a publicidade discriminatória não têm lugar na nossa plataforma” e que “a segurança da comunidade é “crítica para a nossa missão." Como tal, “estamos removendo esses campos de segmentação auto-relatados até que tenhamos os processos corretos em vigor para ajudar a evitar isso”. emitir".
Tudo isso é muito bom, mas trata o problema como um problema de publicidade e algoritmos. Não diz nada sobre as pessoas que exibem orgulhosamente o seu anti-semitismo nas mangas nas páginas do Facebook. Ser capaz de anunciar diretamente aos racistas é claramente um problema sociológico se for explorado, mas não seria um problema se o Facebook não permitisse que essas pessoas se identificassem com orgulho sem repercussões. Sugerir que isso é apenas uma confusão algorítmica é enterrar um pouco o lede - acrescente isso a A pilha de problemas do Facebook.
