Facebook, come ho scritto prima, è un’azienda che sta attraversando un numero enorme di difficoltà di crescita. Questo è normale per qualsiasi club che conta quasi un terzo della popolazione del pianeta tra i suoi membri: non puoi aspettarti che tutti rappresentino i tuoi valori.
Tuttavia, non è una buona idea quando il tuo modello di entrate rende stupidamente facile diffondere discorsi di incitamento all’odio a un pubblico che sai sarà ricettivo. Questo è il problema che Facebook deve affrontare, dopo a ProPublica indagine ha scoperto che potrebbe pubblicare annunci sponsorizzati su Facebook direttamente nella timeline delle persone con il termine "odiatore degli ebrei" nella loro biografia.
La pubblicazione pagava 30 dollari per rivolgersi a individui interessati ai temi “che odia gli ebrei” (2.274 persone), “come bruciare gli ebrei” (due persone), “Storia del perché gli ebrei rovinano il mondo” (una persona) e “Hitler non ha fatto nulla di male” (15 persone). Scoprire questa coalizione di fanatismo non era sufficiente per creare un segmento pubblicitario, lo suggeriva l’algoritmo del social network
ProPublica prendere di mira le persone interessate al Secondo Emendamento, il che lo aumenterebbe di ben 119.000 persone sane. Il Secondo Emendamento, per chi non lo sapesse, riguarda il diritto di portare armi – e il fatto che l’algoritmo dell’azienda abbia suggerito il gruppo implica che ci siano molte persone nel diagramma di Venn per gli antisemiti e per coloro che portano il loro entusiasmo per il possesso di armi sulle loro maniche. Alla fine, ProPublica hanno deciso di utilizzare i tifosi dello Schutzstaffel tedesco e del partito nazista nel loro segmento pubblicitario, aumentandolo di altre 5.643 persone.Mentre ProPublica pubblicare una pubblicità deliberatamente blanda a queste persone (è stata approvata da Facebook entro 15 minuti), il rischio è che altri potrebbero sfruttare la capacità senza precedenti del social network di prendere di mira le persone in base ai loro interessi per diffondere propaganda o organizzare l’estrema destra manifestazioni. Com'era, ProPublica è riuscito a convincere 101 persone a fare clic per ricevere un messaggio ampiamente non mirato.
Facebook, a suo merito, si è affrettato a rimuovere immediatamente i tag offensivi ProPublica ha riportato i suoi risultati e la società ha voluto sottolineare che è stato generato algoritmicamente. Detto ciò, Ardesia hanno proseguito l'indagine con una di loro, trovando categorie altrettanto preoccupanti da sfruttare per gli inserzionisti:
Vedi correlati
Facebook ha ora rimosso la capacità degli inserzionisti di prendere di mira le persone in base al “targeting auto-segnalato”. campi" che dovrebbero portare a opzioni più sterilizzate, anche se presumibilmente è ancora possibile prendere di mira utilizzando termini da fischietto se sai quali frasi legittime usare.
Facebook ha rilasciato una dichiarazione completa sull'argomento, in cui si afferma che "l'incitamento all'odio e la pubblicità discriminatoria non trovano posto sulla nostra piattaforma" e che "la sicurezza della comunità è" fondamentale per la nostra missione." Pertanto, “stiamo rimuovendo questi campi di targeting auto-segnalati finché non avremo messo in atto i processi giusti per aiutare a prevenire ciò problema".
Va tutto bene, ma tratta il problema come un problema di pubblicità e algoritmi. Non dice nulla sulle persone che ostentano orgogliosamente il loro antisemitismo sulle pagine di Facebook. Essere in grado di fare pubblicità direttamente ai razzisti è chiaramente un problema sociologico se viene sfruttato, ma lo è non sarebbe un problema se Facebook non permettesse a queste persone di identificarsi con orgoglio senza ripercussioni. Suggerire che questo sia semplicemente un inganno algoritmico significa in qualche modo seppellire il lede – aggiungilo a La pila dei problemi di Facebook.
