Facebook, ako som už písal, je spoločnosť, ktorá zažíva obrovské množstvo rastúcich bolestí. To sa dá očakávať od každého klubu, ktorého členmi je takmer tretina planéty – nemôžete očakávať, že všetci budú reprezentovať vaše hodnoty.
Napriek tomu nie je dobrý vzhľad, keď váš príjmový model hlúpo zjednodušuje šírenie nenávistných prejavov publiku, o ktorom viete, že bude vnímavé. Toto je problém, ktorému musí Facebook čeliť po a ProPublica vyšetrovanie odhalili, že by mohla zobrazovať sponzorované reklamy na Facebooku priamo v časovej osi ľudí s výrazom „nenávisť k Židom“ v ich životopise.
Publikácia zaplatila 30 dolárov za zacielenie na jednotlivcov, ktorí sa zaujímali o témy „nenávisť voči Židom“ (2 274 ľudí), „ako upaľovať Židov“ (dvaja ľudia), „História toho, prečo Židia ničia svet“ (jedna osoba) a „Hitler neurobil nič zlé“ (15 ľudia). Objavenie tejto koalície fanatizmu nestačilo na vytvorenie reklamného segmentu, algoritmus sociálnej siete naznačil, že ProPublica zacieliť na ľudí so záujmom o druhý dodatok, čo by ho podporilo o zdravých 119 000 ľudí.
Druhý dodatok sa pre nevedomých týka práva nosiť zbraň – a skutočnosť, že algoritmus spoločnosti navrhol skupinu, naznačuje, že existuje veľa ľudí vo Vennovom diagrame pre antisemitov a tých, ktorí nosia svoje nadšenie pre vlastníctvo zbraní rukávy. Na koniec, ProPublica sa rozhodol využiť fanúšikov nemeckej Schutzstaffel a nacistickej strany do svojho reklamného segmentu, čím sa zvýšil o ďalších 5 643 ľudí.Zatiaľ čo ProPublica dať týmto ľuďom zámerne nevýraznú reklamu (do 15 minút ju schválil Facebook), hrozí, že ostatní mohli využiť bezprecedentnú schopnosť sociálnej siete zamerať sa na ľudí podľa ich záujmov na šírenie propagandy alebo organizáciu krajnej pravice zhromaždení. Ako to bolo, ProPublica podarilo prinútiť 101 ľudí, aby sa preklikli na široko necielenú správu.
K jeho cti treba povedať, že Facebook rýchlo odstránil útočné značky ProPublica oznámila svoje zistenia a spoločnosť chcela poukázať na to, že bola vygenerovaná algoritmom. To znamená, Bridlica po vyšetrovaní nadviazali na jednu zo svojich vlastných, pričom našli rovnako znepokojujúce kategórie, ktoré môžu inzerenti zneužiť:
Pozri súvisiace
Facebook teraz odstránil možnosť inzerentov zacieliť na ľudí na základe „samozrejme cieleného“. polia“, čo by malo viesť k viac hygienickým možnostiam – aj keď je pravdepodobne stále možné zacieliť použitím termíny píšťalky ak viete, aké legitímne frázy použiť.
Facebook vydal k veci úplné vyhlásenie, ktorá tvrdí, že „nenávistné prejavy a diskriminačná reklama nemajú na našej platforme miesto“ a že „bezpečnosť komunity je „kritická pre misiu.” Preto „odstraňujeme tieto polia zacielenia nahlásené sami, kým nezavedieme správne procesy, ktoré pomôžu tomuto problém".
To je všetko v poriadku, ale problém rieši ako problém reklamy a algoritmov. Nehovorí nič o ľuďoch, ktorí svoj antisemitizmus hrdo nosia na rukávoch na facebookových stránkach. Možnosť robiť reklamu priamo rasistom je jednoznačne sociologický problém, ak sa to zneužíva, ale je to tak nebolo by problémom, keby Facebook nedovolil takýmto ľuďom hrdo sa bez nich identifikovať dôsledky. Naznačiť, že je to len algoritmický snafu, trochu pochováva led – pridajte to k tomu hromada problémov Facebooku.
