V roku 2015 sa Reddit zameral na svoj laissez-faire administratívny postoj zavedením nového súboru pravidiel proti obťažovaniu, čo viedlo k uzavretiu niekoľkých poľutovaniahodných subredditov. Patrili medzi ne body imaging shaming r/fatpeolehate a biele nacionalistické centrum r/coontown.
V tom čase bol tento krok kritizovaný kútmi komunity Reddit ako obmedzovanie slobody prejavu; predvídateľná reakcia vzhľadom na predchádzajúci prístup Redditu kultivoval množstvo okrajových pravicových skupín. Iní používatelia Redditu kritizovali zákaz z dôvodu efektívnosti, čo naznačuje, že zatvorenie množstva subredditov by len posunulo týchto používateľov do iných skupín.
Teraz, a štúdium spoluautorom medzi Technologickým inštitútom v Georgii, Emory University a University of Michigan je presvedčivo zistilo, že zákaz funguje a že potlačenie toxických subredditov má jasný vplyv na nenávistné prejavy stránky.
Výskumníci skúmali viac ako 100 miliónov príspevkov z Redditu z obdobia pred a po tom, čo správcovia zakázali r/fatpeolehate a r/coontown. Potom prišli so spôsobom, ako kvantifikovať používanie nenávistných prejavov:
„Vzhľadom na to, že Reddit zakázal fóra r/fatpeoplehate a r/CoonTown, zameriavame sa na textový obsah, ktorý je pre tieto fóra charakteristický,“ vysvetľuje noviny. „Pomocou techniky automatizovanej identifikácie kľúčových slov vytvárame lexikóny kľúčových slov pre r/fatpeolehate a r/CoonTown, čo umožňuje sledovať, či sa slová v týchto lexikónoch stávajú bežnejšími na iných fórach po zákaze.
Pozri súvisiace
„Ďalej manuálne kontrolujeme automaticky generované lexikóny a identifikujeme podskupinu výrazov, ktoré sú špeciálne orientované na nenávistné prejavy. Tieto manuálne upravované lexikóny sú redšie, ale ponúkajú vyššiu presnosť.“
Naprieč oboma radami výskumníci zistili, že značný počet používateľov po nadobudnutí účinnosti zákazu prerušil svoje účty. Tí, ktorí zostali, sa nestali virulentnejšími vo svojich názoroch, ale naopak znížili svoju úroveň nenávistných prejavov „aspoň o 80 %“ v nasledujúcich príspevkoch.
„Po zákaze zaznamenal Reddit 90,63 % pokles v používaní manuálne filtrovaných nenávistných slov používateľmi r/fatpeolehate a 81,08 % pokles v používaní manuálne filtrovaných nenávistných slov používateľmi r/CoonTown (v porovnaní s ich príslušnou kontrolou skupiny). Pomocou permutačných testov sa overilo, že pozorované zmeny v používaní nenávistných prejavov sú spôsobené zákazom a nie náhodnou náhodou.“
Jednou kritikou zákazu v roku 2015 bolo, že by „rozšíril infekciu“, pričom bývalí používatelia toxických subredditov priniesli svoje posolstvo do neškodných komunít. Výskumníci namiesto toho zistili, že používatelia r/CoonTown sa presťahovali do subredditov „kde bolo rasistické správanie buď zaznamenané, alebo je rozšírené“, vrátane r/The_Donald a r/BlackCrimesMatter. Používatelia r/fatpeolehate sa presunuli na subreddits „venované praženým používateľom, ktorí dobrovoľne uverejňujú obrázky seba alebo iných“, vrátane /RoastMe, ako aj herných a televíznych uzlov ako r/fo4 a r/MrRobot.
V oboch prípadoch štúdia nezistila žiadnu zmenu v používaní nenávistných prejavov „napadnutých“ subredditov: „Migranti áno nepriniesli so sebou nenávistné prejavy do svojich nových komunít, ani ich dlhoroční obyvatelia neprevzali ich.”
Záverom pre vedcov je, že zákaz fungoval a podarilo sa mu znížiť výskyt nenávistných prejavov na úrovni používateľov aj komunity. Výskumníci však poznamenávajú, že toxickí používatelia zrejme utekali na iné, nejasnejšie stránky, ako je klon Reddit, Voat a Gab. Zákaz teda úplne nepotlačil bigotnosť, ale pokiaľ ide o cieľ Redditu zachovať zdravie vlastnej komunity, bol to jasný úspech.
Pokračujúca existencia subreddits, ako napríklad r/The_Donald naznačuje, že prístup Reddit nie je ani zďaleka komplexný, ale štúdia je toho silným dôkazom hádzanie bariér pred nenávistnými komunitami môže zabrániť tomu, aby sa toxické ideológie zakorenili najmä platformy. Pokiaľ ide o širšiu otázku o tom, ako možno bojovať proti nenávisti na internete vo všeobecnosti, je to problém, ktorý zaujíma nielen ľudí ako napr. Facebook a Google, ale vlády na celom svete. Začiatkom tohto roka napríklad niekoľko britských poslancov obvinilo sociálne siete z „predávania nenávisti“ a vyzvali ich, aby urobili viac, aby zabránili online zneužívaniu.
