अध्ययन से पता चलता है कि रेडिट के जहरीले सबरेडिट्स पर प्रतिबंध ने नफरत फैलाने वाले भाषण को रोकने में काम किया

2015 में, Reddit ने उत्पीड़न विरोधी नियमों का एक नया सेट पेश करके अपने अहस्तक्षेप प्रशासन के रवैये पर जोर दिया, जिसके परिणामस्वरूप मुट्ठी भर निंदनीय सबरेडिट बंद हो गए। इनमें बॉडी इमेजिंग शेमिंग आर/फैटपीपलहेट और व्हाइट नेशनलिस्ट हब आर/कूनटाउन शामिल थे।

उस समय इस कदम की रेडिट समुदाय के कुछ लोगों ने अभिव्यक्ति की स्वतंत्रता में कटौती के रूप में आलोचना की थी; रेडिट के पिछले दृष्टिकोण को देखते हुए एक पूर्वानुमानित प्रतिक्रिया ने कई सीमांत दक्षिणपंथी समूहों को तैयार किया था। अन्य Reddit उपयोगकर्ताओं ने प्रभावशीलता के आधार पर प्रतिबंध की आलोचना की, यह सुझाव देते हुए कि सबरेडिट्स के एक समूह को बंद करने से केवल उन उपयोगकर्ताओं को अन्य समूहों में धकेल दिया जाएगा।

अब एक अध्ययन जॉर्जिया इंस्टीट्यूट ऑफ टेक्नोलॉजी, एमोरी यूनिवर्सिटी और मिशिगन यूनिवर्सिटी के बीच सह-लेखक ने निर्णायक रूप से काम किया है यह निर्धारित किया गया कि प्रतिबंध काम कर गया, और जहरीले सबरेडिट्स को कुचलने से दुनिया भर में नफरत फैलाने वाले भाषण पर स्पष्ट प्रभाव पड़ा। साइट।

शोधकर्ताओं ने प्रशासकों द्वारा r/fatpeoplehate और r/coontown पर प्रतिबंध लगाने से पहले और बाद में Reddit के 100 मिलियन से अधिक पोस्ट का सर्वेक्षण किया। फिर वे घृणास्पद भाषण के उपयोग को मापने का एक तरीका लेकर आए:

पेपर में बताया गया है, "यह देखते हुए कि रेडिट ने आर/फैटपीपलहेट और आर/कूनटाउन मंचों पर प्रतिबंध लगा दिया है, हम उन पाठ्य सामग्री पर ध्यान केंद्रित करते हैं जो इन मंचों की विशिष्ट विशेषता है।" “एक स्वचालित कीवर्ड पहचान तकनीक का उपयोग करके, हम r/fatpeoplehate और के लिए कीवर्ड के शब्दकोष बनाते हैं आर/कूनटाउन, जो यह ट्रैक करना संभव बनाता है कि क्या इन शब्दकोषों के शब्द अन्य मंचों में अधिक सामान्य हो गए हैं प्रतिबंध के बाद.

“इसके बाद, हम स्वचालित रूप से उत्पन्न शब्दकोषों का मैन्युअल रूप से निरीक्षण करते हैं, और उन शब्दों के सबसेट की पहचान करते हैं जो विशेष रूप से घृणास्पद भाषण की ओर उन्मुख होते हैं। ये मैन्युअल रूप से परिष्कृत शब्दकोष विरल हैं, लेकिन उच्च परिशुद्धता प्रदान करते हैं।

दोनों बोर्डों में, शोधकर्ताओं ने पाया कि प्रतिबंध लागू होने के बाद बड़ी संख्या में उपयोगकर्ताओं ने अपने खाते बंद कर दिए। जो बचे रहे वे अपनी राय में अधिक उग्र नहीं हुए, बल्कि बाद की पोस्टों में उनके घृणास्पद भाषण के स्तर में "कम से कम 80%" की कमी आई।

“प्रतिबंध के बाद, Reddit ने r/fatpeoplehate उपयोगकर्ताओं द्वारा मैन्युअल रूप से फ़िल्टर किए गए घृणास्पद शब्दों के उपयोग में 90.63% की कमी देखी, और a आर/कूनटाउन उपयोगकर्ताओं द्वारा मैन्युअल रूप से फ़िल्टर किए गए घृणास्पद शब्दों के उपयोग में 81.08% की कमी (उनके संबंधित नियंत्रण के सापेक्ष) समूह)। घृणास्पद भाषण के उपयोग में देखे गए परिवर्तनों को क्रमपरिवर्तन परीक्षणों के माध्यम से सत्यापित किया गया था कि यह प्रतिबंध के कारण हुआ था, न कि यादृच्छिक अवसर के कारण।”

2015 में प्रतिबंध की एक आलोचना यह थी कि इससे "संक्रमण फैलेगा", विषाक्त सबरेडिट के पूर्व उपयोगकर्ता अपना संदेश अहानिकर समुदायों में लाएंगे। इसके बजाय शोधकर्ताओं ने पाया कि r/CoonTown उपयोगकर्ता सबरेडिट्स में चले गए "जहां नस्लवादी व्यवहार या तो नोट किया गया है या प्रचलित है", जिसमें r/The_Donald और r/ब्लैकक्राइम्समैटर शामिल हैं। r/fatpeoplehate के उपयोगकर्ता स्वेच्छा से पोस्ट करने वाले रोस्टिंग उपयोगकर्ताओं के लिए समर्पित सबरेडिट्स में चले गए स्वयं की या दूसरों की तस्वीरें", जिनमें /RoastMe, साथ ही गेमिंग और टीवी हब जैसे r/fo4 और शामिल हैं आर/मिस्टररोबोट।

दोनों मामलों में, अध्ययन में "आक्रमणित" सबरेडिट्स के घृणास्पद भाषण के उपयोग में कोई बदलाव नहीं पाया गया: "प्रवासियों ने किया अपने नए समुदायों में घृणास्पद भाषण अपने साथ नहीं लाए, न ही लंबे समय से रहने वाले निवासियों ने इसे अपनाया उन्हें।"

शोधकर्ताओं के लिए लब्बोलुआब यह है कि प्रतिबंध ने काम किया, जिससे उपयोगकर्ता और समुदाय दोनों स्तरों पर घृणास्पद भाषण के प्रसार को कम करने में सफलता मिली। हालाँकि, शोधकर्ता इस बात पर ध्यान देते हैं कि विषैले उपयोगकर्ता अन्य, अधिक अस्पष्ट साइटों, जैसे रेडिट क्लोन, वोएट और की ओर भागते प्रतीत होते हैं। गपशप. इसलिए, प्रतिबंध ने कट्टरता पर पूरी तरह से मुहर नहीं लगाई, लेकिन जहां तक ​​रेडिट के अपने समुदाय के स्वास्थ्य को बनाए रखने के लक्ष्य की बात है, यह एक स्पष्ट सफलता थी।

का अस्तित्व जारी रहा सबरेडिट्स जैसे r/The_Donald सुझाव देता है कि Reddit का दृष्टिकोण व्यापक नहीं है, लेकिन अध्ययन इसका एक मजबूत संकेत है घृणित समुदायों के सामने बाधाएँ डालने से विषैली विचारधाराओं को विशेष रूप से जड़ें जमाने से रोका जा सकता है प्लेटफार्म. जहां तक ​​इस बड़े सवाल का सवाल है कि आम तौर पर इंटरनेट पर नफरत से कैसे लड़ा जा सकता है, यह एक ऐसा मुद्दा है जो न केवल पसंद करने वालों के लिए चिंता का विषय है। फेसबुक और गूगल, लेकिन दुनिया भर में सरकारें। उदाहरण के लिए, इस साल की शुरुआत में, यूके के कई सांसदों ने सोशल नेटवर्क पर "नफरत फैलाने" का आरोप लगाया और उनसे ऑनलाइन दुरुपयोग को रोकने के लिए और अधिक प्रयास करने का आह्वान किया।