Troll bashing keyboard adalah norma di Twitterverse dan jejaring sosial belum melakukan pekerjaan luar biasa untuk mengendalikannya. Sedemikian rupa sehingga satu agensi kreatif orang ketiga menelepon Mungkin, merasa perlu untuk turun tangan dan mengubah ujaran kebencian menjadi sesuatu yang baik, meluncurkan kampanye yang disebut Kami Melawan Kebencian.
Bermitra dengan cepat, Mungkin sudah bisa melatih AI untuk mengenali tweet yang penuh kebencian. Saat AI mendeteksi pesan kebencian, moderator manusia akan mengirimkan tweet balasan kepada troll, mengingatkan mereka bahwa tweet mereka telah dibalas oleh kebaikan karma. Untuk setiap retweet yang We Counter Hate dapatkan, Possible, dengan donasi dari publik, akan memberikan kontribusi sebesar $1 kepada organisasi nirlaba tersebut, Kehidupan Setelah Benci.
Berbicara kepada VentureBeat, Kemungkinan menjelaskan bagaimana tim melatih botnya untuk mengenali ujaran kebencian dengan mengadaptasi pidato Gregory Stanton Sepuluh Tahap Genosida, memadatkan dokumennya hingga ke bagian-bagian yang hanya relevan dengan Twitter – dari tweet yang dimaksudkan untuk tidak manusiawi hingga tweet yang dimaksudkan untuk mempolarisasi komunitas.
Bekerja sama dengan Spredfirst untuk membantu memoderasi pesan masuk, AI mengkategorikan tweet ini ke dalam berbagai aliran ujaran kebencian. Kemungkinan kemudian memberi makan ini melalui sistemnya sehingga dapat mempelajari nuansa linguistik dari ucapan. Setelah dilatih, ia menandai pesan untuk moderator manusia untuk mengintervensi dan mengidentifikasi apa yang sebenarnya merupakan ujaran kebencian dan apa yang mungkin dibingungkan oleh sistem.
(Di atas: Contoh aksi @we_counter_hate)
Memerangi troll di platform favorit mereka? Itu ide yang bagus. Kecuali… ada beberapa kelemahan utama.
Masalah menggunakan bot untuk melawan troll
Troll suka merusak tujuan yang pada dasarnya baik. Mau tak mau saya diingatkan akan serangkaian peristiwa menyakitkan yang melibatkan aktor, Shia LaBeouf. Dalam sebuah pertunjukan seni online bernama Dia Tidak Akan Memisahkan Kita, LaBeouf berusaha meluncurkan aliran 24 jam yang memprotes pelantikan Donald Trump. Itu seharusnya ditampilkan untuk seluruh masa jabatan Trump, tetapi rumahnya di Museum Gambar Bergerak hanya bertahan tiga minggu setelah serangan troll skala besar.
We Counter Hate tampaknya prima untuk meniru resep kegagalan Labeouf. Tidak sulit membayangkan skenario di mana troll terus mencari cara untuk merusak bot.
Kedua, bukankah kampanye tersebut tampak seperti, dengan cara yang menyimpang, hampir mendorong ujaran kebencian? Jika Anda ingin melihat lebih banyak tweet yang melawan, tweet yang penuh kebencian harus diposting di jejaring sosial terlebih dahulu. Orang-orang mungkin akhirnya memposting ujaran kebencian untuk memicu bot.
Sementara kampanye seperti ini, secara teori, adalah hal yang baik, sebagian besar skeptisisme saya keliru dengan mengatakan ini semua akan berakhir dengan air mata bagi pengguna. Masalahnya, tidak ada solusi tunggal yang jelas untuk menangani troll online. Masalahnya bisa dibilang berasal dari sistem jejaring sosial itu sendiri; sesuatu yang sering disukai Twitter dan Facebook mengikat diri mereka sendiri mencoba untuk membongkar. Tidak ada solusi antipeluru tunggal, dan bot yang pada akhirnya bekerja untuk pemasaran satu agensi kreatif tidak mungkin menyelesaikan masalahnya sendiri.
