ფეისბუქი ჯერ კიდევ ექვემდებარება გამჭვირვალობის მთელ ამ შეთანხმებას. გუშინ სოციალურმა ქსელმა თავისი პირველი საჯარო გამოაქვეყნა კვარტალური ანგარიში იმის შესახებ, თუ როგორ ახორციელებს იგი საზოგადოების სტანდარტებს და, როგორც ჩანს, მისი ზომიერების ძალისხმევა საკმაოდ ეფექტური იყო. მიუხედავად იმისა, რომ სოციალურმა ქსელმა 2018 წლის პირველ სამ თვეში 583 მილიონი ყალბი ანგარიშის წარმატებით გაქრობა ჩანდა, ანგარიშში იყო ერთი თვალშისაცემი დეტალი.
როგორც ჩანს, კომპანიის ავტომატური მონიშვნის ხელოვნური ინტელექტი კარგად მუშაობს ყალბი ანგარიშების, სპამის და სიშიშვლის გამოვლენისთვის, მაგრამ როგორც ჩანს, მას ბევრი პრობლემა აქვს პლატფორმაზე სიძულვილის ენის გამოვლენაში.
ანგარიშში Facebook-მა განაცხადა, რომ მისმა AI-ზე დაფუძნებულმა ინსტრუმენტებმა შეძლეს ყალბი ანგარიშების 98.5% და სპამის თითქმის 100% წაშლა, მომხმარებლების შინაარსის მოხსენების გარეშე. AI-მ მოახერხა ტერორისტული პროპაგანდის 99,5% და ზრდასრულთა სიშიშვლისა და სექსუალური აქტივობის 95,8% მონიშვნაც კი. ნაკლებად წარმატებული ჩანდა გრაფიკული ძალადობის გამოვლენაში, ახერხებდა შინაარსის მხოლოდ 85.6%-ის პოვნას, მაგრამ ეს მაჩვენებელი მასიურია სიძულვილის ენის რაოდენობასთან შედარებით, რომელიც AI აღმოაჩინა. მოხსენების თანახმად, ხელოვნურმა ინტელექტუალმა შეძლო სიძულვილის ენის მხოლოდ 38%-ის მონიშვნა.
”სიძულვილის ენის გამო, ჩვენი ტექნოლოგია ჯერ კიდევ არ მუშაობს კარგად,” გაი როზენი, პროდუქტის მენეჯმენტის ვიცე-პრეზიდენტი, აღიარებს ფეისბუქის ბლოგზე.
„ნაწილობრივ არის ის, რომ ტექნოლოგია, როგორიცაა ხელოვნური ინტელექტი, თუმცა პერსპექტიულია, მაგრამ ჯერ კიდევ წლებია დაშორებული ყველაზე ცუდი შინაარსისთვის ეფექტური იყოს, რადგან კონტექსტი ძალიან მნიშვნელოვანია“, დასძენს ის. „ხელოვნური ინტელექტი ჯერ კიდევ არ არის საკმარისად კარგი, რათა დადგინდეს, ვინმე სიძულვილს უბიძგებს თუ აღწერს იმას, რაც მათ შეემთხვა, რათა მათ შეძლონ ამ საკითხის შესახებ ცნობიერების ამაღლება“.
იხილეთ დაკავშირებული
ენა მასიური ნიუანსია, ამიტომ ავარჯიშებთ AI-ს, რომ ამოიცნოს ისეთი რთული, როგორიც სიძულვილის ენაა, რომელიც შეიძლება წარმოაჩინოს რამდენიმე გზა, რთული ამოცანა იქნება ადამიანის გამოყენების გარეშე ზომიერება. სპამისა და ყალბი ანგარიშებისგან განსხვავებით, სიშიშვლისა და ტერორისტული პროპაგანდისგან განსხვავებით, რომელთა აღმოჩენაც შესაძლებელია გამოსახულების ამოცნობით, სიძულვილის ენა პოლიციისთვის გაცილებით რთულია.
როგორც ნოტრ-დამის უნივერსიტეტის ლექტორმა ტიმოთი კარონემ განაცხადა AP: „გასაკვირი არ არის, რომ Facebook-ის ავტომატიზირებულ პროგრამებს ყველაზე დიდი სირთულე აქვთ დასაშვებ მოსაზრებებსა და საზიზღარ ენას შორის განსხვავებების გარკვევაში, რომელიც ზღვარს კვეთს.
„ეს ჰგავს ხალხმრავალ თეატრში „ცეცხლი!“ ყვირილს შორის ეკვივალენტის გარკვევას, როცა არ არსებობს და ექვივალენტურია იმის თქმა, რაც არასასიამოვნოა, მაგრამ კვალიფიცირდება როგორც უფასო გამოსვლა."
ერთ-ერთი გამოსავალი იქნება უფრო მეტად დაეყრდნოთ ადამიანებს იმის დასადგენად, შეიძლება თუ არა პოსტის კლასიფიცირება სიძულვილის ენად, მაგრამ სოციალური ქსელის უზარმაზარი მასშტაბის გათვალისწინებით, კონტენტის დონის შემოწმების მცირე შანსია ავტომატიზაცია.
ამ შემთხვევაში მაინც, ხელოვნური ინტელექტის საშუალებით ავტომატური გამოვლენა არ ხდება საკმარისია 2,9 მილიარდი მომხმარებლისთვის, და სოციალურმა ქსელმა უნდა მოძებნოს უკეთესი გზა, რათა დაიცვას ისინი თავის პლატფორმაზე. ჭრილობის შემდეგ ჯერ კიდევ სუფთა კემბრიჯ ანალიტიკა, მას შეიძლება ჯერ უფრო დიდი თევზი ჰქონდეს შესაწვავად.
