Facebook er stadig ved at få styr på hele denne gennemsigtighedsaftale. I går udgav det sociale netværk sin første offentlighed nogensinde kvartalsrapport om, hvordan det håndhæver fællesskabsstandarder, og det så ud til, at dets mådeholdsbestræbelser var ret effektive. Men mens det sociale netværk så ud til med succes at luge ud 583 millioner falske konti i de første tre måneder af 2018, var der en iøjnefaldende detalje, der sprang ud i rapporten.
Virksomhedens auto-flaggende AI ser ud til at fungere godt til detektering af falske konti, spam og endda nøgenhed, men det ser ud til at have mange problemer med at opdage hadefulde ytringer på platformen.
I rapporten sagde Facebook, at dets AI-baserede værktøjer var i stand til at fjerne 98,5 % af de falske konti og næsten 100 % af spam, uden at brugerne rapporterede indholdet. AI formåede endda at markere 99,5 % af terrorpropagandaen og 95,8 % af voksennøgenhed og seksuel aktivitet. Det virkede mindre vellykket til at opdage grafisk vold, idet det kun lykkedes at finde 85,6 % af indholdet, men det tal er massivt sammenlignet med mængden af hadefulde ytringer, som AI opdagede. Ifølge rapporten var AI kun i stand til at markere 38% af hadefulde ytringer.
"Med hensyn til hadefulde ytringer fungerer vores teknologi stadig ikke så godt," Guy Rosen, VP for produktledelse, indrømmer på Facebook-bloggen.
"Det er dels, at teknologi som kunstig intelligens, selvom den lover, stadig er år væk fra at være effektiv til det meste af dårligt indhold, fordi konteksten er så vigtig," tilføjer han. "Kunstig intelligens er stadig ikke god nok til at afgøre, om nogen presser had eller beskriver, hvad der skete med dem, så de kan øge bevidstheden om problemet."
Se relateret
Sproget er massivt nuanceret, så træning af en AI til at genkende noget så komplekst som hadefuld tale, som kan præsentere sig selv på en række måder, bliver en svær opgave uden brug af mennesker mådehold. I modsætning til spam og falske konti, og endda nøgenhed og terrorpropaganda – som kan opdages gennem billedgenkendelse – er hadefulde ytringer meget sværere at politi.
Som Timothy Carone, lektor ved universitetet i Notre Dame fortalte AP: “Det er ikke overraskende, at Facebooks automatiserede programmer har de største problemer med at finde ud af forskelle mellem tilladte meninger og foragtelige sprogbrug, der går over grænsen.
"Det er som at prøve at finde ud af, hvad der svarer til at skrige 'Ild!' i et fyldt teater, når der er ingen og svarer til at sige noget, der er ubehageligt, men som kvalificeres som gratis tale."
En løsning ville være at stole mere på mennesker til at vurdere, om et indlæg kan klassificeres som hadefuld tale, men i betragtning af det sociale netværks store omfang er der ringe chance for, at indhold kan kontrolleres uden et niveau på automatisering.
I det mindste i dette tilfælde fungerer automatisk detektion gennem AI ikke nok til det er 2,9 milliarder brugere, og det sociale netværk skal finde en bedre måde at beskytte dem på sin platform. Med såret stadig frisk efter Cambridge Analytica, det kan have større fisk at stege først.
