Et britisk firma har udviklet en in-stream billedgenkendelsessoftware til at bortfiltrere uegnede fotos.
WeSee sagde, at dens piFilter-tjeneste undersøger billeder, der uploades fra telefoner eller computere, og filtrerer dem ind realtid ved hjælp af mønstergenkendelse og kunstig intelligens til at spotte potentielle billeder af børnemishandling eller nøgenhed.
Virksomheden sagde, at de nuværende systemer stolede for meget på tags, som kan stå tomme, og forbrugere rapporterer uanstændige billeder og manuel moderering.
"Facebook har mere end 50 millioner billeder uploadet hver uge - der er ingen måde, den kan gennemgå dem alle," fortalte Adrian Moxley, WeSee-medstifter, PC Pro. ”Det her handler om socialt og virksomhedernes ansvar. Hvis du opretter en platform, har du brug for et system til at kontrollere den."
Virksomheden sagde, at den lancerede tjenesten i kølvandet på advarsler sidste år fra CEOP-centret (Child Exploitation and Online Protection). børn lagde i stigende grad eksplicitte "selv-tagne" billeder af sig selv på nettet.
På trods af at de spillede børnebeskyttelseskortet, understregede virksomheden, at det ikke ville optræde som dommer og jury over, hvilket indhold der måtte være blokeret ved kilden.
"Det er op til udgiveren, internetudbyderen eller Facebook, hvad deres tilgang kan være, dette er et værktøj til at hjælpe dem med at kontrollere deres miljø," sagde Moxley. "Vi kan hjælpe operatører og sociale medier med at kontrollere, hvad brugerne deler."
Omkostningerne for tjenesten vil variere afhængigt af omfanget af virksomhedskunden, men WeSee sagde, at det havde været i taler med BT, hvor tjenesterne til et selskab af teleselskabets størrelse koster 0,03 øre pr. tusinde scannede billeder.
