Google ha chiesto a circa 10.000 contratti indipendenti di segnalare qualsiasi contenuto inquietante o offensivo nel tentativo di garantire che domande come "L'Olocausto è reale?" non mostrare risultati che fornirebbero agli utenti propaganda e disinformazione.
Questi appaltatori, denominati “valutatori di qualità”, secondo Search Engine Land, vengono utilizzati da Google per valutare i risultati di ricerca. Sebbene non abbiano la possibilità di modificare direttamente quali risultati vengono visualizzati o in quale ordine, i dati che producono vengono utilizzati per migliorare gli algoritmi del motore di ricerca e i sistemi di intelligenza artificiale.
La guida utilizzato dai valutatori della qualità è stato recentemente aggiornato per includere una sezione di contenuto "sconvolgente-offensivo", che li informa su quale tipo di contenuto dovrebbe essere contrassegnato con questa designazione.
"Ricorda che gli utenti di tutte le età, generi, razze e religioni utilizzano i motori di ricerca per una varietà di esigenze", ha osservato la guida sulla necessità del flag di contenuto sconvolgente-offensivo.
Secondo la guida, i contenuti che promuovono odio o violenza basati su religione, nazionalità, etnia e cittadinanza sono soggetti a segnalazione. Ciò consente ai valutatori di contrassegnare determinati risultati che ruotano attorno a questioni come la negazione dell'Olocausto e l'antisemitismo.
Questi sforzi arrivano dopo un incidente del 2016 in cui il risultato numero uno per "l'Olocausto è realmente accaduto?" ha fornito una risposta scioccante - no, non l'ha fatto. Il risultato ha anche portato gli utenti a Stormfront, un forum neo-nazista della supremazia bianca. Anche molti altri risultati che appaiono sulla prima pagina hanno fornito risposte simili.
Dopo un intenso contraccolpo Dopo il guardiano evidenziato il problema, Google ha lavorato su modi per migliorare il suo motore di ricerca in modo che i contenuti offensivi e sconvolgenti, insieme con disinformazione e propaganda, non trova la sua strada verso la parte superiore della pagina dei risultati in particolare interrogazioni.
Sebbene i risultati di Google ora possano essere contrassegnati come offensivi o sconvolgenti, Google non rimuove completamente questo contenuto dal motore di ricerca; sta semplicemente impedendo che questi risultati appaiano a coloro che non li stanno cercando.
Ad esempio, qualcuno che cerca "l'Olocausto è accaduto?" non vedrà risultati che affermano che non è così. Chi cerca per nome un sito web neonazista, invece, potrà accedervi.
