Falošné správy sú fenomén, ktorý má rozsiahle zavádzajúce účinky. Je to tak horšie, že máme aplikácie, ktoré správy na overenie faktov. Nedávno výskumníci z Thayer School of Engineering v Dartmouthe vyvinuli nový model AI, ktorý zisťuje „zámer hovorcu zavádzať“.
Jednoducho povedané, AI sa snaží pochopiť, či sa daná osoba skutočne snaží zavádzať alebo či prichádza so závermi založenými na nesprávnych predpokladoch alebo nepravdivých informáciách, o ktorých sa domnieva, že sú pravda.
„Klamlivý zámer zámerne zavádzať poslucháčov predstavuje oveľa väčšiu hrozbu ako neúmyselné chyby. Podľa našich najlepších vedomostí je náš algoritmus jedinou metódou, ktorá odhaľuje klamstvo a zároveň rozlišuje škodlivé činy od benígnych. povedal Eugene Santos Jr., spoluautor a profesor inžinierstva na Thayer School of Engineering v Dartmouthe.
Výskumníci použili údaje z prieskumu z roku 2009, ktorý obsahoval názory 100 účastníkov na kontroverzné témy, a súbor údajov z roku 2011 obsahujúci 800 skutočných a falošných recenzií 20 hotelov. Algoritmus vyvinutý výskumníkmi údajne poukazuje na klamlivé názory.
Systém by sa dal ďalej rozvíjať zistiť, či sú správy logické a rozumné alebo je to čisto založené na vlastnom názore alebo zášti voči subjektu. Vedci citujú populárny film Ocean’s Eleven, aby ukázali, ako sa dá ich technika použiť na analýzu argumentov.
Vo filme je scéna, kde sa skupina zlodejov vláme do trezoru. Majiteľovi potom prezradia, že ho okrádajú. Zlodeji informujú majiteľa, že ak majiteľ nezavolá políciu, zoberú si len polovicu peňazí. Tu vlastne zlodeji chcú, aby majiteľ zavolal políciu, aby sa mohli prezliecť za policajtov.
„Ľudia očakávajú, že veci budú fungovať určitým spôsobom. Rovnako ako zlodeji vedeli, že majiteľ zavolá políciu, keď sa dozvie, že ho okrádajú. Takže v tomto scenári zlodeji použili tieto znalosti na to, aby presvedčili majiteľa, aby dospel k určitému záveru a nasledoval štandardnú cestu očakávaní. Vynútili si svoj podvodný zámer, aby majiteľ dospel k záverom, ktoré si zlodeji želali.”, dodal pán Santo.
Ak máte záujem dozvedieť sa viac o ich práci, pozrite si výskumnú prácu tu a dajte nám vedieť svoj názor na to v komentároch.
Odporúčané články
