Po rýchlom vývoji technológií založených na AI, oklamať masy s hlboké falošné obrázky a videá sa stala ľahšou ako kedykoľvek predtým. Citujúc jeho potenciálne riziká pre spoločnosť, firmy ako Facebook, Reddit, a Microsoft už prišli na spôsoby a nástroje, ako ich odhaliť deepfake obsah na sociálnych platformách. Teraz tím počítačových vedcov vyvinul nový nástroj na detekciu hlbokých falošných správ založený na AI. Zisťuje hlboko falošný obraz kontrolou odrazov svetla v očiach objektu.
Nástroj AI Deepfake Detector Tool meria odraz v očiach
Nový nástroj, vyvinuté počítačovými vedcami z University of Buffalo je pomerne jednoduchý systém. Napriek tomu sa ukázalo, že je 94% účinný pri odhaľovaní hlboko falošného obsahu.
Pre nezasvätených sú hlboké falošné obrázky a videá generované aplikáciami založenými na AI, ktoré analyzujú tisíce fotografií a videí rôznych jednotlivcov v reálnom živote. Po ich analýze môžu nástroje vytvárať realisticky vyzerajúce obrázky a videá osoby, ktorá ani neexistuje. Navyše ich možno použiť na generovanie falošných tvárí populárnych celebrít na šírenie dezinformácií a oklamanie más online.
Na vytvorenie hlbokých falošných výsledkov teda nástroje AI analyzujú rôzne zdroje, aby pochopili, ako sa človek pohybuje, usmieva alebo mračí. Tieto informácie potom môžu použiť na inteligentné vytváranie digitálnych klonov iných jednotlivcov, ktoré vyzerajú vysoko realisticky.
Ako to funguje?
Teraz všeobecné nástroje na detekciu hlbokých falzifikátov analyzujú obsah, aby našli akékoľvek neprirodzené faktory, ako sú nepravidelné pohyby tváre alebo nadmerné vyhladzovanie pokožky. Nový nástroj sa však spolieha na odraz svetla v očiach subjektov na detekciu hlboko falošných obrázkov a videí.
Podľa vedcov je to preto, že odraz zdroja svetla na očiach objektu je niečo, čo nástroj založený na AI nezohľadňuje pri vytváraní hlboko falošného obsahu. Výsledkom je, že oči na hlboko falošných obrázkoch zobrazujú rôzne odrazy na každej rohovke, zatiaľ čo na oboch očiach by to malo byť rovnaké, ak je objekt skutočný. Pre lepšie pochopenie si môžete pozrieť porovnávací obrázok nižšie.
Vedci dodávajú, že nástroje na generovanie deepfake tiež nevedia úplne pochopiť ľudskú anatómiu a to, ako sa niektoré prvky menia pri interakcii s fyzickým svetom. Odraz v očiach je jedným z faktorov, ktoré sa menia v závislosti od zdroja svetla pred objektom v čase snímania obrázka alebo videa.
Tento nástroj deepfake teda využíva túto nekonzistentnosť v hlboko falošnom obsahu na ich úspešnú detekciu. Analyzuje obrázok a generuje skóre podobnosti. Vysoké skóre podobnosti znamená, že je nepravdepodobné, že obrázok bude falošný, zatiaľ čo nízke skóre znamená vyššiu šancu, že obrázok bude falošný.
Známe problémy
Teraz stojí za zmienku, že tento nástroj má niekoľko vlastných problémov. Napríklad to nefunguje, ak sa objekt nepozerá do fotoaparátu alebo na obrázku nie je viditeľné jedno oko objektu. Vedci však dúfajú, že tieto problémy odstránia ďalším vývojom nástroja v najbližších dňoch.
Odteraz tento nástroj dokáže ľahko odhaliť menej sofistikované deepfake médiá. V prípade kvalitnejšieho deepfake obsahu však môže nástroj trochu bojovať a môže byť nepresný.
Odporúčané články
Ďakujeme za zdieľanie tejto úžasnej správy! Máme ďalší nástroj, ktorý môžeme použiť na identifikáciu hlbokých falošných fotografií v reálnom čase, vďaka výskumníkom počítačového systému University of Buffalo pri vývoji tejto technológie. Vidím, že existujú prekážky, ktoré musia Siwei Lyu a tím prekonať, ale dúfam, že to bude úspešné. Dúfam, že sa to v budúcnosti podarí rozvinúť tak, aby pomocou tohto nástroja bolo možné odhaliť hlboko falošné videá. Teším sa na tento vývoj a aktualizácie. Ďakujeme za zdieľanie tohto článku.
OdpovedzteDeepfake
OdpovedzteQuiero hacer un defake
OdpovedzteSkvelé
Odpovedzte
