Când o țestoasă nu este broasca testoasă? Când este o armă. Nu, nu este o glumă îngrozitor de neamuzată, este un fapt deprimant că IA de recunoaștere a imaginii de la Google poate fi păcălită atât de ușor să creadă că o figurină de broască țestoasă imprimată 3D este, de fapt, o pușcă.
Nu este prima dată când se întâmplă așa ceva, broasca țestoasă imprimată 3D reușește să încurce AI-ul Google, deoarece este un „imaginea contradictorie”. Aceste imagini sunt concepute în mod deliberat pentru a păcăli software-ul de recunoaștere a imaginilor, folosind modele speciale care fac sistemele AI confuze și, prin urmare, cred că văd altceva.
Poate că nu sună alarmant, dar dacă IA ajung să se ocupe de siguranța oamenilor, o astfel de eroare ar putea avea consecințe catastrofale. Ce se întâmplă dacă cineva păcălește un AI pentru a crea că arma pe care o vede nu este de fapt altceva decât o broască țestoasă?
„În termeni concreti, asta înseamnă că este posibil ca cineva să construiască un semn de vânzare în curte care pentru șoferii umani pare cu totul obișnuit, dar ar putea părea unei mașini care se conduce singur ca un pieton care apare brusc lângă stradă”, scrie Labsix, echipa de studenți de la MIT. OMS
a publicat cercetarea. „Exemplele adverse sunt o preocupare practică pe care oamenii trebuie să o ia în considerare, deoarece rețelele neuronale devin din ce în ce mai răspândite (și periculoase).”Cercetarea Labsix este primul caz în care aceste imagini adverse lucrează în formă 3D, AI fiind confundată de imprimarea 3D din mai multe unghiuri și condiții de iluminare. De obicei, aceste imagini pot fi depășite prin simpla rotire a acestora, astfel încât AI să le recunoască, dar deoarece aceasta funcționează din mai multe unghiuri, ar putea fi un pericol real pentru cercetarea AI în viitor.
Vezi legate
Cu toate acestea, merită remarcat faptul că hack-ul lui Labsix nu este atât de simplu pe cât ați crede. La fel de The Verge note, afirmația lui Labsix că funcționează din orice unghi nu este tocmai corectă, deoarece există câteva unghiuri, AI de recunoaștere a imaginii Inception-V3 de la Google nu este păcălit. Obiectele 3D adverse necesită, de asemenea, ca Labsix să vadă cum instrumentul Google recunoaște obiectul mai întâi pentru a-l identifica punctele sale slabe, astfel încât să le poată exploata - ceva ce mulți oameni nu ar putea face atunci când le creează imagini.
În ciuda avertismentului meu anterior că ceva ar putea merge grav greșit dacă aceasta ar deveni o problemă mai răspândită, este de fapt puțin probabil ca așa ceva să se întâmple vreodată. Nu numai că oamenii muncesc din greu încearcă să elimine aceste probleme, dar este puțin probabil ca cineva să pună o produs în sălbăticie care are implicații serioase de siguranță dacă această problemă nu este rezolvată în prealabil.
Cu toate acestea, este întotdeauna amuzant să vezi că AI-urile nu sunt atât de inteligente pe cât credem cu toții că sunt.
