De ce Stephen Hawking greșește în privința roboților ucigași
Nicole Kobie
Când genii precum Elon Musk și Stephen Hawking cer interzicerea a ceva, este greu să nu fii de acord. Când cer interzicerea roboților ucigași, este și mai greu să le pună la îndoială judecata. Cu toate acestea, iată-mă, pe cale să spun că ei și o mie dintre colegii lor inteligenți au greșit.
Vezi legate
Pentru a fi clar, nu sunt de acord cu esența avertismentului lor. Colecția de cadre universitare și lideri de afaceri a susținut într-o scrisoare deschisă că armele autonome, cele care „selectează și angajează ținte fără intervenție umană”, sunt fezabile în decurs de ani, nu decenii. Aceasta este o preocupare, susțin ei, deoarece, deși ar putea reduce numărul de soldați umani necesari pentru a-și risca viața în războaie, ei scad și „pragul pentru a merge la luptă”.
„Deși este greu să argumentezi împotriva unei interdicții, în cele din urmă este inutilă: guvernele o vor încălca, la fel ca restricțiile asupra oricărei alte fațete dăunătoare ale tehnologiei.”
„Întrebarea cheie pentru umanitatea de astăzi este dacă să înceapă o cursă globală a înarmărilor AI sau să o împiedicăm să înceapă”, se arată în scrisoare. „Dacă orice putere militară majoră continuă cu dezvoltarea armelor AI, o cursă globală a înarmărilor este practic inevitabilă și punctul final al acestei traiectorii tehnologice este evident: armele autonome vor deveni Kalashnikov-urile de mâine. Spre deosebire de armele nucleare, acestea nu necesită materii prime costisitoare sau greu de obținut, așa că vor deveni omniprezente și ieftine pentru ca toate puterile militare semnificative să le producă în masă.”
Într-adevăr terifiant și, deși este greu să argumentezi împotriva unei interdicții, este în cele din urmă inutil: guvernele o vor încălca, la fel ca restricțiile pentru orice altă fațetă dăunătoare a tehnologiei. Pur și simplu, armatele lumii nu vor înceta să dezvolte armament automat din cauza unei scrisori deschise de la Hawking și prietenii săi sau chiar din cauza dreptului internațional.
„Cei care au publicat povestiri despre snooping au fost respinși ca niște idioți. Acum știm că „paranoia” lor nu a fost nimic de genul.”
Luați snooping, de exemplu. Ani de zile, chiar decenii, cercetătorii în domeniul securității, experții în tehnologie și chiar jurnaliștii au subliniat inevitabilitatea ca comunicațiile în masă prin internet să fie folosite pentru a iscusi cetățenii. Cei care au publicat povestiri în programele de snooping, precum Echelon, au fost respinși ca nebuni. Acum, dezvăluirile lui Snowden demonstrează că „paranoia” lor nu a fost nimic de genul.
În cele din urmă, scrisoarea nu face altceva decât să atenueze vinovăția cercetătorilor față de tehnologia pe care o folosesc clădirea va fi folosită pentru mijloace imorale – când se întâmplă inevitabil, ei pot măcar să spună că au încercat avertizati-ne. După cum notează scrisoarea: „Așa cum majoritatea chimiștilor și biologilor nu au niciun interes în construirea de arme chimice sau biologice, majoritatea cercetătorilor AI nu sunt interesați de a construi. Armele AI – și nu doresc ca alții să-și pătească domeniul lor făcând acest lucru, creând potențial o reacție publică majoră împotriva AI care îi limitează viitorul societal. beneficii."
Deci, ce se așteaptă această persoană mult mai proastă să facă acești oameni deștepți? Ei au făcut primul pas identificând problema și vorbind despre ea, mai degrabă decât să lase dezbaterea în săli închise pline de strategi militari. Dar acum este timpul să mergem mai departe și să luăm măsuri, mai degrabă decât să așteptăm până când luptătorii AI sunt obișnuiți. 
„Ești suficient de deștept ca să vezi problema înainte ca ea să cadă pe tot globul măcelând oameni, dar faci mai mult decât să scrii scrisori.”
Din nou, uitați-vă la supraveghere: după dezvăluirile Snowden, cercetătorii și-au dublat eforturile de a veni cu instrumente anti-supraveghere. Acum există smartphone-uri concepute pentru a bloca istoria, cum ar fi Blackphone; mai multe site-uri web au trecut la criptarea completă; și chiar și tehnologia din spatele Tor este îmbunătățită, ceea ce înseamnă că ar putea deveni în curând metoda de facto de navigare pentru a evita supravegherea. Dacă am fi văzut mai devreme valoarea unei astfel de lucrări.
Așadar, pentru semnatarii acelei scrisori: sunteți suficient de deștepți pentru a vedea problema înainte ca aceasta să cadă în picioare pe tot globul, sacrificând oameni, dar faceți mai mult decât să scrieți scrisori. Veniți cu sisteme pentru a vă proteja împotriva roboților ucigași, pentru a preveni dronele automate să țintească ființe vii sau pentru a ne proteja de astfel de terori. Micul meu creier nici nu-și poate imagina ce implică asta, dar îmi doresc cu disperare să existe astfel de protecții - pentru că sunt destul de sigur că va fi nevoie de mai mult decât o scrisoare puternic formulată pentru a opri armele AI să ucidă oameni.
CITEȘTE ASTA URMĂTOARE: Mașinile de ucidere roboți – se vor răzvrăti?
Imagini: Campanie pentru a opri roboții ucigași și Lwp Kommunkacio folosit sub Creative Commons
