Prečo sa Stephen Hawking mýli o robotoch zabijakov
Nicole Kobie
Keď géniovia ako Elon Musk a Stephen Hawking volajú po zákaze niečoho, je ťažké nesúhlasiť. Keď požadujú zákaz zabijackych robotov, je ešte ťažšie spochybniť ich úsudok. Napriek tomu sa tu chystám povedať, že oni a tisícka ich šikovných kolegov sa mýlia.
Pozri súvisiace
Aby bolo jasné, nesúhlasím s podstatou ich varovania. Skupina akademikov a vedúcich podnikateľov argumentovala v otvorenom liste, že autonómne zbrane, tie, ktoré „vyberajú a zapájajú ciele bez ľudského zásahu“, sú uskutočniteľné v priebehu rokov, nie desaťročia. To je znepokojujúce, tvrdia, pretože hoci by mohli znížiť počet ľudských vojakov, ktorí musia riskovať svoje životy vo vojnách, znížia aj „prah pre boj do boja“.
"Hoci je ťažké argumentovať proti zákazu, je to v konečnom dôsledku zbytočné: vlády ho porušia, rovnako ako obmedzenia na každý iný škodlivý aspekt technológie."
„Kľúčovou otázkou pre ľudstvo dnes je, či začať globálne preteky v zbrojení s umelou inteligenciou, alebo im zabrániť, aby sa začali,“ píše sa v liste. „Ak nejaká významná vojenská mocnosť presadí vývoj zbraní AI, globálne preteky v zbrojení sú prakticky nevyhnutné konečný bod tejto technologickej trajektórie je zrejmý: autonómne zbrane sa stanú kalašnikovmi zajtrajška. Na rozdiel od jadrových zbraní nevyžadujú žiadne drahé alebo ťažko dostupné suroviny, takže ich masová výroba bude všadeprítomná a lacná pre všetky významné vojenské mocnosti.
Skutočne desivé, a hoci je ťažké argumentovať proti zákazu, v konečnom dôsledku je to zbytočné: vlády ho porušia, rovnako ako obmedzenia na každý iný škodlivý aspekt technológie. Jednoducho neexistuje spôsob, ako by svetové armády prestali vyvíjať automatizované zbrane kvôli otvorenému listu od Hawkinga a jeho priateľov, alebo dokonca kvôli medzinárodnému právu.
„Tí, ktorí publikovali príbehy o snoopingu, boli odmietnutí ako blázni. Teraz vieme, že ich "paranoja" nebola nič také."
Vezmime si napríklad šmírovanie. Po celé roky, dokonca desaťročia, výskumní pracovníci v oblasti bezpečnosti, technickí experti a dokonca aj novinári poukazovali na nevyhnutnosť masovej internetovej komunikácie, ktorá sa využíva na sledovanie občanov. Tí, ktorí publikovali príbehy o snoopingových programoch, ako je Echelon, boli odmietnutí ako blázni. Teraz Snowdenove odhalenia dokazujú, že ich „paranoja“ nebola nič také.
Nakoniec list robí o niečo viac, než že zmierňuje vlastnú vinu výskumníkov, že ide o technológiu budova bude použitá na nemorálne prostriedky – keď sa to nevyhnutne stane, môžu aspoň povedať, že sa o to pokúsili varovať nás. Ako sa uvádza v liste: „Tak ako väčšina chemikov a biológov nemá záujem o výrobu chemických alebo biologických zbraní, väčšina výskumníkov AI nemá záujem o výrobu Zbrane umelej inteligencie – a nechcem, aby si iní tým poškodzovali svoje pole, čo by mohlo spôsobiť veľkú verejnú reakciu proti umelej inteligencii, ktorá obmedzuje jej budúcu spoločnosť. výhody.”
Čo teda tento oveľa hlúpejší človek očakáva, že títo múdri ľudia urobia? Urobili prvý krok tým, že identifikovali problém a hovorili o ňom, namiesto toho, aby nechali debatu v uzavretých miestnostiach plných vojenských stratégov. Teraz je však čas ísť ďalej a konať, namiesto toho, aby ste čakali, kým sa umelá inteligencia stane samozrejmosťou. 
"Si dosť múdry na to, aby si videl problém skôr, ako začne dusiť ľudí po celom svete, ale rob viac ako len písanie listov."
Opäť sa pozrite na dohľad: po odhaleniach Snowdena výskumníci zdvojnásobili svoje úsilie prísť s nástrojmi proti sledovaniu. Teraz existujú smartfóny určené na blokovanie snoopov, ako napríklad Blackphone; viac webových stránok prešlo na úplné šifrovanie; a dokonca aj technológia za Torom sa zlepšuje, čo znamená, že by sa čoskoro mohla stať de facto metódou surfovania, aby sa zabránilo dohľadu. Len keby sme skôr videli hodnotu takejto práce.
Takže, pre signatárov tohto listu: ste dosť múdri na to, aby ste videli problém skôr, ako začne šliapať po celom svete a vraždiť ľudí, ale robte viac než len písanie listov. Vymyslite systémy na ochranu pred robotmi zabijakov, na zabránenie automatickým dronom v zameriavaní sa na živé bytosti alebo na to, aby sme sa pred takýmito terormi chránili. Môj maličký mozog si ani nevie predstaviť, čo to obnáša, ale zúfalo chcem, aby takáto ochrana existovala – pretože som si celkom istý, že na to, aby sa zabránilo zabíjaniu zbraní AI, bude treba viac než dôrazne formulovaný list ľudí.
ČÍTAJTE ĎALEJ: Stroje na zabíjanie robotov – vzbúria sa?
Snímky: Kampaň na zastavenie robotov zabijakov a Lwp Kommunkacio používané pod Creative Commons
