Ak ste podobne ako my v posledných mesiacoch pozorne sledovali novinky v oblasti robotiky, možno ste si všimli trochu znepokojujúci trend. Ak nie, tu je niekoľko nadpisov:
Najnahnevanejší robot na svete je vo vývoji
Katana s robotom stojí proti samurajskému pánovi
Robotický gepard dokáže bežať rýchlosťou a skákať cez prekážky
Myslíte na to, čo si myslíme my?
Počas posledných mesiacov vedci pracovali na robotovi, ktorý simuluje hnev; robot, ktorý je démonom s mečom; robot, ktorý je super agilný. Máme sa obávať – alebo je žoviálne predpovedanie robotickej apokalypsy pre každý technologický pokrok akýmsi novinárskym tikotom?
Na to neexistuje priama odpoveď a názory sú rozdelené aj vo vedeckej komunite, ale hrozba určite zdá sa skutočnejšie ako pred desiatimi rokmi. Aby sme nezabudli, v 90. rokoch to bolo najbližšie k učiacemu sa robotu, ktorý sa väčšina z nás dostala:
V súčasnosti však väčšina západného sveta drží vo vrecku počítač, ktorý by ich mohol – pri správnom naprogramovaní – prekabátiť pri každej príležitosti.
„Práca na umelej inteligencii prebieha od 50. rokov 20. storočia, ale vážne obavy z vytrácania sa kontroly v tých prvých dňoch prakticky neexistovali“
Hrozba bola považovaná za dostatočne závažnú na to, aby si veľké mená sadli a všimli si ju. Začiatkom tohto roka, an otvorený list uznala riziká strojového zariadenia, ktoré predbieha ľudstvo, a vyzvala na zavedenie bezpečnostných opatrení. „Odporúčame rozšírený výskum zameraný na zabezpečenie toho, aby stále schopnejšie systémy AI boli robustné a prospešné: naše systémy AI musia robiť to, čo chceme, aby robili my,“ dokázal dostatočne solídny (alebo vágny, v závislosti od vášho cynizmu), že odborníci na robotiku, profesori MIT a odborníci z Microsoftu a IBM boli medzi signatári.
Bill Gates, Elon Musk a Stephen Hawking všetci vyjadrili výhrady k vývoju AI – v skutočnosti boli aj poslední dvaja spolupodpisovatelia otvoreného listu.
Ak si myslíte, že tento strach z robotického vnímania sa u nás objavil, nie ste sami. Práca na umelej inteligencii prebieha od 50. rokov minulého storočia, no vážne obavy o kontrolu skĺznutie v tých prvých dňoch prakticky neexistovalo a zrýchľovalo sa len v poslednej dobe mesiacov.
Ako povedal Anders Sandberg, odborník na futurológiu z Oxfordskej univerzity, vysvetľuje v otázkach a odpovediach na RedditČiastočne to bolo spôsobené pokútnosťou celého pojmu v čase, keď boli roboty tak neohrozene primitívne: „Čím je riziko „čudnejšie“, tým je trápnejšie ho študovať. Ale iba pri pohľade na podivné veci môžeme zistiť, či je to skutočne tak nízka pravdepodobnosť alebo nekoherentné, že sa to neoplatí hľadať viac, alebo skrytý skutočný problém.“ Inými slovami, skutočnosť, že ide o sci-fi trope, nemusí nutne znamenať, že by mala byť vylúčená z ruka.
Tieto rozpaky umocňuje mierne naivné presvedčenie, že ak by sme boli v situácii, keď nás zabijaci roboti chceli zničiť, jednoducho by sme ich mohli znova vypnúť. Ako autor Superinteligencia: cesty, nebezpečenstvá, stratégie Profesor Nick Bostrom vo svojej prednáške na TED hovorí, že to tak nemusí byť:
Pomocou príkladu podobného tomu maximalizátor kancelárskych sponiekBostrom si predstavuje scenár, v ktorom robot, ktorého úlohou je robiť ľudí šťastnými, usúdi, že najúčinnejší spôsob, ako si vynútiť úsmevy, ktoré hľadá, sú elektródy. "Mohli by ste povedať, že ak počítač začne lepiť elektródy do ľudských tvárí, jednoducho ho vypneme," argumentoval Bostrom. "Nie je to nevyhnutne také ľahké, ak sme sa stali závislými na systéme, napríklad kde je vypnutý internet?"
„Prečo šimpanzy nevypnú vypínač na ľudstvo? Alebo neandertálci? Určite mali dôvody. Dôvodom je, že sme inteligentný protivník. Dokážeme predvídať hrozby a plánovať okolo nich. Ale aj superinteligentný agent a v tom by bol oveľa lepší ako my“.
Zatiaľ čo nepochybne existujú ľudia, ktorí volajú po opatrnosti, iní túto hrozbu odmietajú ako imaginárnu alebo prehnanú – nie je prekvapením, že ju vedú tí, ktorí práca v priemysle – niečo, kvôli čomu je ťažké odlíšiť upokojujúce uistenie o odbornosti od červenej vlajky záujmy.
Andrew Ng, veterán AI, ktorý založil prvý tím spoločnosti Google Deep Learning, by rád poukázal na frustrujúce spojenie medzi inteligenciou a vnímaním: „Počítače sú čoraz inteligentnejšie a to je užitočné v autonómnych autách, systémoch rozpoznávania reči alebo vyhľadávačoch. To je inteligencia," Ng vysvetlil Fusionovi. "Ale vnímanie a vedomie nie sú niečo, o čom si väčšina ľudí, s ktorými hovorím, myslí, že sme na ceste."
„Nepracujem na tom, aby som umelej inteligencii zabránil zmeniť zlo z rovnakého dôvodu, pre ktorý nepracujem na boji proti preľudneniu planéty Mars. O stovky rokov, keď už, dúfajme, kolonizujeme Mars, môže byť preľudnenie vážnym problémom a budeme sa s ním musieť vysporiadať."
Alan Winfield, profesor elektronického inžinierstva na UWE Bristol píšem v The Guardian, tiež vníma akúkoľvek hrozbu ako dlhodobú. “Ak darí sa nám budovať umelú inteligenciu ekvivalentnú ľuďom ak že AI získa úplné pochopenie toho, ako funguje, a ak potom sa mu podarí zdokonaliť sa a vytvoriť superinteligentnú AI ak že super-AI – náhodne alebo so zlým úmyslom – začne spotrebovávať zdroje a ak nepodarí sa nám vytiahnuť zástrčku, potom áno, môžeme mať problém. Riziko, aj keď nie je nemožné, je nepravdepodobné."
„Ak sa vám títo odborníci zdajú byť mrzutí, je to pochopiteľné. Osobne nepracujú na ničom, v čom vidia riziká – ale môžu hovoriť za všetkých ostatných?
Demis Hassabis, spoluzakladateľ výskumnej spoločnosti DeepMind AI, ktorú vlastní Google, poskytuje vzácny rozhovor v najnovšom čísle Drôtové odmieta obavy o budúcnosť AI ako „nepodložený humbuk od ľudí, ktorí sú inteligentní vo svojich vlastných doménach, ale nepracujú v AI“.
"Sú to ľudia, ktorí v skutočnosti niečo nestavajú, takže hovoria z filozofických a sci-fi obáv, bez takmer žiadnych vedomostí o tom, čo tieto [technológie] dokážu."
„Samozrejme, že to môžeme zastaviť – navrhujeme tieto veci... Nechcel by som poučovať Stephena Hawkinga o čiernych dierach: Videl som Interstellar ale neviem o žiarení čiernych telies do takej miery, že by som to mal propagovať v tlači.“
Ak sa zdá, že títo experti sú trochu nervózni (a každý záznam rozhovoru obsahuje frázy ako „vzdychne“ a „unavene“), je to pochopiteľné. Osobne nepracujú na ničom, v čom vidia riziká – ale môžu hovoriť za všetkých ostatných? A mohol by tu byť nádych arogancie? Je ťažké byť objektívny, keď je to tak tvoj životné dielo, ktoré je kritizované.
Pravdepodobne je to najväčšie riziko, ktoré tu existuje. Ako Sandberg uzavrel vo svojom rozhovore na Reddit, prvok prílišnej sebadôvery môže byť najväčším nepriateľom: „Koniec koncov, väčšina robotov má problém nespadnúť... Keď trávite dni snahou to zvládnuť navigovať z jedného konca miestnosti na druhý a zlyhá, potom je ťažké si predstaviť robota povstanie.”
„Zdá sa, že v syntetickej biológii si veľa ľudí myslí, že zmenia svet, no mnohí z tých istých ľudí si tiež myslia, že ich organizmy sú úplne bezpečné – na základe ich skúseností s prúd, organizmy, ktoré nemenia svet. To je, samozrejme, chyba: všetko, čo môže zmeniť svet, môže byť rizikom.
Veríme teda odborníkom, ktorí s AI pracujú každý deň, alebo menej špecializovaným intelektom, ktoré sa nepokojne miešajú v tempe vývoja? Po tom, čo som sa predtým odmietol zapojiť do jedného novinárskeho tiketu, vrátim sa k ďalšiemu osvedčenému: jednoducho je príliš skoro na to povedať, ale zvýšená kontrola by mala znamenať, že ak nás roboty nakoniec zabijú, mohli by sme to aspoň vidieť prichádza.
Snímky: Kampaň na zastavenie robotov zabijakov a Penyri Herrera používané pod Creative Commons
