Najnovšie varovanie Elona Muska o nebezpečenstvách AI prichádza v novom vyhlásení na Twitteri, v ktorom ho porovnáva s komunistickou Severnou Kóreou.
S rastúcim napätím medzi USA a Severnou Kóreou o potenciálnej jadrovej vojneMusk sa prihlásil, aby nám všetkým pripomenul, že AI je skutočne väčšie riziko. Jeho post prišiel krátko po tom, čo sa jeho vlastnému vývoju AI podarilo poraziť profesionálnych hráčov Dota 2 pred turnajom The International.
Muskove obavy sú opodstatnené a jeho posolstvo je pravdivé – vo veľkej schéme vecí je AI skutočne nebezpečnejšia ako Severná Kórea. Ak sa však Severná Kórea rozhodne bombardovať USA v priebehu budúceho týždňa, nemyslím si, že by sa AI mala skutočne znepokojovať.
Toto nie je ani zďaleka prvýkrát, čo Musk vyjadril svoje obavy týkajúce sa AI. Už sa spojil so Stephenom Hawkingom, aby obhajoval rozumný vývoj a Musk, ktorý sa zaoberal ochranou robotiky a umelej inteligencie, a vo svojom prejave na stretnutí Národnej asociácie guvernérov minulý mesiac opäť vysvetlil, prečo by sa ľudia podľa neho mali obávať. pochod AI.
„Mám prístup k najmodernejšej AI a myslím si, že ľudia by sa o to mali skutočne zaujímať,“ vysvetlil predtým, ako to označil za „najväčšie riziko, ktorému ako civilizácia čelíme“.
Jeho riešenie? Regulácia, najmä proaktívna regulácia. Podľa Muska vlády nerobia dosť pre plánovanie budúcnosti a vytváranie predpisov pre tých, ktorí v súčasnosti vyvíjajú technológie.
„AI je zriedkavý prípad, keď si myslím, že musíme byť pri regulácii proaktívni namiesto reaktívnej. Myslím si, že kým začneme reagovať na reguláciu umelej inteligencie, je už neskoro... AI je základným rizikom pre existenciu ľudskej civilizácie spôsobom, akým sú autonehody, havárie lietadiel, chybné lieky či zlé jedlo neboli."
„AI je základným rizikom pre existenciu ľudskej civilizácie“
Jeho špecifické obavy týkajúce sa AI nie sú na stupnici Terminátora a Skynetu sci-fi nezmyslov, sú skutočne pozoruhodne uzemnený a – pre každého, kto drží krok s politickou situáciou v USA – celkom blízko domov.
„[AI] by mohla začať vojnu [vytváraním] falošných správ a falšovaním e-mailových účtov a falošných tlačových správ a len manipuláciou s informáciami.“ Ak má táto AI nejaké pochopenie pre hnev alebo zlomyseľnosť, mohla by ľahko rozvinúť tieto tendencie a použiť ich proti nám na zvrhnutie ľudstva. Nie je to príliš pritiahnuté za vlasy: tím na Novom Zélande už áno pracuje na vývoji najnahnevanejšej AI na svete.
Umelá inteligencia by bola tiež impozantným protivníkom, ktorý by bol ľahko schopný predvídať a prekabátiť naše vlastné vzorce správania – čím by zmaril akýkoľvek pokus zastaviť to. Ako tvrdí Musk, bez riadnej a zodpovednej regulácie by nečestná AI mohla byť koncom nás všetkých.
Vzhľadom na to, že Musk má trochu libertariánsky pohľad na svet, je prekvapujúce vidieť, ako pevne verí, že vláda by mala zasahovať do vývoja AI. Chce, aby regulačné orgány mali právomoc zastaviť vývoj AI, kým nebudú skontrolované z hľadiska bezpečnosti – ale chápe, že sa to musí stať všetkým zainteresovaným, inak to dostanú akcionári v týchto podnikoch uštipačný.
„Potrebujete, aby to regulátori urobili pre všetky tímy v hre. V opačnom prípade budú akcionári hovoriť: „Prečo nevyvíjate AI rýchlejšie? Pretože váš konkurent je.“
Pozri súvisiace
Musk neverí, že výskumníci sa chystajú vybudovať zákernú umelú inteligenciu zameranú na zničenie ľudstva. Zdá sa však, že si myslí, že my ako ľudia skutočne nerozumieme tomu, čo vlastne tvoríme.
S Muskovým varovaním je však jeden problém – hovorí len s USA. Vývoj AI prebieha po celom svete, pričom vlastný projekt spoločnosti Google DeepMind v skutočnosti prebieha vo Veľkej Británii. Ak sú zodpovední iba vývojári z USA, čo to znamená pre zvyšok sveta?
Celý rozhovor s Muskom si môžete pozrieť vo videu nižšie – AI chat začína približne o 48 minút.
