Pradedant nuo to, ką matome interneto paieškos rezultatuose, baigiant sprendimu, kaip tvarkome savo investicijas, kelionių maršrutus ir meilės gyvenimus, algoritmai tapo visur paplitusia mūsų visuomenės dalimi. Algoritmai nėra tik internetinis reiškinys: jie daro vis didesnį poveikį realiame pasaulyje. Vaikai gimsta poroms, kurias suderino pažinčių svetainių algoritmai, o bevairių automobilių navigacijos sistemos yra pasirengusios pakeisti mūsų kelius.
Praėjusį mėnesį Vokietija paskelbė etikos gaires siekiant nustatyti, kaip automobiliai be vairuotojo turėtų reaguoti neišvengiamuose susidūrimuose. Remiantis šiomis gairėmis, tokiais atvejais, kai be vairuotojo automobiliai negali išvengti susidūrimo, jie turėtų apsaugoti žmones, o ne turtą ar gyvūnus.
Problema ta, kad gyvename neįtikėtinai įvairiame pasaulyje, kuriame skirtingos tautos turi savo moralę ir kultūra, todėl algoritmai, priimtini vienai žmonių grupei, gali būti nepriimtini kitiems grupė. „Mes iš tikrųjų neturime bendro sutarimo dėl moralės“, – sako dr. Sandra Wachter, duomenų etikos tyrėja.
Oksfordo interneto institutas ir mokslinis bendradarbis Alano Turingo institutas. „Net ir regioniniu mastu Europoje labai skiriasi, kas mums svarbu ir kokias vertybes turime saugoti. Privatumas yra viena iš pagrindinių problemų Europoje, bet jei pažvelgsite, kaip Vokietija suvokia privatumą – ką jie galvoja apie privatumą ir kodėl tai svarbu – tai nebūtinai atsispindi JK.Žiūrėti susijusius
Etikai įtakos turi asmeniniai, kultūriniai ir religiniai veiksniai. Šios unikalios perspektyvos kyla iš kiekvienos šalies visuomenės patirties. „Nors kalbame apie tą patį, jie gardinami kitokia spalva, nes turime skirtingą patirtį“, – sako Wachter.
Etikos gairės automobiliams be vairuotojo gali būti iš esmės tinkamos Vokietijoje, tačiau jos nebūtų visuotinai priimtinos. Pavyzdžiui, tose pasaulio vietose, kur karvės plačiai laikomos šventomis, vairuotojai natūraliai bet kokia kaina vengtų partrenkti karvę. Taip pat yra kai kurių religijų, tokių kaip džainizmas, kurios teikia didelę reikšmę gyvūnų gyvenimui.
„Mes dažnai kalbame apie JAV normas, bet iš tikrųjų kalbame apie keistas normas, kurios yra primestos dėl šių dalykų“, – sako tyrėjas Matthew Blakstadas, knygos autorius. Laimingas vaiduoklis. WEIRD šiuo atveju reiškia vakarietišką, išsilavinusį, industrializuotą, turtingą ir demokratišką.
„Mes dažnai kalbame apie JAV normas, bet iš tikrųjų kalbame apie W.E.I.R.D. primetamos normos“
Tai išryškina problemą, kad nors algoritmai gali būti naudojami visame pasaulyje, jie visada turi savo programuotojų kultūrinį pagrindą ir perspektyvą. Wachteris teigia, kad problemų gali kilti, jei šias technologijas kuria vienos demografinės grupės žmonės. Jei taip atsitiks, rezultatuose trūks asmeninių, kultūrinių ir religinių niuansų, kurių reikia norint atspindėti pasaulio populiaciją. „Jis bus labai vienpusis, kai reikės kultūriškai įvairaus“, – perspėja ji.
Kultūrinis koduotojų suvokimas gali nesąmoningai paveikti jų priimamus sprendimus algoritminių programų kūrimo etape. Sprendimai dėl taisyklių rinkinių ir duomenų rinkinių, kurie naudojami lavinant mašininio mokymosi algoritmo elementą, gali natūraliai paveikti gautą elgesį. „Jų renkami duomenys ir bandymo būdas yra derinami, kad būtų nukreipti į vidų, todėl tai tinka jiems ir jų draugams“, – sako matematikė Cathy O'Neil, knygos autorė. Matematinės naikinimo ginklai.
Puikus pavyzdys yra tai, kaip vaizdo žaidimų kūrėjas kažkada netyčia sukūrė a rasistinis vaizdo žaidimas. Judesio sekimo algoritmas negalėjo aptikti tamsių odos atspalvių, nes fotoaparatas rėmėsi atspindėta šviesa, kad aptiktų judesį. Tai, kad tai nebuvo pastebėta kuriant ar bandant, rodo apgailėtiną šališkumą.
Tuo tarpu Snapchat pernai ginčijosi kai jie įdiegė Coachella festivalio filtrą. Šis filtras buvo sukurtas siekiant sukurti „vasaros festivalio atmosferą“ su gėlių girlianda. Jis taip pat turėjo odos balinimo funkciją.
Tai buvo pirmasis „pagražinimo“ filtras, automatiškai pašviesinantis odos tonus. Pagrindinis skirtumas tarp „Snapchat“ ir kitų nuotraukų dalijimosi platformų yra tas, kad be konkretaus vartotojo sutikimo buvo naudojami iš anksto nustatyti filtrai. Tai reiškia, kad kažkas kažkur manė, kad paryškinus asmens odos atspalvį jis taps patrauklesnis.
Šie nelaimingi algoritmų šališkumo pavyzdžiai gali būti konkretūs numatymo stokos atvejai, bet kai tokie taikomosios programos yra diegiamos visame pasaulyje, yra galimybė netyčia paveikti kultūrinį vystymąsi Kitos šalys. Labai gerai galime eiti link homogenizuotos ateities, kur algoritmai įtakoja vertybes per tam tikrą kultūrinę kolonizaciją. „Jie pakeis šalių kultūras, kad tiktų jų produktui“, – sako O'Neilas.
„Jie pakeis šalių kultūras, kad tiktų jų produktui“
Tačiau tai nebūtinai yra vienpusis turtingų vakariečių vertybių srovelė visame pasaulyje. Pavyzdžiui, Kinija taip pat tapo dirbtinio intelekto galiūne. Kai pradedame naudoti įrankius, apimančius Indijoje, Kinijoje ir kitose sparčiai besivystančiose ekonomikose užkoduotą logiką, Vakarai gali atsidurti ant kultūros kolonizacijos galo.
Kad ir kaip dramatiškai tai skambėtų, šie scenarijai nebūtinai turi sukelti masinę homogenizaciją. Iš tiesų, turint daugiau kultūrinių perspektyvų, susijusių su programavimo įrankių kūrimu, tikimasi, kad jų bus daug reikšmių pasiūlys daugiau pasirinkimo galimybių svarstant, kokie algoritmai turėtų veikti technologijoms ateitis. „Tai tarsi lazdelės ir šakutė“, – sako profesorius Luciano Floridi Oksfordo universitetas. „Tokiems kaip aš šakutę valdyti daug lengviau, tačiau ji nepakeitė lazdelių. Priklausomai nuo konkrečios programos ir verslo, kultūros bei visuomenės poreikių, pamatysime, kad bus pritaikytos įvairios priemonės.
Remiantis šiuo argumentu, ateinančiais dešimtmečiais gali susilieti skirtingos visuomenės perspektyvos, skatinančios jutiklių, dirbtinio intelekto ir technologijų, pvz., autonominių automobilių, vystymąsi; ateitis, kurioje pasirenkame, kokią priemonę naudoti ir kuris kultūrinis požiūris geriausiai tinka situacijai. Visa tai priklauso nuo to, ar yra įvairių kūrėjų, kurie kloja pagrindus. Reikalingas nekeistas kodas, taip pat suvokimas, kad algoritmai nėra neutralūs; kad jie atkeliauja su dideliu kultūriniu bagažu.
