53% NUOLAIDA ŽURNALO MANO NAMAI PRENUMERATAI
Ar išmaniųjų technologijų prijaukinimas namuose yra saugus?

Ar išmaniųjų technologijų prijaukinimas namuose yra saugus?

Ar kas klausė savęs, ką reikėtų daryti, jeigu išmanieji namai imtų ir išprotėtų, t. y. mums sukurta patogi gerovė imtų ir nebepaklustų namų šeimininkui, kaip tame „Disney Channel Original“ filme „Išmanieji namai“ (sukurtame dar 1999 m.). Jame kompiuterinė namų sistema „Pat“, demonstruodama savo perdėtą rūpestį, įkalina namų šeimininkus name. Jeigu kam nors kiltų klausimas, ar tokia situacija apskritai realybėje įmanoma, atsakymas būtų: „Šiandien ne, bet tik šiandien.“

Dirbtinio intelekto pagrindu veikiančių sistemų laimėjimai verčia sunerimti, kas gi laukia ryt, po mėnesio, metų, dešimties ar dvidešimties. Ar galime būti tikri, kad, populiarėjant išmaniesiems namams, vieną dieną jų šeimininkai nesulauks dirbtinio intelekto sistemos pasipriešinimo arba kito aktyvaus veikimo, kuris nors ir būtų iš esmės tinkamas ir teisingas, tokių namų šeimininkui nebūtų priimtinas.

Tarkime, išmaniųjų namų buities ir namų apyvokos prietaisai, įvertinę, kad namų šeimininkas X turi antsvorio, keliančio pavojų asmens sveikatai ir galbūt net gyvybei, priimtų sprendimą vykdyti namų šeimininko sveikatinimo programą. Dėl to išmaniųjų namų elektroninės svarstyklės su išmaniąja apyranke, stebinčia asmens širdies ritmą ir kraujo spaudimą, bendradarbiaudamos su namų šaldytuvu ir sandėliavimo lentynomis, atsakingomis už šviežio maisto laikymą, išsiųstų nurodymus asmens elektroninės bankininkystės sistemai, kad ši užsiblokuotų kiekvieną kartą asmeniui norint įsigyti nesveiko maisto. Taip išmaniųjų namų sistema, veikdama išimtinai pagal namų šeimininko interesus ir jį sveikatindama, gal net gelbėdama asmens gyvybę, apribotų jo veiksmus ir laisvą valią, neleisdama jam pačiam spręsti, kokią gyvenseną pasirinkti.

Vertinant pateiktą pavyzdį pagal 2015 m. vyraujančias tendencijas, visa ši tragikomiška situacija, labiau primenanti ne realybę, o epizodą iš fantastinės knygos, gali tapti tikra arba artima realybei. Dėl šiandien stebimos sparčios dirbtinio intelekto sistemų pažangos netolimoje ateityje sulauksime situacijų, kai autonominės dirbtinio intelekto pagrindu veikiančios sistemos, įvertinusios galimas grėsmes ir pavojus asmenims, priims sprendimus, kurie nors ir nesutaps su pačių asmenų valia, tačiau atitiks jų interesus. O kas tuomet?

Išmanioji revoliucija

Dar palyginti visai neseniai skaičiavome paskutines XX a. saulėlydžio minutes ir su nerimu žvelgėme į XXI a. priešaušrį – tą blankią šviesą, kuri ima ryškėti saulei kylant vis aukščiau. Save laikome ypatingos epochos karta, išgyvenusia šimtmečio ir tūkstantmečio sandūrą bei dvi tariamas pasaulio pabaigas 2000 ir 2012 metais. Ir galų gale atsitokėję po visų šių įvykių pradėjome dairytis į aplinką, kurioje atsidūrėme. O ši aplinka mus pasitiko su dideliu trenksmu, į kiekvieno gyvenimą atnešdama išmaniųjų technologijų ir jų lydimą „išmaniosios revoliucijos“ formuojamą išmaniąją kultūrą. Tarsi jos tik ir laukė tūkstantmečių sandūros tam, kad su naujo amžiaus ir tūkstantmečio pradžia galėtų pradėti skaičiuoti savo epochos pradžią.

Nepaisant iššūkių, su kuriais susiduriame žingsnis po žingsnio keisdami sociumo veidą (sąrangą), pradėtą formuoti dar pramonės revoliucijos laikais, tampame tinklų visuomene, gyvenančia sėlinančios finansų pramonės revoliucijos ir ryškiai šviečiančios, kiekvieną kartą priverčiančios aiktelėti ir stebėtis išmaniųjų technologijų revoliucijos laikais. Kas laukia šio etapo pabaigoje, dabar galime tik spėlioti, o gal net lažintis, jeigu tik lošimų ir lažybų operatoriai leistų atlikti tokius statymus. Aišku tik viena, kad technologijos tobulinamos ir pačios tobulėja kiekvieną dieną, o mes turime galimybę tai stebėti ir netgi dalyvauti vis atsinaujinančių technologijų gyvavimo etapuose.

Ir nors XVIII–XIX a. sandūroje vykusią pramonės revoliuciją didžioji masė pasitiko priešiškai, XXI a. išmanioji revoliucija laukiama plačiai atvertomis durimis. Tarsi patys net nepastebėdami leidžiamės būti prijaukinami išmaniųjų technologijų:

– į savo gyvenimus lengvai įsileidžiame išmaniuosius telefonus, nors puikiai žinome, kad būti jų savininku tolygu privataus gyvenimo atskleidimui, o gal net neturėjimui;
– džiaugiamės robotikos laimėjimais, kai vienarankis robotas įveikia samurajų kovodamas kardu;
– laukiame, kada galėsime įsigyti virtualiosios realybės akinius, nors jų naudojimas gali paskatinti apleisti savo tikrąją realybę;
– su nekantrumu stebime mintimis valdomų technologijų vystymą, nors vien galimybė nuskaityti žmogaus mintis turėtų versti sunerimti;
– diskutuojame apie bepiločius automobilius, vildamiesi netolimoje ateityje jiems perleisti visą atsakomybės naštą;
– susidomėję stebime dirbtinio intelekto sistemų laimėjimus, šioms vis sparčiau mokantis ir kaupiant savo individualią patirtį, pratinamės prie „dirbtinio intelekto“ sąvokos, nors patys sau retai atsakome, ką gi apskritai tas „dirbtinis intelektas“ reiškia ir kokias pasekmes gali sukelti jo gebėjimas priimti autonomiškus sprendimus;
– patikime savo sveikatos duomenis išmaniajai apyrankei ar laikrodžiui ant rankos, nors, būdami daiktų interneto dalimi ir sąveikaudami su kitais įrenginiais, surinktus duomenis jie atskleidžia siekiantiesiems iš to pasipelnyti;
– su jauduliu stebime išmaniųjų namų evoliuciją, vildamiesi, kad ir mūsų namai greitai taps išmanūs ir juose esančius įrenginius bus galima valdyti vienu mygtuko paspaudimu esant už šimtų kilometrų, nors net nepagalvojame, kad tas mygtuko paspaudimas ne tik atliks mūsų norimą funkciją, bet ir nusiųs duomenis juos renkantiems ir analizuojantiems žmonėms, nustatantiems kiekvieno mūsų charakteristiką ir įpročius;
– ką jau kalbėti apie tokių technologijų kaip trimačiai (3D) spausdintuvai bei teleportacijos keliamas grėsmes. Nors kol jie plačiu mastu neperžengė laboratorijų slenksčių, šias temas galima trumpam atidėti. Bet tik trumpam.

Gal ir gerai, kad nesame tokie technofobiški, kaip buvome (visuomenė) prieš daugiau nei porą šimtų metų, prasidėjus pramonės perversmui. Tapome tolerantiškesni ir supratome, kad priešintis naujų technologijų teikiamai pažangai nėra prasmės. Tą energiją, kuri būtų skirta nepasitenkinimui ir pasipriešinimui išreikšti, būtų galima panaudoti kur kas tinkamiau ir efektyviau.

Technologijos bus tobulinamos ir tobulės. Tai daryti skatina rinka ir smalsi bei ambicijų kurstoma žmogaus prigimtis. Naujovės į kiekvieno mūsų gyvenimą brausis, kaip ir brovėsi, ir tik nuo mūsų priklausys, kaip greitai tapsime išmaniosios kultūros dalimi. Svarbiausia nepamesti dėl to galvos ir kiekvieną naujovę pasitikti atsakingai – tiek kiekvienam individualiai, tiek visai visuomenei bendrai. Tai mes esame tie, kurie turi prijaukinti išmaniąsias technologijas prie savo aplinkos, nes būtent jos į mūsų aplinką įsiveržia, o ne atvirkščiai. Juk ir šunys buvo sunkiai prijaukinami, kol mūsų protėviai to nesiėmė.

Tik ką gi reiškia tas išmaniųjų technologijų prijaukinimas? Tai ne tik pripratimas ir įsileidimas į savo kasdienybę, tai ir saugus bei atsakingas kūrimas, naudojimas, nuolatinis domėjimasis galimybėmis ir grėsmėmis ir, svarbiausia, suvaldymas. Liaudies išmintis sako: jei žinotum, kur krisi, pagalvę pasidėtum. Tad jau dabar turėtume „pasidėti pagalvę ten, kur numanomai krisime“, t. y. ruoštis tam, kas mūsų laukia „ryt“, kad technologinio intelekto sprogimą pasitiktume tam pasirengę. Tačiau ar mes tai darome?

Teisinis reguliavimas

Šiandien jau galime nuspėti, kokių pavojų sulauksime naudodamiesi išmaniosiomis technologijomis. Deja, net ir žinant grėsmes, vis dar neaišku, kas atsakys, jei bepilotis automobilis partrenks karvę. Tiksliai nežinome, koks bus teisinis robotų, lyg ir tuoj pasirodysiančių masinėje gamyboje bei įsiveršiančių į mūsų namus ir kasdienybę, statusas. Negalime atsakyti ir į tai, ar egzistuojantis teisinis reguliavimas bus pajėgus susitvarkyti, kai dirbtinio intelekto sistemų pagrindu veikiantys įrenginiai priims savarankiškus sprendimus, turinčius tam tikras pasekmes, įskaitant teisines. Kol kas nei pasaulio, nei Europos Sąjungos, nei nacionaliniu lygmeniu neturime teisės nuostatų, kurios apibrėžtų išmaniųjų technologijų ir asmens (tiek fizinio, tiek juridinio) teisinį santykį ir jį reguliuotų.

Na, taip, turime interneto teisę, elektroninių technologijų (sistemų) teisę ir kt., bet šios sritys apibrėžia teisinius santykius, susiklostančius tarp asmenų, arba tuos teisinius santykius, kurie atsiranda asmenims ir automatinėms elektroninėms sistemoms sąveikaujant su kitomis tokiomis pat sistemomis. Tokie santykiai reglamentuojami Jungtinių Tautų konvencijos dėl elektroninių komunikavimo priemonių naudojimo tarptautiniams sandoriams sudaryti ir kitomis teisės aktų nuostatomis. Ši konvencija įtvirtina ir bendrąjį principą, kad asmuo (tiek fizinis, tiek juridinis), kurio priežiūra suprogramuotas kompiuteris, yra atsakingas už įrenginio generuojamas žinutes. Tačiau konvencija apibrėžia tik tuos atvejus, kai duomenys generuojami automatiškai. Tai jokiu būdu nėra tapatu autonominiam (savarankiškam, savo nuožiūra) duomenų generavimui ir sprendimų priėmimui, kurį geba atlikti dirbtinio intelekto sistemos.

Europos Komisijos iniciatyva turime ir kelis įgyvendintus projektus, kurie kartu truko ilgiau nei ketverius metus. Dėl jų (projektai „euRobotics“ ir „RoboLaw“) šiandien turime siūlymą dėl Žaliosios knygos robotikos teisės klausimais ir Robotikos reglamentavimo gaires. Taip pat organizuojamos įvairios konferencijos ir diskusijos akademiniu lygmeniu. Deja, kol kas neturime nieko, susijusio su įstatymais. Susidaro įspūdis, kad, išmaniosioms technologijoms sparčiai risčia lekiant į priekį ir mus visus džiuginant savo laimėjimais, ta sritis, kuri turėtų sureguliuoti teisinių santykių stabilumą ir užtikrinti teisinį saugumą, niekaip negali išsibudinti iš letargo miego.

Iš dalies suprantama, kodėl teisinė sistema it ištikta stabo negali adekvačiai reaguoti į tokį spartų išmaniųjų technologijų progresą. Juk teisės dogmos visuomenės pasitikėjimą užsitarnauja tik būdamos stabilios ir beveik nekintančios, kad kiekvienas jas galiausiai įsisavinęs, net ir praėjus keliems dešimtmečiams, žinotų savo teisinį statusą bei teisių ir pareigų mastą. Tačiau ar tikrai tokia teisinio reguliavimo stagnacija gali būti pateisinama išmaniųjų technologijų revoliucijos kontekste? Juk jau šiandien daugelis mūsų kišenėje nešiojamės išmanųjį telefoną, galingumu, galimybėmis ir grėsmėmis keliasdešimt kartų, o gal net ir daugiau, pralenkiantį prieš porą dešimtmečių turėtą asmeninį kompiuterį. Juk jau šiandien naudojamės dirbtinio intelekto sistemomis, gal net patys apie tai nenutuokdami. Juk jau šiandien dairomės, kaip savo namus paversti išmaniais, kad buitis būtų paprastesnė, o gyvenimas juose malonesnis.

Išmaniosioms technologijoms betarpiškai dalyvaujant žmonių gyvenime ir gebant priimti savarankiškus sprendimus, neišvengiamai klostysis situacijos, kai pačių technologijų priimami sprendimai ir, atsižvelgiant į priimtus sprendimus, atliekami veiksmai darys poveikį laisvai žmonių valiai ir gyvensenai. Įvertinus šią problemą, natūraliai kyla klausimas: o kaip suvaldyti dirbtinio intelekto sistemas, kad jos aktyviai veikdamos visuomenėje ir netgi vedinos gerų tikslų ir ketinimų nepažeistų kitų asmenų teisių, o jeigu taip ir atsitiktų, kad dėl jų padarytų pažeidimų atsiradusi žala būtų tinkamai atlyginta? Rasti sprendimus atsakant į šiuos klausimus svarbu ir todėl, kad teisinio sureguliavimo stoka neribotų ir nestabdytų technologijų vystymo ir vystymosi. Juk gali būti, kad šiandien negalime pasinaudoti kokia nors technologija tik dėl teisinio reglamentavimo spragų.

2015 m. sausio mėnesį daugiau nei 6000 asmenų, tarp jų ir fizikas Stephenas Hawkingas bei inžinierius, išradėjas Elonas Muskas, pasirašė atvirą laišką Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter, kuriuo pabrėžė dirbtinio intelekto poveikį visuomenei, numatė dirbtinio intelekto discipliną kaip prioritetinę tyrimų sritį ir nustatė tyrimo sričių gaires ir prioritetus: (i) dirbtinio intelekto ekonominio poveikio optimizavimas; (ii) tyrimai teisės ir etikos srityse; (iii) technologijos tyrimai, siekiant išlaikyti dirbtinio intelekto veikimo stabilumą; (iv) ilgalaikiai prioritetiniai tyrimai.

Taigi privačių iniciatyvų atsiranda ir daugėja. Norėtųsi, kad jų daugėtų dar sparčiau. Negalime sau leisti užsnūsti mėgaujantis komfortu, kurį suteikia išmaniosios technologijos, t. y. negalime sau leisti būti prijaukinti šių technologijų. Pakartojus straipsnio pradžioje išsakytą mintį ir klausimą, kas laukia, kai autonominės dirbtinio intelekto pagrindu veikiančios sistemos, įvertinusios galimas grėsmes ir pavojus asmenims, priims sprendimus, kurie nors ir nesutaps su pačių asmenų valia, tačiau atitiks jų interesus, atsakymas yra paprastas: kol kas nė vienas nežinome, kas bus, kai taip atsitiks. Kas žino, gal didieji futurologai yra teisūs kalbėdami apie intelekto sprogimą ir technologinį singuliarumą.

Kiekvienas esame atsakingas, kad technologijos būtų tinkamai prijaukintos prie mūsų aplinkos ir kad išmanieji namai netaptų mūsų kalėjimu. Tam reikalingos visuomenės, ne tik pavienių individų, pastangos. Juk tereikia nuolat domėtis tuo, kas vyksta, žiūrėti toliau nei kelių metrų spinduliu nuo savęs, matyti aplinką ne tik išmaniojo ekrane, bet ir pakeliant akis nuo jo, aktyviai dalyvauti įvairiose iniciatyvose skatinant atsakingus asmenis (įstatymleidystės srityje) veikti, o ne snausti.

Mano išsaugoti straipsniai