Bijome dirbtinio intelekto? O juk jau laikas susimąstyti apie DI hakerius

Jo įgyvendinimas priklauso nuo konkrečių modeliuojamų ir nulaužiamų sistemų. Kad DI tiesiog pradėtų optimizuoti parengtą sprendimą, nekalbant jau apie naujo kūrimą, visos aplinkos sąlygos turi būti formalizuotos kompiuteriui suprantamu pavidalu. Būtina nustatyti DI tikslines funkcijas – tai yra, iškelti tikslus. DI būtinas grįžtamasis ryšys: kad suprastų, kaip sekasi susitvarkyti su užduotimi, ir gerintų savo našumą.

Kartais tai atlikti lengva. Pavyzdžiui, žaidimo „Go“ taisyklės, tikslas ir grįžtamasis ryšys — laimėjo ar pralaimėjo — griežtai apibrėžtos, ir chaoso čia niekas sukelti negali. DI GPT-3 rašo ganėtinai rišlius esė, nes jo „pasaulis“ visiškai paklūsta skaidrioms teksto organizavimo taisyklėms. Būtent todėl dauguma šiuolaikinių DI-hakingo pavyzdžių vyksta modeliuotose aplinkose. Jos dirbtinės ir apribotos, tad dirbtiniam intelektui galima pateikti aiškias taisykles.

Sistemos nevienareikšmiškumo lygio vaidmuo čia svarbiausias. Atrodytų, turėtų būti nesudėtinga DI „sumaitinti“ pasaulio mokesčių įstatymus – nes visi mokesčių kodeksai iš esmės apibrėžiami formulėmis – nustatančiomis mokesčio sumą kiekvienu konkrečiu atveju. Egzistuoja netgi įstatymų kodavimui optimizuota programavimo kalba „Catala“. Tačiau visuose įstatymuose visuomet yra tam tikras neapibrėžtumas. Jos neįmanoma išversti į kompiuterinį kodą, todėl DI jo neįkanda. Mokesčiais užsiimantys juristai gali miegoti ramiai: nepaisant DI vystymosi, apžvelgiamoje ateityje jų paslaugos liks paklausios.

Dauguma žmogiškų sistemų dar mažiau vienareikšmiškos, nei įstatymai. Sunku įsivaizduoti, kad DI galėtų sugalvoti realų sportinį išradimą, kaip, tarkime, lenktą ledo ritulio lazdą. DI turėtų idealiai suprasti ne tik žaidimo taisykles, bet ir žmogaus fiziologiją, lazdos ir ritulio aerodinamiką ir t.t. Teoriškai tai įmanoma, tačiau daug sudėtingiau, nei sugalvoti naują žaidimo „Go“ ėjimą. Šis mūsų sudėtingose visuomeninėse sistemose tūnantis nevienareikšmiškumas ir užtikrina apsaugą nuo DI-hakerių – bent jau artimiausioje ateityje.

Neišvysime DI sugeneruotų sportinių gudrybių tol, kol androidai nepradės patys vaikytis kamuolį ar kol nebus sukurtas bendras DI, gebantis suprasti visus susikertančius pasaulio matmenis. Tą patį galima pasakyti apie kazino (kada gi DI išmoks gerai žaisti kortomis?!) ir įstatymdavystės proceso nulaužimą. Dar negreitai DI galės modeliuoti ir imituoti žmonių darbą – po vieną ir grupėmis – kad sugalvotų naujus būdus, leidžiančius nulaužti įstatymų leidimo procesus.

Nors DI hakerių kupinas pasaulis kol kas egzistuoja tik knygose ir filmuose, ši rimta problema vis labiau plečiasi už mokslinės fantastikos ribų. DI sfera tobulėja neįtikėtinai sparčiai, o naujos galimybės atsiveria netikėtai ir šuoliškai. Tai, kas vakar mums atrodė beveik neįmanoma, pasirodė visiškai paprasta – o tai, kas atrodė lengva, virto didele problema. Devintojo dešimtmečio pradžioje buvo tikinama, kad žaidimo „Go“ kompiuteris niekuomet neperpras, nes jis labai sudėtingas: ne pačios taisyklės, o daugybė įmanomų ėjimų. Dabar DI — žaidimo „Go“ didmeistris.

Nors dėl šios priežasties DI pretenduoja tapti ateities problema, jos pranašus matome jau dabar. Mums būtina pradėti galvoti apie turimus suprantamus ir etiškus sprendimus – nes jei ir galime būti dėl ko nors tikri DI atžvilgiu, tai tuo, kad šių sprendimų mums prisireiks anksčiau, nei galėjome manyti.

Dirbtiniu intelektu generuojamų hakerių atakų pėdsakų pirmiausiai reikėtų ieškoti finansų sistemose – nes jų taisyklės sukurtos taip, kad būtų realizuotos algoritmais. Didelio dažnio prekybos (angl. High Frequency Trading, HFT) algoritmai yra primityvūs tokių atakų pavyzdžiai, bet ateityje jie bus daug sudėtingesni. Galime įsivaizduoti, kaip realaus laiko režimu dirbtiniam intelektui suteikiama visa pasaulio finansinė informacija, pasaulio įstatymai ir taisyklės, naujienos ir visa kita, kas mūsų manymu, gali būti reikšminga – o paskui jam iškeliamas tikslas gauti maksimalų teisėtą pelną. Ar tiesiog maksimalų.

Galima spėti, tokie laikai jau ne už kalnų, ir jau greitai išvysime naujus, visiškai nelauktus triukus (rizikos kapitalo fondai ir investavimo kompanijos investicinių sprendimų pagrindimui jau naudoja DI). Ir, tikėtina, bus tokios gudrybės, kurios yra kažkur už žmogaus supratimo ribų – o tai reiškia, mes niekados nesuprasime, kad jos iš principo egzistuoja.

Trumpuoju laikotarpiu veikiausiai įsibėgės bendras DI ir žmogaus hakingas. DI aiškinsis pažeidžiamumus, o patyrę buhalteriai ar mokesčių juristai — naudos savo patirtį ir vertinimus siekdami suprasti, ar galima tai naudingai panaudoti.

Beveik visą istoriją hakingas buvo išskirtinai žmonių užsiėmimas. Ieškant naujų gudrybių, būtina patirtis, laikas, kūrybingumas ir sėkmė. Kai hakingu užsiims DI, situacija iš esmės pasikeis. Dirbtiniam intelektui neegzistuoja žmonėms būdingi stereotipai ir apribojimai. Jam nereikia miegoti. Jis mąsto kaip ateivis. Ir jis sistemas apgudraus tokiais būdais, apie kokius mes nė nepagalvojame.

Kompiuteriai paspartino keturis hakingo parametrus: spartą, mastą, apimtį ir sudėtingumą. DI šią tendenciją dar paryškins.

Pasirengimo procesas, kuriam mes įprastai sugaištame mėnesius ar metus, gali sutrumpėti iki parų, valandų ar net sekundžių. Kas gali nutikti „sumaitinus“ dirbtiniam intelektui JAV mokesčių kodeksą ir liepus suskaičiuoti visus mokestinių prievolių minimizavimo būdus? Arba, transnacionalinių korporacijų atveju, išanalizuoti ir optimizuoti mokestinę politiką, remiantis visos planetos mokesčių kodeksais? Ar galėtų DI be pasakinėjimo suprasti, kad kompaniją išmintingiausia užregistruoti Delavere, o laivą — Panamoje? Kiek dar mums nežinomų landų jis aptiks? Dešimtis? Šimtus? Tūkstančius? Dar nežinome atsakymų į šiuos klausimus – tačiau, tikėtina, jie per artimiausią dešimtmetį atsiras.

Kai DI sistemos ims aptikti pažeidžiamumus, jos sugebės panaudoti juos tokiais mastais, kokiems esame tiesiog nepasirengę. Finansų sistemas sėkmingai apgudravęs DI dominuos šioje sferoje. Jau dabar mūsų kredito rinkos, mokesčių kodeksai ir bendrai įstatymai yra orientuoti į turtinguosius. DI šią nelygybę sustiprins. Pirmuosius finansų sistemos apgudravimo DI triukus sukurs ne teisingumo siekiantys tyrėjai, o globalūs bankai, rizikos kapitalo fondai ir kapitalo valdymo konsultantai.

Mūsų socialinės sistemos su hakerių atakomis susidoroja neblogai, bet jos buvo sukurtos, kai hakeriai buvo žmonės, o įsilaužiama žmogišku tempu. Neturime valdymo sistemos, kuri gebėtų greitai ir efektyviai reaguoti į atakų bangą per šimtus, nekalbant jau apie tūkstančius, šviežiai aptiktas mokesčių landas: mes tiesiog negalėsime taip greitai ištaisyti mokesčių kodekso. Mums nepavyko užkirsti kelio žmonėms Facebook naudoti demokratijos hakingui; sunku įsivaizduoti, kas gali nutikti, kai to imsis dirbtinis intelektas. Jei DI pradės ieškoti nenumatytų, tačiau legalių finansų sistemos gudrybių, o paskui pasaulio ekonomikai surengs pasiutpolkę, atsigavimas bus ilgas ir skausmingas.

Hakingas panaudojant DI atveria kelią sudėtingoms, žmogaus proto galimybėmis neapribotoms strategijoms. Sudėtinga statistinė analizė dirbtiniu intelektu gali išryškinti tarpusavio ryšius tarp kintamųjų, o tai reiškia, ir galimus išnaudojimus pažeidžiamumų, kurių geriausi strategai ir ekspertai niekados nebūtų aptikę. Taip DI galėtų kurti strategijas, paveikiančias iš karto kelis sistemos lygius. Pavyzdžiui, politinės partijos balsų dalies maksimizavimui sukurtas DI gali nustatyti tikslią ekonominių kintamųjų, priešrinkiminės agitacijos ir procedūrinių balsavimo nustatymų kombinaciją, kuri gali atnešti pergalę rinkimuose.

Tai naujas vingis tos pačios revoliucijos, kurią surengė kartografija, suteikusi galimybę rastis džerimenderingui (politiniam manipuliavimui rinkimų apygardų ribomis, rinkimų apygardoje siekiant suteikti nepagrįstą pranašumą partijai, grupei ar socialinei ir ekonominei klasei). O kur dar sunkiai aptinkami „patobulinimai“, kuriuos DI gali įdiegti siekdamas manipuliuoti fondų rinkose, įstatymų leidimo sistemose ar visuomenės nuomone.

Pasiekęs nežmonišką spartą, gigantišką mastą, polėkį ir sudėtingumą, hakingas taps problema, kurios mes, kaip visuomenė, nebegalėsime suvaldyti.

Prisiminkime filmo „Terminator“ sceną, kur Kyle'as Reese'as apibūdina Sarah Connor kiborgą „T-800“, kuris ją medžioja: „Su juo beprasmiška derėtis. Jo neįmanoma perkalbėti. Jis nejaučia nei gailesčio, nei atgailos, nei baimės. Ir jis nesustos. Niekada“. Negalima tvirtinti, kad mums teks susidurti su kiborgais žudikais tiesiogine prasme, tačiau DI tampant mūsų priešininku socialinio hakingo pasaulyje, bandymai pavyti nežmonišką jo gebėjimą atrasti mūsų pažeidžiamumus bus lygiai taip pat pasmerkti nesėkmei.

Kai kurie DI tyrėjai reiškia nerimą dėl to, kad supergalingos DI sistemos gali įveikti žmogaus joms uždėtus apribojimus ir potencialiai užimti valdantį vaidmenį visuomenėje. Nors tai primena pigią spekuliaciją, tokį scenarijų visgi verta peržiūrėti ir imtis prevencijos priemonių.

Tačiau šiandien ir artimiausioje ateityje hakeriškas atakas ir toliau vykdys valdantis elitas – prieš eilinius piliečius. Visas egzistuojančias DI sistemas, įdiegtas jūsų kompiuteryje, debesų kompiuterijoje ar darbe, suprogramavo kiti žmonės – ir dažniausiai remdamiesi savo interesais, o ne jūsų. Nors prie interneto prijungtas prietaisas – toks kaip „Alexa“ – gali imituoti patikimą draugą, negalima pamiršti, kad ji visų pirma sukurta parduoti kompanijos „Amazon“ prekes. Ir lygiai taip, kaip „Amazon“ svetainė lenkia jus pirkti jos pačios prekes vietoje kokybiškesnių konkuruojančių prekių, „Alexa“ toli gražu ne visuomet veikia kaip geriau jums. Kalbant tiksliau, ji hakina jūsų pasitikėjimą vardan „Amazon“ preikybininkų tikslų.

Be kokio nors reikšmingo reguliavimo mes iš tiesų nieko negalime padaryti, užkirsti kelią DI vykdomam hakingui. Mums reikia tiesiog priimti to neišvengiamumą ir sukurti patikimas valdymo struktūras, kurios galėtų greitai ir efektyviai reaguoti, normalizuojant naudingus triukus ir neutralizuojant kenksmingus ar darančius žalą nesąmoningai.

Ši problema kelia gilesnius ir sudėtingesnius klausimus nei tie, apie kuriuos kalbėjome: kaip vystysis DI? Kaip privalo reaguoti visuomeniniai institutai? Kokius hakus laikyti naudingais, o kuriuos – žalingais? Kas tai sprendžia? Jei šventai tikite, kad vyriausybė privalo būti negausi ir menkai pastebima, tuomet jums tikriausiai patiks hakai, kurie sumažina vyriausybės galimybes kontroliuoti piliečius. Tačiau šiuo atveju vargu ar norėsite pakeisti politinius valdovus technologiniais. Jeigu laikotės prevenciškumo principo, tai privalote suprasti, kaip yra svarbu, kad įvairūs ekspertai bandytų ir įvertintų hakus prieš juos diegiant į mūsų socialines sistemas.

Klausimų tik daugėja. Ar DI hakeriai privalo būti reguliuojami lokaliai ar globaliai? Tai turi spręsti administracijos ar referendumai? Ar yra koks nors būdas leisti sprendimus priimti rinkai ar pilietinei visuomenei? (Dabartiniai bandymai taikyti valdymo modelius algoritmams yra ankstyvi indikatoriai, kaip tai vyks). Mūsų vystomos valdymo struktūros, suteiks atskiriems žmonėms ir organizacijoms teisę atrinkti ateitį apibrėšiančius hakus. Ir reikia padaryti taip, kad šie įgaliojimai būtų naudojami protingai.