„Greičiausiai nė vienas iš mūsų nenorėtume išvysti vaizdų, kai autonominis dronas ar robotas karys pats pasirenka taikinį, nusitaiko ir sunaikina ne tik karinius objektus, bet ir civilius, o etinius sprendimus, planuojant karines operacijas, priima bejausmis DI algoritmas. Deja, ligšiolinis pasaulio valstybių delsimas patvirtinti bendras taisykles ir standartus DI taikymui gynybos plotmėje mus sparčiai stumia link šių košmarų išsipildymo. Siekiant to išvengti, būtina prie bendro stalo susodinti net ir agresorių pusėje esančias valstybes bei ieškoti būdų pasiekti visuotinį sutarimą dėl gynybos DI sistemų priežiūros“, – mano P. Pakutinskas.
Delsiant priimti sprendimus, teks taikytis su pasekmėmis
Nors ES DI reguliavimo prasme šiemet išsiveržė į priekį, išleisdama pirmąjį pasaulyje privalomą DI naudojimą reglamentuojantį teisės aktą, jis apima tik civilinį gyvenimą. Nacionaliniam saugumui, gynybai tai negalioja, o tarptautinėje arenoje labai trūksta sutarimo kaip šį klausimą spręsti. Tai sukuria potencialiai pavojingą situaciją, kurioje šalys gali laisvai plėtoti ir naudoti DI technologijas be tarptautinių taisyklių.
„Pavyzdžiui, nepaisant to, kad Pietų Korėjoje vykęs tarptautinis veiksmų planas dėl DI panaudojimo gynyboje įtraukė 60 šalių, jis iki šiol vertinamas nevienareikšmiškai, nes prie jo neprisijungė net trečdalis valstybių. Tarp jų buvo Rusija, kuri dėl agresyvių savo veiksmų net nebuvo pakviesta, kas jai atriša rankas be jokių teisinių stabdžių toliau vystyti galimai pražūtingas karines DI technologijas ir taip kelti dar didesnę grėsmę globaliam saugumui. Tokia paradoksali situacija verčia suabejoti, ar tarptautiniai susitarimai apskritai gali veikti efektyviai be visų pagrindinių veikėjų, įskaitant agresyvius režimus, įsitraukimo“, – svarsto „Telia“ atstovas.
Karinio DI pramonėje toliau tęsiantis Laukinių Vakarų laikotarpiui, kyla grėsmė, kad šios technologijos bus panaudotos ne tik prieš karinius taikinius, bet ir prieš civilius. Mūsų planetoje aštrėjant politinėms konfrontacijoms ir tęsiantis karo veiksmams, tai ypač aktualu, nes DI įranga sparčiai tobulėja ir ja vis dažniau norima pakeisti žmogų, ji daro ginklus vis efektyvesniais, bet ar nuo to mažėja civilių aukų karuose?. Dėl to pasaulis turi skubiai sukurti globalius reguliavimo mechanizmus, kad šios technologijos nespėtų pridaryti neatitaisomų pasekmių mūšio lauke.
Atskiros valstybės ar organizacijos turi savo dokumentus, strategijas, kur numato kaip tinkamai ir atsakingai naudoti DI, nurodo, kad galutinius sprendimus gali priimti tik žmogus, tokius dokumentus turi ne tik mūsų sąjungininkė JAV, bet ir NATO, aljansas, kuriam priklausome ir mes, tačiau ar tikrai šie dokumentai ir etikos principai įdomūs Rusijai, Baltarusijai, Šiaurės Korėjai ar kitai nedraugiškai valstybei?
Diskusija dėl autonominių mirtinų ginklų nėra nauja, 2018 m. Jungtinių Tautų generalinis sekretorius António Guterresas teigė, kad mirtinos autonominės ginkluotės sistemos yra politiškai nepriimtinos ir moraliai atgrasios, todėl ragino uždrausti jas pagal tarptautinę teisę. Tačiau tokių ginklų šalininkai teigia, kad tai sumažintų bendrą mirčių skaičių, nes žūtų mažiau kareivių, išvengtume seksualinės ir kitos asmeniškumais pagrįstos prievartos, atskirų kareivių daromų karo nusikaltimų ir kt.
Vystant karinį DI negalima ignoruoti etikos ir teisės
DI gynyboje keliamas iššūkis yra susijęs su etiniais ir teisiniais aspektais. Šiuo metu daug karinių DI sprendimų laikomi itin patikimais, nes priimdami sprendimus vadovaujasi ne emocijomis ar nusistatymais, o duomenimis, yra tikslūs, reaguoja beprotiškai greitai, o greitis ir tikslumas kare yra dideli privalumai. Tik labai retai susimąstoma, kad DI naudojami duomenys ar algoritmai taip pat gali būti netikslūs arba šališki, o kai kuriais atvejais – visas DI algoritmų treniravimas gali turėti rimtų etikos spragų.
„Kiekviena DI klaida fronte gali nusinešti gyvybes ar sunaikinti turtą. Iš to kyla būtinybė pasitvirtinti DI sprendimų priėmimo bei atskaitingumo normas. Svarbu suvokti, jog įvykus nelaimingam atsitikimui visada kils dilema, kas turi prisiimti atsakomybę – žmogus ar mašina? Tai nuspręsti ir apsibrėžti tarptautinėje teisėje turime kuo greičiau ir rasti efektyvius įgyvendinimo mechanizmus“, – įsitikinęs teisės profesorius.
Dar viena etinė dilema kyla dėl DI sprendimų dvejopa paskirtis. Dauguma šių technologijų gali būti naudojamos tiek civiliniams, tiek kariniams tikslams. Tai apsunkina jų reguliavimą, nes dažnai sunku atskirti, kur prasideda ir baigiasi karinis jų taikymas. Išmanūs dronai, pavyzdžiui, gali būti pritaikomi tiek karo misijoms, tiek civilinei logistikai, todėl jų naudojimo skaidrumas tampa labai svarbus.
Reikšmingą vaidmenį vaidina ir privačios įmonės
Savotiška laukine korta karinėse operacijose gali tapti ir privatūs technologijų gigantai. Tokios įmonės, kaip „Palantir“, jau kurį laiką teikia DI sprendimus kariniams projektams, o garsiojo „ChatGPT“ kūrėjai „OpenAI“ dar šią vasarą įdarbino į atsargą išėjusį JAV armijos generolą. Tai keičia ne tik karinių konfliktų prigimtį, bet ir kelia klausimų dėl šių technologijų etiško naudojimo.
Be to, „OpenAI“ 2024 metais peržiūrėjo savo politiką ir pašalino ankstesnius apribojimus, draudusius jų DI naudoti ginklų kūrimui ar karo veiksmams. Taip kardinaliai pasikeitusi DI lyderės pozicija žymi reikšmingą pokytį visame technologijų sektoriuje, kuris vis labiau įsitraukia į karinę sritį ir taip privatiems subjektams gali suteikti per didelę galią daryti įtaką įvykiams kovos lauke bei politinėje arenoje.
P. Pakutinsko nuomone, privačios įmonės gali būti inovacijų variklis, tačiau be tinkamos priežiūros rizikuojame sukurti nevaldomą technologinę aplinką. Privačių įmonių veikla karo pramonėje kelia papildomų pavojų, nes dažnai jų interesai nesutampa su valstybinių institucijų ar tarptautinių organizacijų siekiais. Todėl į susitarimus dėl atsakingo ir etiško DI naudojimo būtina įtraukti ir DI srityje pirmaujančias privačias bendroves.
Reguliavimas nelygus draudimui
Nepaisant visų iššūkių, DI technologijos potencialas gynyboje išlieka didžiulis. Dabartinės DI sistemos jau dabar padeda strateginiame planavime, logistikos optimizavime, duomenų analizėje bei kovos lauko sprendimų priėmime. Tačiau jų ateitis priklauso nuo patikimos reguliavimo sistemos. Be aiškių taisyklių ir standartų, DI gali tapti neprognozuojamu ir net pavojingu įrankiu.
„Karinio DI temoje labai svarbu atskirti reguliavimą nuo draudimų. Turime būti realistais, DI plačiai naudojamas karinėje srityje ir gynyboje. Reguliavimas turėtų nustatyti aiškias taisykles, kaip DI naudojamas gynyboje. Tai nereiškia, kad technologijas reikėtų apriboti ar uždrausti – veikiau turime sukurti sistemą, kurioje DI būtų naudojamas atsakingai. Lietuva galėtų padidinti savo kuriamų gynybai skirtų DI produktų krepšelį pasitelkdama geriausias praktikas ir etikos standartus“, – detalizuoja bendrovės vyriausiasis juriskonsultas.
Delsimas kurti minėtą sistemą, vienodas tarptautines taisykles, jau stabdo ir patį karinio DI progresą. DI integracija į gynybos sistemas reikalauja didelių investicijų, todėl atsakingiau į šį klausimą žiūrinčios valstybės susiduria su dilema, ar verta investuoti dideles lėšas į DI sprendimus, jei ateityje jų naudojimas gali būti apribotas ar net uždraustas dėl tarptautinių susitarimų ir tai gali iškreipti atskirų valstybių gynybos pajėgumų balansą mažiau atsakingų valstybių atžvilgiu.
