Vienas iš knygoje nagrinėjamų klausimų – ar dirbtinis intelektas mus pergudraus? Jei kompiuteriai ir toliau paklus Moore’o dėsniui, kas aštuoniolika mėnesių padvigubindami savo greičio ir atminties galimybes, visai įmanoma, kad kitą šimtmetį vienu ar kitu metu intelekto pajėgumu jie pradės lenkti žmones. Mokslininkas sako, kad tam rengtis turime jau dabar, ir perspėja – valdysime mes jį arba jis mus. Pateikiame ištrauką iš knygos „Trumpi atsakymai į sudėtingus klausimus“, kurioje S. Hawking pateikia savo matymą apie dirbtinį intelektą:
Intelektas daro mus žmonėmis. Visa, ką gali pasiūlyti civilizacija, yra žmogaus intelekto produktas.
DNR iš kartos į kartą perduoda gyvybės schemas. Vis sudėtingėjančios gyvybės formos renka informaciją iš jutiklių, tokių kaip akys ir ausys, ir apdoroja ją smegenyse ar kitose sistemose, kad išsiaiškintų, kaip elgtis, – o tada veikia pasaulį, pavyzdžiui, perduodamos informaciją raumenims. Kažkuriuo metu per 13,8 milijardo mūsų kosminės istorijos metų nutiko šis tas nuostabaus. Informacijos apdorojimas pasidarė toks intelektualus, kad gyvybės formos tapo sąmoningos. Mūsų Visata pagaliau atsibudo ir save įsisąmonino. Laikau tai triumfu: kad mes, niekingos žvaigždžių dulkės, pasiekėme tokį išsamų supratimą apie Visatą, kurioje gyvename.
Manau, nėra reikšmingo skirtumo tarp to, kaip veikia slieko smegenys ir kaip skaičiuoja kompiuteris. Taip pat tikiu, kad evoliucija reiškia, jog negali būti kokybinio skirtumo tarp slieko ir žmogaus smegenų. Iš to išplaukia, kad kompiuteriai iš principo gali imituoti, o gal ir aplenkti, žmonių intelektą. Akivaizdu, įmanoma įgyti aukštesnį nei protėvių intelektą: mes išsivystėme į gudresnes už savo beždžionžmogius protėvius būtybes, o Einsteinas buvo protingesnis už savo tėvus.
Jei kompiuteriai ir toliau paklus Moore’o dėsniui, kas aštuoniolika mėnesių padvigubindami savo greičio ir atminties galimybes, visai įmanoma, kad kitą šimtmetį vienu ar kitu metu intelekto pajėgumu jie pradės lenkti žmones. Kai dirbtinis intelektas (DI) gebės kurti DI geriau negu žmogus ir nuolatos tobulėti jau be žmogaus pagalbos, mums gali tekti susidurti su intelekto sprogimu, kurio pasekmė – mašinos, intelektu lenkiančios mus labiau, nei mes lenkiame sraiges. Kai tai nutiks, mums teks užtikrinti, kad kompiuterių tikslai neprieštarauja mūsiškiams. Ypač protingų mašinų sąvoką norėtųsi atmesti kaip mokslinės fantastikos išmislą, tačiau tai būtų klaida – ir, galimas daiktas, didžiausia per visą istoriją.
Pastaruosius dvidešimt metų DI daugiausia sprendė problemas, susijusias su protingų mašinų – sistemų, priimančių informaciją ir veikiančių tam tikroje aplinkoje, – konstravimu. Šiame kontekste intelektas neatsiejamas nuo statistinių ir ekonominių racionalumo ypatybių – kitaip tariant, gebėjimo priimti teisingus sprendimus, planuoti ir daryti išvadas. Šių tyrimų rezultatas – aukšta integracija ir kryžminimasis tarp DI, mašininio mokymosi, statistikos, kontrolės teorijos, neuromokslo ir kitų sričių. Bendrų teorinių struktūrų sukūrimas kartu su duomenų prieinamumu ir apdorojimo galia davė puikių rezultatų sprendžiant įvairias kompleksines užduotis, tokias kaip kalbos atpažinimas, vaizdų klasifikavimas, autonominės transporto priemonės, mašininis vertimas, robotų judėjimas, taip pat klausimų ir atsakymų sistemos.
Šių ir kitų sričių plėtrai iš laboratorijų persikeliant į ekonomiškai naudingas technologijas, susidaro užburtas ratas, kai net mažas rezultatų pagerėjimas yra vertas didelių pinigų sumų, šitaip skatinant tolesnes ir didesnes investicijas į mokslinius tyrimus. Šiuo metu plačiai sutariama, kad DI tyrimai nuolat progresuoja ir jų poveikis visuomenei greičiausiai tik augs. Potenciali nauda didžiulė; sunku prognozuoti, ką galėsime pasiekti, kai šį intelektą dar padidins priemonės, kurias suteiks DI. Tikėtina, išnyks ligos ir skurdas. Dėl didžiulio DI potencialo svarbu ištirti, kaip pasinaudoti jo privalumais, išvengiant galimų spąstų. Sėkmingas DI sukūrimas taptų didžiausiu pasiekimu per žmonijos istoriją.
Deja, jis gali būti ir paskutinis, nebent sugalvosime, kaip išvengti pavojų. Naudojamas kaip įrankių rinkinys, DI gali papildyti mūsų dabartinį intelektą ir atverti naujų galimybių visose mokslo ir visuomenės srityse. Tačiau kartu jis atsineš pavojų. Nors iki šiol sukurtos primityvios dirbtinio intelekto formos pasirodė labai naudingos, mane neramina galimos pasekmės sukūrus kažką, kas galėtų prilygti žmonėms ar juos pralenkti. Baisu tai, kad DI galėtų tapti savarankiškas ir nuolat save perkurti. Žmonės, ribojami lėtos biologinės evoliucijos, nebegalėtų su juo varžytis ir būtų išstumti į paribius. O ateityje DI galėtų išvystyti ir valią – valią, kuri konfliktuotų su mūsiške. Kiti tiki, kad žmonės dar ilgą laiką sugebės komanduoti technologijoms, ir kad DI potencialas spręsti daugelį pasaulio problemų bus išpildytas. Nors dėl žmonijos garsėju kaip nepataisomas optimistas, šiuo klausimu nebūčiau toks tikras.
Pavyzdžiui, pasaulio kariuomenės svarsto galimybę artimiausiu metu pradėti ginklavimosi varžybas, kurdamos autonominių ginklų sistemas, kurios pačios galės parinkti ir eliminuoti taikinius. Kol JT diskutuoja apie tokių ginklų uždraudimą, autonominių ginklų šalininkai paprastai pamiršta užduoti patį svarbiausią klausimą. Koks tikėtinas ginklavimosi varžybų galutinis tikslas ir kuo tai baigtųsi žmonijai? Ar mes tikrai norime, kad pigūs DI ginklai taptų rytojaus kalašnikovais, juodojoje rinkoje parduodamais nusikaltėliams ir teroristams? Atsižvelgiant į abejotiną mūsų gebėjimą išsaugoti ilgalaikę vis tobulėjančių DI sistemų kontrolę, nejau reikėtų jas apginkluoti ir patikėti joms savo gynybą? 2010 m. kompiuterizuotos prekybos sistemos akcijų rinkose sukėlė pardavimų bangą, kuri lėmė Juodąjį ketvirtadienį; kuo baigtųsi kompiuterių sukeltas gedimas gynybos arenoje? Geriausias laikas sustabdyti autonominių ginklų varžybas yra dabar.
Artimiausiais metais DI gali automatizuoti mūsų darbus ir sukurti tiek didžiulę gerovę, tiek lygybę. Žvelgiant dar toliau į priekį, nėra jokių esminių ribų tam, ką būtų galima pasiekti. Nėra jokio fizikos dėsnio, kuris uždraustų dalelėms jungtis tokiais būdais, kurie leistų dar pažangesnius skaičiavimus, nei vyksta žmogaus smegenyse. Įmanomas ir staigus perėjimas, nors jis gali atrodyti kiek kitaip, nei vaizduojama filmuose. Kaip 1965 m. suprato matematikas Irvingas Goodas, mašinos, pasižyminčios antžmogišku intelektu, galėtų tobulėti vis labiau ir labiau – mokslinės fantastikos atstovas Vernoras Vinge tai pavadino technologiniu singuliarumu. Galima įsivaizduoti, kad tokia technologija pergudrautų finansų rinkas, pralenktų mokslininkus, perspjautų žmonijos lyderių manipuliacijas ir galbūt pavergtų mus ginklais, kurių nepajėgtume nė suprasti. Trumpalaikis DI poveikis priklausytų nuo to, kas jį kontroliuotų, o ilgalaikis – nuo to, ar jį apskritai būtų įmanoma kontroliuoti.
Trumpai tariant, superprotingo DI atėjimas taps arba pačiu geriausiu, arba pačiu blogiausiu dalyku, kada nors nutikusiu žmonijai. Tikroji DI lydinti rizika – ne pikti ketinimai, bet kompetencija. Superprotingas DI savo tikslus įgyvendins be jokio vargo, o jei jo tikslai nesutaps su mūsiškiais – vargas mums. Tikriausiai nesate klastingas skruzdėlių nekentėjas, trypiantis jas iš piktumo, bet jei vadovaujate hidroelektrinės žaliosios energetikos projektui, ir planuojamame užtvindyti regione yra skruzdėlynas, tuo blogiau skruzdėlėms. Neleiskime, kad žmonija atsidurtų tų skruzdėlių vietoje. Planuokime į priekį. Jei aukštesnė ateivių civilizacija atsiųstų mums tekstinę žinutę: „Atvyksime po kelių dešimtmečių“, nejau atrašytume: „Gerai, nusileidę paskambinkite, paliksime priebutyje šviesą“? Greičiausiai ne, bet iš esmės kaip tik taip nutiko su DI. Šiems klausimams skirta mažai rimtų tyrimų, ir tai tik keliuose nedideliuose pelno nesiekiančiuose institutuose.
Laimė, dabar situacija keičiasi. Technologijų pionieriai Billas Gatesas, Steve’as Wozniakas ir Elonas Muskas atliepė mano susirūpinimą, ir DI bendruomenėje pamažu pradeda rastis sveika rizikos vertinimo kultūra ir supratimas apie poveikį visuomenei. 2015 m. sausį drauge su Elonu Musku ir daugeliu kitų DI ekspertų pasirašiau atvirą laišką dėl dirbtinio intelekto, kviesdamas atlikti rimtus jo poveikio visuomenei tyrimus. Praeityje Elonas Muskas yra įspėjęs, kad antžmogiškas dirbtinis intelektas gali duoti nesuskaičiuojamos naudos, bet neatsargiai valdomas turės neigiamų pasekmių žmonijai. Mudu su juo dalyvaujame Gyvybės ateities instituto patariamojoje taryboje – tai organizacija, kuri siekia sumažinti žmonijai gresiančią egzistencinę riziką ir kuri parengė minėtąjį atvirą laišką. Laiškas paragino atlikti konkrečius tyrimus, kaip būtų galima išvengti potencialių problemų, o kartu pasinaudoti potencialia nauda, kurią mums siūlo DI, ir buvo paskelbtas, kad DI tyrėjai ir kūrėjai daugiau dėmesio skirtų DI saugumui. Politikos formuotojus ir plačiąją visuomenę laiškas turėjo informuoti, bet ne gąsdinti. Manome, labai svarbu visiems žinoti, kad DI tyrėjai apie šias problemas ir etinius klausimus galvoja rimtai. Pavyzdžiui, DI turi potencialą išnaikinti ligas ir skurdą, tačiau mokslininkai privalo sukurti tokį DI, kurį būtų galima kontroliuoti.
2016 m. spalį Kembridže atidariau naują centrą, kuris bandys spręsti kai kuriuos atvirus klausimus, keliamus spartaus DI tyrimų plėtros tempo. Leverhulme’o intelekto ateities centras – daugiadisciplininis institutas, užsiimantis intelekto ateities, nuo kurios priklausys mūsų civilizacijos ir mūsų rūšies išlikimas, tyrimais. Mes labai daug laiko praleidžiame studijuodami istoriją – kuri, pripažinkime, iš esmės tėra žmonių kvailumo istorija. Tad intelekto ateities studijos – sveikintinas pokytis. Potencialūs pavojai mums yra žinomi, bet galbūt šios naujõs technologinės revoliucijos priemonėmis galėsime anuliuoti bent dalį žalos, kurią gamtai padarė industrializacija.
Tarp naujausių žingsnių DI vystymosi srityje buvo Europos Parlamento raginimas parengti taisykles, reglamentuojančias robotų ir DI kūrimą. Šiek tiek nustebino, kad buvo įtraukta ir elektroninio asmens forma, užtikrinant pajėgiausių ir pažangiausių DI formų teises ir pareigas. Europos Parlamento atstovas pakomentavo taip: kadangi vis daugiau mūsų kasdienio gyvenimo sričių veikia robotai, privalome užtikrinti, kad jie yra ir bus pavaldūs žmonėms. Parlamentui pateiktoje ataskaitoje teigiama, kad pasauliui gresia nauja pramoninių robotų revoliucija. Joje nagrinėjama, ar derėtų suteikti teises robotams kaip elektroniniams asmenims, atsižvelgiant į tai, kad teisiškai apibrėžiame korporatyvinius asmenis. Tačiau joje taip pat pažymima, kad mokslininkai ir dizaineriai visais atvejais privalo užtikrinti, jog visi robotikos projektai turėtų išjungimo mygtuką.
Tai nepagelbėjo mokslininkams erdvėlaivyje, valdomame iš rikiuotės išėjusio roboto kompiuterio, Stanley Kubricko filme „2001 m. kosminė odisėja“, bet filmas lieka filmu. O mums rūpi faktai. Lorna Brazell, daugiatautės advokatų kontoros „Osborne Clarke“ konsultantė, ataskaitoje pabrėžė, kad mes nesuteikiame asmens teisių banginiams ir goriloms, tai ir su robotais nereikėtų skubėti. Tačiau apdairumas nepakenks. Ataskaitoje pripažįstama tikimybė, kad per kelis dešimtmečius DI galėtų viršyti žmogiškuosius intelektinius gebėjimus ir mesti iššūkį žmonių ir robotų santykiams.
Iki 2025 m. pasaulyje bus koks trisdešimt megamiestų, kurių kiekviename gyvens daugiau nei 10 milijonų žmonių. Ir visi jie reikalaus prekių ir paslaugų čia ir dabar: ar technologijos gali padėti mums suspėti paskui mūsų neatidėliojamo poreikių tenkinimo troškimą? Robotai neabejotinai paspartins mažmeninės prekybos internetu procesą. Bet tam, kad būtų iš pagrindų pakeistas apsipirkimas, jie turi būti tokie greiti, kad kiekvieną užsakymą pristatytų tą pačią dieną.
Galimybės bendrauti su pasauliu be būtinybės fiziškai dalyvauti sparčiai auga. Kaip galite įsivaizduoti patys, man tai atrodo patrauklu, galų gale ir dėl to, kad visų mūsų miestietiškas gyvenimas kupinas reikalų. Kiek kartų svajojote turėti antrininką, kuris pasidalytų jūsų darbo krūvį? Realistiškų skaitmeninių pavaduotojų kūrimas – ambicinga svajonė, tačiau naujausios technologijos demonstruoja, kad idėja ne tokia beprotiška, kaip atrodo.
