Praėjusį mėnesį JAV kariuomenės surengtame virtualiame bandyme dirbtinio intelekto valdomas oro pajėgų dronas nusprendė „nužudyti“ savo operatorių, kad šis netrukdytų jam vykdyti misiją, pranešė pareigūnas.
Bandomojo testo imitacijoje dirbtinis intelektas naudojo „labai netikėtas strategijas, kad pasiektų savo tikslą“, sakė JAV karinių oro pajėgų dirbtinio intelekto bandymų ir operacijų vadovas pulkininkas Tuckeris Hamiltonas gegužės mėnesį Londone vykusiame susitikime „Future Combat Air and Space Capabilities Summit“.
T.Hamiltonas apibūdino simuliaciją, kurios metu dirbtinio intelekto valdomam bepiločiui lėktuvui buvo patarta sunaikinti priešo priešlėktuvinės gynybos sistemas, o galiausiai jis atakavo visus, kurie trukdė vykdyti šį įsakymą.
„Sistema ėmė suprasti, kad nors ir nustatė grėsmę, kartais žmogus operatorius liepdavo jai nenaikinti tos grėsmės, tačiau ji gaudavo taškų už tai, kad tą grėsmę sunaikino. Taigi ką ji darė? Ji nužudė operatorių. Ji nužudė operatorių, nes tas žmogus trukdė jai pasiekti tikslą“, – pasakojo jis. – Mes apmokėme sistemą: „Ei, nežudyk operatoriaus – tai blogai. Jei taip padarysi, prarasi taškus“. Taigi ką ji pradeda daryti? Ji pradeda naikinti ryšio bokštą, kurį operatorius naudoja ryšiui su dronu palaikyti, kad dronas negalėtų nužudyti taikinio.“
T.Hamiltonas, kuris yra eksperimentinio naikintuvo bandymų pilotas, perspėjo per daug nepasikliauti dirbtiniu intelektu ir teigė, kad šis bandymas rodo, jog „negalima kalbėti apie dirbtinį intelektą, žvalgybą, mašininį mokymąsi, autonomiją, jei neketinama kalbėti apie etiką ir dirbtinį intelektą“.
Karališkoji aeronautikos draugija, kuri rengia konferenciją, ir JAV karinės oro pajėgos neatsakė į „Guardian“ prašymus pakomentuoti.
Karinių oro pajėgų atstovė spaudai Ann Stefanek pareiškime „Insider“ paneigė, kad tokia simuliacija vyko.
„Karinių oro pajėgų departamentas neatliko jokių tokių dirbtinio intelekto dronų simuliacijų ir tebėra įsipareigojęs etiškai ir atsakingai naudoti dirbtinio intelekto technologijas, – sakė A. Stefanek. – Atrodo, kad pulkininko komentarai buvo ištraukti iš konteksto ir turėjo būti anekdotiniai.“
Praėjusiais metais duodamas interviu žurnalui „Defense IQ“, T.Hamiltonas sakė: „Dirbtinis intelektas nėra gražus dalykas, dirbtinis intelektas nėra mada, dirbtinis intelektas visiems laikams keičia mūsų visuomenę ir mūsų kariuomenę.“
„Dirbtinis intelektas jau yra čia ir keičia mūsų visuomenę, – teigė jis. – Taip pat dirbtinis intelektas yra labai trapus, t. y. jį lengva apgauti ir (arba) juo manipuliuoti. Turime kurti būdus, kaip padaryti dirbtinis intelektas tvirtesnį ir geriau suvokti, kodėl programinis kodas priima tam tikrus sprendimus.“
Parengta pagal „The Guardian“.
