Hercegovac s Harvarda upozorava: AI bi mogao biti najveća prijetnja čovječanstvu

Mladi istraživač Nikola Jurković, porijeklom iz Hercegovine, nakon školovanja u Metkoviću završio je Harvard University među najuspješnijim studentima, a potom se profesionalno usmjerio na jednu od tema koja sve više zaokuplja naučnu i tehnološku zajednicu – bezbjednost i kontrolu vještačke inteligencije.

Jurković je na Harvardu diplomirao u području koje povezuje umjetnu inteligenciju i društvo, a akademski uspjeh mu je donio i poziv u elitno društvo Phi Beta Kappa, u koje ulazi mali broj studenata. Po završetku studija preselio je u San Francisco, gdje radi kao istraživač u timu koji procjenjuje rizike i opasne sposobnosti naprednih AI sistema.

U razgovoru za Net.hr je pojasnio da ga interes za tehnologiju nije vodio samo akademskim ambicijama, nego i željom da pronađe rješenja za probleme koji mogu imati globalne posljedice:

"Od osnovne škole razmišljam o tome kako mogu poboljšati svijet. To mi je glavni cilj u životu." Navodi da je upravo kroz traženje najvećih izazova došao do područja AI sigurnosti:

"U tom procesu sam pronašao problem sigurnosti umjetne inteligencije – to jest, problem kako ćemo oblikovati razvoj umjetne inteligencije tako da ona ima pozitivan utjecaj na budućnost čovječanstva."

Vještačka inteligencija kao rizik na globalnom nivou

Jurković upozorava da bi u relativno kratkom periodu mogli doći do sistema koji u mnogim zadacima nadmašuju čovjeka, što otvara pitanje kako spriječiti scenarije u kojima AI djeluje mimo ljudskih interesa.

"Postoji. Ja bih rekao da je umjetna inteligencija najveća opasnost na globalnoj razini zato što ubrzo, možda u sljedećem desetljeću, možemo doći do razine umjetne inteligencije na kojoj je ona sposobnija od bilo kojeg čovjeka", rekao je, dodajući: "I ako takva superinteligencija ne bude u potpunom slaganju s našim interesima, ili bude imala nekakav konflikt s ljudima, mislim da postoji šansa u kojoj bi ona pobijedila čovječanstvo."

U tom kontekstu naglašava da fokus ne bi trebao biti na pitanjima poput samosvijesti, već na konkretnim sposobnostima sistema:

"Sve ovisi o definicijama svjesnosti, ali važno je imati na umu da glavno pitanje nije je li umjetna inteligencija svjesna sama sebe. Važnije pitanje od samosvijesti jest pitanje sposobnosti umjetne inteligencije."

Strah od biološkog oružja i “supervirusa”

Kao jedan od najopasnijih scenarija Jurković izdvaja mogućnost da AI pomogne u razvoju biološkog oružja. U intervjuu je naveo da su biološka sredstva masovnog uništenja potencijalno pogubnija od nuklearnog naoružanja, jer bi mogla zahvatiti cijelu populaciju.

"Biološka oružja poput nekakvih supervirusa ili superbakterija - jedinstvena su po tome što bi potencijalno mogla ubiti svakog čovjeka na svijetu", kazao je, uz poređenje: "Čak i nuklearni rat vjerojatno ne bi ubio svakog čovjeka – preživjelo bi barem nekoliko miliona ljudi. Ali ako netko stvori jako sposobno biološko oružje, mogao bi ubiti doslovno svakoga."

On navodi i da rizik ne dolazi samo od same tehnologije, nego i od ljudi koji bi je mogli zloupotrijebiti:

"Da, i to je problem. Postoji opasnost i od ljudi s lošim namjerama koji koriste umjetnu inteligenciju, i od same umjetne inteligencije koja bi mogla imati svoje ciljeve odvojene od ljudskih ciljeva. Trebamo riješiti oba problema da bismo preživjeli kao vrsta."

Kako se razvija kontrola vještačke inteligencije

Prema njegovim riječima, ovo je još mlado naučno polje, s relativno malim brojem stručnjaka.

"Da, postoji naučno polje sigurnosti umjetne inteligencije. Postoji nas nekoliko stotina istraživača koji radimo na raznim načinima kako osigurati umjetnu inteligenciju", navodi Jurković.

Objašnjava da postoje različiti pristupi, uključujući pokušaje da se razumije kako AI “donosi odluke”, jer su mnogi današnji modeli i dalje teško objašnjivi:

"Danas nemamo to razumijevanje: ona je kao crna kutija, ogromna masa brojeva gdje mi dajemo ulazne podatke, ona daje izlazne podatke, i nemamo pojma šta se događa između."

Jurković radi u organizaciji METR (Model Evaluation and Threat Research), koja je, kako objašnjava, usmjerena na procjenu opasnih sposobnosti naprednih modela. U svijetu postoji više timova s različitim fokusima – od mjerenja rizika do razvoja metoda nadzora i kontrole.

Svijet rada u doba AI: nestanak zanimanja i novi modeli

Jedna od tema o kojoj govori jeste i uticaj napredne vještačke inteligencije na tržište rada. Jurković smatra da bi, ukoliko AI dosegne ljudski nivo u širokom rasponu poslova, ekonomska logika mogla potisnuti veliki dio postojećih zanimanja.

"Za deset godina očekujem da će vjerojatno postojati umjetna inteligencija na ljudskoj razini i da će svijet biti jako drukčiji. Kad dođe umjetna inteligencija na ljudsku razinu, otprilike nijedan današnji posao više neće postojati", rekao je, uz obrazloženje: "Zašto bi čovjek radio posao – skupo i sporo – ako može umjetna inteligencija brzo i jeftino?"

U tom okviru spominje se i potreba za novim ekonomskim rješenjima, uključujući univerzalni osnovni dohodak, kao jedan od modela o kojem se već raspravlja u kontekstu automatizirane ekonomije.

Jurković posebno problematičnim smatra nivo institucionalne spremnosti za ubrzan tehnološki razvoj. U razgovoru je iznio procjenu da je mali broj ljudi globalno fokusiran na planiranje budućnosti u kontekstu nadljudske vještačke inteligencije, te da bi izostanak pripreme mogao dovesti do ozbiljnih posljedica ako se tehnološki napredak bude odvijao brže od društvenih i regulatornih odgovora.

Kao zaključnu poruku ističe da vještačka inteligencija nije samo tehničko pitanje.

"Umjetna inteligencija nije samo tehnički problem, nego i društveni problem. Nije samo za istraživače ili ljude koji su radili računarstvo. Treba svako pridonijeti."