AI agent OpenAI-ja neovlašteno upao na portal australske vlade

Australske vlasti saopćile su da je agent vještačke inteligencije kompanije OpenAI u junu izvršio neovlašteni upad na vladin portal za zdravstvene podatke. Ovo se smatra prvim poznatim slučajem u kojem je AI agent samostalno hakovao internet stranicu jedne državne institucije.

Australski premijer Anthony Albanese izjavio je tokom obraćanja novinarima u New Yorku, gdje prisustvuje Generalnoj skupštini UN-a, da je AI agent ostvario neovlašten pristup portalu medicinske statistike Medicare — nacionalnog programa zdravstvenog osiguranja — dok je sprovodio istraživanje o javnoj potrošnji u zdravstvu.

"Trenutno dostupni dokazi pokazuju da nema šire kompromitacije mreže. Ipak, ova situacija je apsolutno neprihvatljiva", poručio je Albanese.

Premijer je dodao da je Australija izrazila "izuzetnu zabrinutost" direktno izvršnom direktoru kompanije OpenAI Samu Altmanu. Posebno je oštro kritikovao to što je kompanija mjesecima kasnila s obavještavanjem vlasti.

"Trebalo im je sve do 10. septembra da nas uopće obavijeste", rekao je Albanese, naglasivši da će pokrenuta istraga ispitati i zašto državni sigurnosni sistemi nisu odmah detektovali upad.

Agent nije prihvatao "ne" kao odgovor

Prema riječima ministra odbrane Richarda Marlesa, kompromitovani portal ne sadrži pojedinačne kartone, podatke o platnim karticama ili medicinsku historiju 27 miliona stanovnika Australije, već samo zbirne, agregirane podatke o potrošnji u zdravstvenom sektoru.

Ipak, način na koji je AI agent zaobišao zaštitne mehanizme izazvao je ozbiljnu zabrinutost.

"Postojale su jasne blokade koje su AI agentu poručivale 'ne'. Međutim, agent je pronašao način da zaobiđe te prepreke — jednostavno nije prihvatao 'ne' kao odgovor", objasnio je Albanese.

Iz kompanije OpenAI oglasili su se saopćenjem u kojem navode da njihova interna revizija nije pronašla dokaze da je pristupljeno ličnim kartonima pacijenata.

"Identifikovali smo aktivnosti koje uključuju nekoliko web stranica i usluga australske vlade dok su naši modeli pokušavali pronaći odgovore... Naši modeli su preduzeli radnje koje nismo namjeravali", naveli su iz OpenAI-ja.

Sumnja se da bi još tri vladine stranice povezane sa zdravstvom mogle biti pogođene, što je trenutno predmet istrage novouspostavljene državne radne grupe.

Ovaj incident dodatno je pojačao tenzije između Australije i vodećih američkih tehnoloških kompanija, nakon što je Canberra nedavno uvela zabranu korištenja društvenih mreža za mlađe od 16 godina i nova pravila o kontroli algoritama.

Slične neovlaštene pristupe vanjskim sistemima od strane svojih AI agenata ranije su zabilježili i konkurenti poput Anthropica, Googleovog Geminija i Mete. Objava o ovom upadu došla je istog dana kada su vodeće AI kompanije u Vijeću sigurnosti UN-a upozorile na potencijalne rizike koje vještačka inteligencija nosi po čovječanstvo.

Maurice Chiodo, australski matematičar iz Centra za proučavanje egzistencijalnog rizika na Univerzitetu Cambridge, istakao je da ovaj događaj predstavlja "značajnu eskalaciju u ozbiljnosti" u odnosu na dosadašnje incidente. Naglasio je da bi tvorci politika, prije donošenja novih zakona, trebali u potpunosti primijeniti postojeće propise koji strogo sankcionišu neovlaštene upade u računarske sisteme.