OpenAI uvodi Lockdown Mode: Maksimalna bezbjednost za korisnike

Iako iz kompanije OpenAI poručuju da ova opcija nije neophodna većini običnih korisnika, ona drastično ograničava način na koji vještačka inteligencija komunicira sa spoljnim sistemima.

Cilj je jasan: svesti rizik od takozvanog prompt injection napada (krađe podataka putem zlonamjernih instrukcija) na apsolutni minimum.

Kako AI sistemi preuzimaju sve složenije zadatke, naročito one koji uključuju internet i povezane aplikacije, ulozi u sajber-bezbjednosti postaju sve veći.

Jedan od ključnih rizika je upravo pokušaj treće strane da zavara AI kako bi izvršila maliciozne naredbe ili otkrila povjerljive informacije.

Kao odgovor na ove prijetnje, uvode se dvije nove linije odbrane: Lockdown Mode – napredna bezbjednosna postavka za visokorizične korisnike, i Elevated Risk oznake – upozorenja za funkcije u okviru servisa ChatGPT, ChatGPT Atlas i Codex koje mogu da donesu dodatne rizike, prenosi PC Press.

Lockdown Mode je dizajniran za uski krug ljudi – rukovodioce ili bezbjednosne timove u velikim organizacijama, koji zahtijevaju gvozdenu zaštitu od sofisticiranih prijetnji.

U ovom režimu, određeni alati su potpuno onemogućeni. Na primjer, pretraga interneta ograničena je isključivo na keširani (sačuvani) sadržaj, čime se sprječava da bilo kakav mrežni zahtjev napusti kontrolisanu mrežu kompanije.

Ovaj nivo zaštite trenutno je dostupan korisnicima planova ChatGPT Enterprise, Edu, Healthcare i Teachers, dok se dolazak opcije za šire mase očekuje u narednim mjesecima.

I dok AI postaje korisniji što je više povezan sa drugim aplikacijama, industrija još uvijek nema odgovore na sve mrežne rizike.

Zato OpenAI uvodi i jasne etikete povišenog rizika (Elevated Risk). Tako će programeri u Codex-u, ukoliko mu dozvole pristup mreži radi čitanja dokumentacije, jasno vidjeti upozorenje o tome šta se mijenja i kada je takav pristup prikladan.

Kada bezbjednosne tehnologije dovoljno napreduju da ublaže ove rizike, oznake će biti uklonjene, a do tada, na korisnicima je da odluče da li žele punu funkcionalnost ili maksimalnu bezbjednost.