EP usvojio ključni Zakon o pravilima korištenja vještačke inteligencije

Evropski parlament je jučer usvojio Zakon o vještačkoj inteligenciji čiji je cilj da garantuje bezbijednost građana i poštovanje njihovih osnovnih prava, uz istovremeno podsticanje inovativnosti.

O prijedlogu Zakona su članice Evropske unije postigle dogovor u decembru 2023. i za njega su sada glasala 523 europoslanika, 46 je bilo protiv a 49 uzdržano, saopštio je Parlament.

Nova direktiva će u potpunosti zabraniti, ili samo u određenoj mjeri dozvoliti koritćenje opasnih sistema vještačke inteligencije u zavisnosti od stepena rizika koji predstavljaju.

Nova pravila zabranjuju korištenje aplikacija vještačke inteligencije koje ugrožavaju prava građana, kao što su na primjer biometrijski sistemi kategorizacije na osnovu određenih ličnih osobina ili izgleda, odnosno takozvano profilisanje.

Zabranjeno će biti i stvaranje baza podataka za prepoznavanje lica na osnovu nasumičnog prikupljanja slika sa interneta.

Na radnom mjestu i u školama neće biti dozvoljeno korištenje aplikacija AI za "čitanje" emocija i raspoloženja zaposlenih ili učenika.

Zabranjena će biti i procjena socijalnog ponašanja osoba uz pomoć AI, kao i pravljenje prognoza na osnovu profilisanja ljudi prema njihovim ličnim osobinama.

AI neće smjeti da se koristi ni za manipulisanje ljudskog ponašanja ili eksploataciju ljudskih slabosti.

U oblasti sprovođenja zakona, AI će biti dopuštena u veoma jasno određenim i, kako se navodi, malobrojnim situacijama.

Ta će upotreba, prema novoj direktivi, biti moguća uz prethodnu odluku suda i geografski i vremenski ograničena na specifične slučajeve, na primjer prilikom ciljane potrage za nestalim licima ili da bi se spriječio teroristički napad.

Korištenje AI u sprovođenju zakona poslije nekog događaja, odnosno post festum, bit će moguće samo uz odluku suda vezanu za konkretno krivično djelo.

Visokoriskantni sistemi vještačke inteligencije bit će uslovljeni vrlo jasnim obavezama, zbog njihovog potencijala da ugroze zdravlje, bezbijednost, ljudska prava, demokratiju ili vladavinu prava.

Primjeri takve AI tehnologije visokog rizika su oni koji budu korišteni u ključnoj infrastrukturi, obrazovanju, i vitalnim privatnim ili javnim službama, kao na primjer u zdravstvu ili bankarstvu.

U kategoriju visoko riskantnih sistema spadaju i oni koji mogu da se primjene i u sprovođenju zakona, upravljanju granicama, u pravosuđu ili na primjer u demokratskim procesima, poput izbora na koje AI može da utiče.

Oni će morati da budu krajnje transparentni i pouzdani i da se koriste samo pod ljudskim nazorom.

Pored toga, lažne fotografije, video i audio snimci koji su izrađeni i manipulisani uz pomoć AI, takozvani Deepfakes, morat će jasno da budu označeni kao takvi.

Istovremeno, građani će imati pravo podnošenja žalbi na AI sisteme i na objašnjenje o odlukama povezanim sa takvim riskantnim sistemima, a koje se tiču njihovih prava.

Cilj zakona je da na cijeloj teritoriji EU štiti osnovna prava, demokratiju, vladavinu prava i ekološku održivost od sistema AI koji budu smatrani riskantnim, ali i da ujedno osnaži inovativnost i lidersku ulogu Evrope u toj oblasti.

Usvojeni zakon još treba da prođe kroz provjeru pravne terminologije i da ga formalno usvoji Vijeće EU, a na snagu bi trebalo da stupi prije evropskih izbora, pri čemu će članice EU za pojedine odredbe imati rok od šest do 36 mjeseci da ih u potpunosti primjene.