EK: Razvoj umjetne inteligencije ne isključuje brigu o zaštiti pojedinaca

Umjetna inteligencija, kao i svaka druga tehnologija, podrazumijeva određene rizike, no zakon koji je predložila Evropska komisija štitit će korisnike takvih sistema i prava građana, poručio je u četvrtak povjerenik Komisije za unutarnje tržište Thierry Breton.

Dan nakon objave novog prijedloga zakona EU-a o korištenju umjetne inteligencije u skladu s evropskim vrijednostima i pravima, Odbor za pravna pitanja Evropskog parlamenta održao je prvu raspravu o tom prijedlogu na kojoj je većina europarlamentaraca iznijela sumnju u razvoj digitalne tehnologije uz garantovanje sigurnosti ljudi, prenosi Hina.

Kao odgovor na postavljena pitanja i iznesena stajališta, Thierry Breton, u ime Komisije, naglasio je da će u kontekstu umjetne inteligencije, "vrlo jasno biti zabranjeni tzv. social scoring, iskorištavanje ugroženih grupa kao što su na primjer djeca i korištenje biometrijskih podataka na daljinu u realnom vremenu od strane policije (osim kada je riječ o izuzecima kao što je slučaj terorizma)".

"Da bismo osigurali povjerenje u sistem umjetne inteligencije te zaštitili građane, potrebne su određene mjere i zahtjevi za sve visokorizične sisteme", konstatirao je povjerenik dodajući da su neki od glavnih koraka u kontroli tehnologije i poštivanju ljudskih prava sljedeći: posjedovanje tehničke dokumentacije, vođenje registra, transparentnost, informiranje građana, ljudski nadzor i briga o kibernetičkoj sigurnosti.

Prepoznavanje lica

"Nije nam u cilju stigmatizirati tehnologiju, niti namjeravamo kočiti inovacije, više je riječ o nužnosti da se donesu zakoni kako bi u okviru umjetne inteligencije postojala određena razmjernost i predvidljivost", objasnio je Breton.

Socijaldemokrat Tiemo Woelken ocijenio je u raspravi da je "u vezi umjetne inteligencije, prepoznavanje lica je jedan od najvažnijih problema". "Tu je riječ o temeljnim ljudskim pravima", istaknuo je Woelken.

Gilles Lebreton iz Kluba zastupnika Identitet i demokracija (ID) upozorio je da "treba pronaći ravnotežu između razvoja umjetne inteligencije i zaštite pojedinaca".

"Mogli bi se pitati hoćemo li postići tu ravnotežu, posebno kada je riječ o ranjivim grupama. (…) Bit će vrlo teško regulirati prepoznavanje lica", smatra Leberton .

Evropska komisija je u srijedu predložila novi pravni okvir za umjetnu inteligenciju koji bi trebao pojačati povjerenje korisnika, garantovati sigurnost i poštovanje temeljnih prava i potaknuti ulaganja i inovacije u tom području.

Pravila će se direktno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima, a u njihovoj je izradi korišten pristup koji se temelji na procjeni stepena rizika (visokorizičnog, ograničenog, minimalnog).

Fotografija: EPA