YouTube proširio alat za prepoznavanje AI imitacija na novinare i političare

YouTube je proširio svoj alat za prepoznavanje AI imitacija, takozvani likeness detection, na novu pilot grupu koju sada čine novinari, državni zvaničnici i politički kandidati.

Riječ je o sistemu koji funkcioniše slično kao Content ID, ali je usmjeren na prepoznavanje nečijeg lica u AI generisanom videu, kako bi pogođena osoba mogla pregledati sporni sadržaj i zatražiti njegovo uklanjanje ako krši pravila platforme.

Ova promjena uvedena je zbog većeg rizika od zloupotrebe AI imitacija u javnom prostoru, posebno kada je riječ o informacijama koje utiču na političku i društvenu debatu.

Novi sistem ne uklanja automatski sadržaj, ali daje javnim ličnostima jači alat za zaštitu identiteta

Suština ovog poteza nije u potpunoj zabrani svih AI videa koji koriste nečiji lik, već u tome da YouTube sada određenim grupama daje efikasniji način da otkriju i prijave neovlaštene imitacije.

Platforma pritom naglašava da detekcija ne znači i automatsko uklanjanje sadržaja, jer će i dalje postojati izuzeci za parodiju, satiru i materijal koji se procijeni kao dio legitimnog javnog interesa.

Da bi neko pristupio ovom programu, potrebno je proći proces verifikacije identiteta, uključujući dostavljanje video snimka i važećeg identifikacionog dokumenta.

YouTube tvrdi da se ti podaci koriste isključivo za provjeru i rad ove bezbjednosne funkcije, kao i da se ne koriste za treniranje Google generativnih AI modela. Kompanija također navodi da korisnici mogu da se odjave iz programa kada to požele.

Izazovi deepfake sadržaja

Zanimljivo je i to što YouTube priznaje da do sada broj uklonjenih videa uz pomoć ovog sistema nije bio veliki.

Prema objašnjenju kompanije, razlog nije neuspjeh alata, već to što se dobar dio otkrivenog sadržaja pokazao kao bezazlen, nerealan ili čak koristan za same kreatore.

Međutim, platforma procjenjuje da bi situacija mogla biti daleko ozbiljnija kada su u pitanju novinari, političari i zvaničnici, jer deepfake sadržaj u tim slučajevima može lakše uticati na javno mnjenje, povjerenje i tok informisanja.

Ovaj potez pokazuje i širi pravac u kojem se kreću velike platforme.

AI sadržaj više nije samo tehnička novina ili internet kuriozitet, već konkretan problem za javni diskurs, reputaciju i bezbjednost informacija.

YouTube zato sada ne pokušava samo označiti AI sadržaj, već i razviti preciznije alate za zaštitu identiteta u situacijama gdje zloupotreba može imati najšire posljedice.

Ako se pilot program pokaže uspješnim, vrlo je moguće da će se ovakva zaštita vremenom proširiti i na još širi krug korisnika, prenosi PC Press.