Borba protiv dezinformacija: YouTube uvodi automatske oznake za AI sadržaj

YouTube je najavio novu funkciju koja će automatski označavati video-sadržaje napravljene ili značajno izmijenjene pomoću vještačke inteligencije, što predstavlja još jedan veliki korak tehnoloških platformi u pokušaju da ograniče širenje dezinformacija i obmanjujućih "deepfake" snimaka.

Nova pravila podrazumijevaju da će YouTube koristiti sopstvene AI sisteme za prepoznavanje sintetičkog ili digitalno modificiranog sadržaja, čak i u slučajevima kada kreatori videa sami ne prijave da su koristili vještačku inteligenciju.

Kompanija je saopćila da će oznake biti posebno vidljive kod tema koje uključuju vijesti, politiku, ratove, zdravstvo ili druge osjetljive događaje kod kojih bi manipulacija mogla izazvati ozbiljne posljedice.

Oznake će se pojavljivati direktno na videima

Prema najavi YouTubea, korisnici će na pojedinim snimcima ubuduće moći vidjeti obavještenje da je sadržaj "izmijenjen ili sintetički generisan".

Cilj je da gledaoci lakše prepoznaju kada određeni video nije autentičan ili je djelimično kreiran uz pomoć AI tehnologije.

Kompanija je još ranije zahtijevala od autora sadržaja da sami prijave korištenje vještačke inteligencije, ali sada prvi put uvodi sistem automatskog otkrivanja i označavanja.

YouTube navodi da će nova tehnologija analizirati audio, video i vizuelne elemente kako bi prepoznala moguće manipulacije, uključujući lažno generisane glasove, izmijenjena lica ili potpuno AI-kreirane scene.

Reakcija na sve veći broj "deepfake" sadržaja

Posljednjih godina internet je preplavljen AI-generisanim sadržajem koji je često teško razlikovati od stvarnih snimaka.

Posebnu zabrinutost izazvali su slučajevi lažnih videa političara, poznatih ličnosti i javnih događaja koji su se viralno širili društvenim mrežama.

Stručnjaci upozoravaju da razvoj generativne vještačke inteligencije omogućava kreiranje izuzetno uvjerljivih lažnih snimaka uz minimalno tehničko znanje, zbog čega platforme sve više uvode zaštitne mehanizme.

YouTube je ranije već uveo mogućnost da pojedinci zatraže uklanjanje AI sadržaja koji imitira njihov izgled ili glas, posebno kada je riječ o obmanjujućem ili štetnom materijalu.

Nova pravila prvo za ograničen broj korisnika

Kompanija je saopćila da će sistem automatskog označavanja u početku biti dostupan manjem broju kreatora sadržaja, nakon čega će se postepeno proširiti na cijelu platformu.

YouTube nije precizirao koliko će sistem biti agresivan u označavanju sadržaja niti kako će rješavati moguće greške, ali ističe da će kreatori imati mogućnost žalbe ukoliko smatraju da je video pogrešno označen.

Analitičari smatraju da je riječ o jednom od najvažnijih poteza velikih tehnoloških kompanija u pokušaju da uspostave ravnotežu između razvoja AI alata i zaštite korisnika od manipulacija.

Tehnološke kompanije pod sve većim pritiskom

YouTubeov potez dolazi u trenutku kada se velike tehnološke firme suočavaju sa rastućim pritiskom regulatora širom svijeta da jasnije označavaju AI sadržaj.

Evropska unija kroz novi AI Act već insistira na transparentnosti kada je riječ o sintetičkom sadržaju, dok se slični zakoni pripremaju i u Sjedinjenim Američkim Državama.

Zbog toga mnogi očekuju da će automatsko označavanje AI videa uskoro postati standard na gotovo svim velikim platformama za dijeljenje sadržaja.