ChatGPT optužen da ugrožava djecu: Tužba zbog ovisnosti i savjeta o samoubistvu

Državni tužilac Floride James Uthmeier podnio je u ponedjeljak tužbu protiv kompanije OpenAI i njenog izvršnog direktora Sama Altmana, tvrdeći da chatbot ChatGPT predstavlja rizik za maloljetnike jer kod njih može izazvati ovisnost i poticati štetna ponašanja.

"Danas želimo obavijestiti javnost da smo nedavno pokrenuli veliku građansku tužbu protiv Sama Altmana i ChatGPT-a zbog ugrožavanja naše djece te obmanjivanja roditelja da vjeruju kako je ova aplikacija sigurna za korištenje, što očigledno nije slučaj", izjavio je Uthmeier na konferenciji za medije.

Dodao je da, prema njegovim navodima, posljedice korištenja ove tehnologije već pogađaju korisnike i njihove porodice.

"Ljudi trpe štetu, roditelji su dovedeni u zabludu i neko za to mora snositi odgovornost", rekao je.

Govoreći o radu chatbotova, Uthmeier je naveo da ChatGPT može stvoriti ovisnost kod korisnika.

"ChatGPT može biti ovisnički alat. Oponaša empatiju i ljudske osobine kako bi korisnike naveo da mu otkrivaju sve više informacija", kazao je.

U tužbi, u koju je AFP imao uvid, poziva se na istraživanje Univerziteta Drexel koje ukazuje na gubitak sna, slabiji školski uspjeh i smanjenu društvenu interakciju među tinejdžerima koji koriste chatbotove kompanije Character.AI, konkurenta OpenAI-ja, za razgovore.

Tužilac Floride smatra da OpenAI nije uspostavio dovoljno stroge mehanizme za provjeru starosne dobi korisnika te se u postupku poziva na odredbe koje se odnose na obmanu i nemar.

U dokumentu se navodi da, uprkos činjenici da je javnosti poznato kako ChatGPT koriste i maloljetnici, uključujući djecu mlađeg uzrasta, kompanija nije poduzela korake kako bi spriječila njihovo korištenje platforme.

Također se ističe da besplatna verzija ChatGPT-a nema sistem provjere dobi niti druge mehanizme kontrole pristupa. Prema navodima iz tužbe, iako se prilikom pretplate na plaćenu verziju od korisnika traži da navedu godine starosti, ne postoji način da se te informacije provjere niti mogućnost da roditelji imaju uvid u razgovore koje maloljetnici vode putem platforme.

Komentirajući optužbe, glasnogovornik OpenAI-ja izjavio je za AFP da kompanija smatra kako maloljetnici zahtijevaju poseban nivo zaštite te da su zbog toga uvedene sigurnosne mjere i politike koje, prema njihovim tvrdnjama, spadaju među najnaprednije u industriji.

OpenAI je u januaru predstavio sistem za procjenu starosne dobi korisnika. Ukoliko sistem prepozna da je riječ o maloljetnoj osobi, automatski se aktiviraju dodatne zaštitne mjere.

Korištenje ChatGPT-a zabranjeno je djeci mlađoj od 13 godina, dok korisnici između 13 i 17 godina aplikaciju mogu koristiti samo uz saglasnost roditelja.

Uthmeier se u svojim tvrdnjama pozvao i na izvještaj Centra za suzbijanje digitalne mržnje (CCDH), čiji su istraživači vodili više razgovora s ChatGPT-om predstavljajući se kao tinejdžeri.

Prema tom izvještaju, chatbot je navodno davao savjete o prikrivanju prehrambenih navika od članova porodice te informacije o tome kako planirati samoubistvo ili samopovređivanje na način koji bi bio „siguran“.

Tužilac Floride od suda traži uvođenje snažnijih mjera zaštite za maloljetne korisnike, kao i novčanu naknadu od 10.000 dolara za svaki utvrđeni prekršaj.

"Smatramo da OpenAI, njegov ChatGPT i lično Sam Altman mogu snositi odgovornost koja bi mogla doseći iznos od više milijardi dolara", rekao je Uthmeier.

Na kraju je pozvao i druge savezne države da se pridruže postupku ukoliko žele dodatno zaštititi djecu od potencijalnih rizika povezanih s korištenjem ovakvih tehnologija.