Pokrenuta istraga protiv platformi Grok i X zbog širenja neprimjerenog sadržaja

Evropska komisija je saopštila da je otvorila istragu protiv kompanije X Elona Muska zbog širenja seksualno eksplicitnog materijala putem AI chatbota Grok.

Istraga se sprovodi u okviru sveobuhvatne uredbe Evropske unije pod nazivom Digital Services Act (DSA).

"Nova istraga će procijeniti da li je kompanija adekvatno ispitala i ublažila rizike povezane sa uvođenjem funkcionalnosti Grok-a na platformu X u EU", navela je Komisija, izvršni organ EU, u saopštenju.

"Ovo uključuje rizike povezane sa širenjem ilegalnog sadržaja u EU, kao što su manipulisane seksualno eksplicitne slike, uključujući sadržaj koji može predstavljati materijal o seksualnom zlostavljanju djece".

Komisija je navela da se čini da su se rizici "materijalizovali, izlažući građane u EU ozbiljnoj šteti".

Grok se našao na udaru kritika ove godine nakon što su korisnici uspjeli da navedu sistem da generiše seksualizovane slike djece i drugih pojedinaca.

Ranije ovog mjeseca, Muskova kompanija je saopštila da je "implementirala tehnološke mjere" kako bi spriječila Grok nalog na platformi X da dozvoli "uređivanje slika stvarnih ljudi u odjeći koja otkriva previše, kao što je bikini".

Kompanija je takođe ograničila uređivanje i kreiranje slika putem Grok-a na X-u samo na plaćene pretplatnike. Samostalna aplikacija Grok, koja ne dijeli slike javno, i dalje je dozvoljavala korisnicima koji ne plaćaju da generišu slike žena i djece.

Evropski regulatori su se pridružili rastućoj listi vlasti koje ispituju Grok. U.K., Indija i Malezija su među brojnim drugim zemljama koje istražuju seksualizovane slike generisane putem ovog alata.

Platforma X je već duže vrijeme na nišanu Evropske komisije u okviru DSA, koji regulatoru daje mogućnost da tehnološkim kompanijama izrekne visoke kazne. DSA je dizajniran da reguliše online platforme, njihov sadržaj i odnos prema potrošačima.

U ponedjeljak je Komisija saopštila da proširuje istragu započetu 2023. godine o kompaniji X i njenom sistemu preporuka sadržaja.

U decembru je Komisija kaznila X sa 120 miliona eura (142,3 miliona dolara) zbog kršenja obaveza o transparentnosti u okviru DSA, prenosi PC Press.