California prva savezna država koja je regulisala AI chatbotove

Guverner Kalifornije potpisao je zakon SB243, čime je ta savezna država postala prva u Americi koja zakonski reguliše rad četbotova zasnovanih na vještačkoj inteligenciji. Novi propisi obavezuju kompanije poput Mete i OpenAI-ja da uvedu sigurnosne protokole kako bi se zaštitila djeca i ranjive grupe korisnika od mogućih negativnih posljedica korištenja pratećih AI sistema.

Prema zakonu, koji stupa na snagu 1. januara 2026. godine, tehnološke kompanije morat će implementirati mehanizme za verifikaciju starosti, upozorenja u vezi sa društvenim mrežama i jasna obavještenja da se korisnici ne obraćaju stvarnim zdravstvenim radnicima, već AI sistemima.

Zakon predviđa i strože kazne za one koji profitiraju od ilegalnih “deepfake” sadržaja, dok kompanije imaju obavezu da uspostave procedure za prepoznavanje i reagovanje u slučajevima samoubilačkih ili samopovređujućih ponašanja korisnika. O tim slučajevima, kao i o mjerama prevencije i obavještavanju kriznih centara, morat će redovno izvještavati državno Ministarstvo javnog zdravlja.

Posebna pažnja posvećena je zaštiti maloljetnika — platforme su dužne da uvedu podsjetnike za pravljenje pauza i da onemoguće prikazivanje seksualno eksplicitnih sadržaja koje bi AI mogao generisati.

Iako su pojedine kompanije već samoinicijativno uvele slične mjere, novi zakon sada čini njihovu primjenu obaveznom u cijeloj državi, prenosi PC Press.