Kalifornija razmišlja o radikalni potezi za pametne igrače: štiriletni premor za igrače z vgrajenimi AI klepetalnimi roboti za otroke.
Senator Steve Padilla (D-CA) je v ponedeljek predstavil predlog zakona SB 287. Ta bi v državi za štiri leta prepovedal prodajo in proizvodnjo igrač z AI klepetalnimi funkcijami za osebe, mlajše od 18 let.
Cilj ni konec AI igrač, ampak pavza.
Padilla želi regulatorjem kupiti čas, da pripravijo varnostne standarde, ki bodo otroke zaščitili pred, kot pravi sam, ‘nevarnimi interakcijami z umetno inteligenco’.
Po njegovih besedah se bodo ‘klepetalni roboti in druga orodja umetne inteligence morda v prihodnosti v celoti vključili v naša življenja, vendar nevarnosti, ki jih predstavljajo danes, zahtevajo odločne ukrepe za zaščito naših otrok’. Današnji predpisi so po njegovi oceni šele ‘v povojih’.
Kaj predvideva SB 287
SB 287 cilja na igrače, ki:
- imajo vgrajene AI klepetalne robote in
- so namenjene oziroma tržene osebam, mlajšim od 18 let.
Za obdobje štirih let takšnih izdelkov v Kaliforniji ne bi bilo dovoljeno prodajati ali proizvajati.
V tem času naj bi pristojni organi razvili okvir varnostnih pravil: jasne smernice, testiranja in zahteve, ki bi jih morali izpolnjevati tako proizvajalci igrač kot AI ponudniki, preden bi lahko takšne igrače ponovno prišle na police.
Padilla ukrep utemeljuje s tem, da otrok ne smemo uporabljati kot, kot pravi, ‘laboratorijske podgane, na katerih eksperimentira Veliki tech’.
Politično ozadje
Predlog prihaja kmalu po izvršnem ukazu predsednika Trumpa, s katerim je ta zveznim agencijam naročil, naj na sodišču izpodbijajo državne AI zakone. V tem ukazu pa je izrecno izvzeto področje zakonodaje, povezane z varnostjo otrok.
SB 287 to izjemo neposredno izkorišča.
Hkrati zakonodajalci reagirajo na vrsto zaskrbljujočih primerov. V zadnjem letu so družine vložile tožbe, potem ko so otroci storili samomor po dolgih pogovorih s klepetalnimi roboti. Ti primeri so okrepili pritisk, da se področje AI strožje uredi.
Padilla je bil zraven že prej: sopodpisal je kalifornijski SB 243, ki od upravljavcev klepetalnih robotov zahteva varovalke za otroke in ranljive uporabnike.
Igrače, ki so prižgale rdeči alarm
AI igrače s klepetalnimi roboti še niso povsem mainstream, a opozorilni signali so tu.
Novembra 2025 je potrošniška organizacija PIRG Education Fund preizkusila Kumma, prikupnega medvedka z vgrajenim klepetalnim robotom. Ugotovila je, da ga je mogoče razmeroma preprosto spodbuditi k pogovorom o vžigalicah, nožih in spolnih temah.
NBC News je poročal o Miiloo, ‘AI igrači za otroke’ kitajskega podjetja Miriat. Miiloo je občasno nakazal, da je programiran tako, da odraža vrednote Komunistične partije Kitajske.
Medtem pa so drugi projekti obstali na pol poti. OpenAI in Mattel, proizvajalec Barbie, sta načrtovala lansiranje ‘izdelka na pogon AI’ v letu 2025, a sta ga preložila, brez pojasnila in brez jasnosti, ali bo izdelek morda prišel na trg leta 2026.
Kaj to pomeni za industrijo
Če SB 287 uspe, bodo morali vsi, ki razvijate pametne otroške igrače z AI, v svojih načrtih za kalifornijski trg pritisniti pavzo – in posredno verjetno tudi za druge trge.
Štiriletni moratorij v zvezni državi, kjer ima sedež velik del tehnološke industrije, lahko:
- upočasni ali ustavi lansiranje AI igrač za mladoletnike,
- podjetja prisili v razvoj posebej otrokom prilagojenih varnostnih sistemov,
- služi kot model, ki ga bodo druge zvezne države in tuji regulatorji podrobno preučevali.
Za slovenska podjetja, ki ciljajo na globalne trge z izobraževalnimi ali interaktivnimi AI igračami, je signal jasen: regulacija prihaja hitreje, kot je pričakovala industrija.
Naslednji koraki
SB 287 je za zdaj še vedno zgolj predlog. Pred njim so parlamentarne razprave in pričakovano močan odpor dela industrije.
Toda sporočilo iz Sacramenta je jasno: AI bo prej ali slej prišla v otroške sobe, vendar v Kaliforniji brez resnih varnostnih pravil ne bo dobila proste poti.
