Kalifornija razmatra potez koji bi mogao odjeknuti cijelom industrijom pametnih igračaka: četverogodišnju zabranu AI chatbota u igračkama za djecu.
Senator Steve Padilla (D-CA) u ponedjeljak je predstavio prijedlog zakona SB 287. On bi zabranio prodaju i proizvodnju igračaka s ugrađenim AI chatbot funkcijama za osobe mlađe od 18 godina – i to na razdoblje od četiri godine.
Ideja nije da se AI izbaci iz igračaka zauvijek. Poanta je – stisnuti pauzu.
Padilla tvrdi da je ta pauza nužna kako bi regulatori dobili vrijeme za izradu pravila koja će djecu zaštititi od ‘opasnih AI interakcija’.
‘Chatbotovi i drugi AI alati možda će u budućnosti postati sastavni dio naših života, ali opasnosti koje predstavljaju sada zahtijevaju da poduzmemo hrabre mjere kako bismo zaštitili našu djecu’, poručio je u izjavi, dodajući da su sigurnosni propisi za ovu tehnologiju još ‘u povojima’.
Što bi SB 287 konkretno zabranio
SB 287 cilja na igračke koje:
- imaju integriran AI chatbot i
- prodaju se ili oglašavaju za maloljetnike.
Takve igračke se četiri godine ne bi smjele proizvoditi niti prodavati u Kaliforniji.
Tijekom moratorija regulatorne agencije trebale bi razviti sigurnosni okvir: jasna pravila, testiranja i zaštitne mehanizme koje bi proizvođači igračaka i AI dobavljači morali poštovati prije povratka takvih proizvoda na tržište.
Padilla to predstavlja kao izbor između kratkoročnog udara na biznis i dugoročnog rizika da djeca postanu, kako kaže, ‘pokusni kunići na kojima Big Tech eksperimentira’.
Širi politički okvir
Prijedlog zakona dolazi nakon nedavne izvršne uredbe predsjednika Trumpa, kojom agencijama na saveznoj razini nalaže da na sudu osporavaju državne zakone o umjetnoj inteligenciji. No ta uredba izričito izuzima zakone koji se tiču sigurnosti djece.
Upravo u tu iznimku ulazi SB 287.
Dodatno, u posljednjih godinu dana pojavili su se slučajevi koji su dodatno zapalili raspravu. Obitelji su podnijele tužbe nakon što su djeca počinila samoubojstvo poslije dugotrajnih razgovora s chatbotovima, što je pojačalo pritisak na zakonodavce da reagiraju.
Padilla je već bio aktivan na tom polju: supotpisao je kalifornijski zakon SB 243, koji od operatera chatbotova traži da uvedu zaštite za djecu i ranjive korisnike.
Rani signali iz svijeta AI igračaka
AI igračke s chatbotovima još nisu masovno prisutne, ali prvi incidenti pokazuju gdje stvari mogu poći po zlu.
U studenom 2025. potrošačka organizacija PIRG Education Fund upozorila je na Kumma, slatkog medvjedića s ugrađenim chatbotom. Pokazalo se da ga se relativno lako može navesti da priča o šibicama, noževima i seksualnim temama.
NBC News otkrio je probleme druge vrste kod Miiloo, ‘AI igračke za djecu’ kineske tvrtke Miriat. U nekim razgovorima Miiloo je davao do znanja da je programiran tako da odražava vrijednosti Komunističke partije Kine.
Istovremeno je jedan od najpraćenijih AI projekata za igračke zakočen prije lansiranja. OpenAI i Mattel, proizvođač Barbie lutke, planirali su 2025. izbaciti ‘AI pogonjen proizvod’, no lansiranje je odgođeno bez objašnjenja i bez jasnih naznaka hoće li se pokušati ponovno 2026.
Zašto ovo treba pratiti i regionalnim igračima
Ako SB 287 prođe, svatko tko razvija edukativne ili zabavne AI igračke za globalno tržište morat će ozbiljno razmisliti što to znači za poslovanje u SAD‑u.
Četverogodišnji moratorij u Kaliforniji – srcu američke tech industrije – mogao bi:
- zakočiti lansiranje AI igračaka za djecu,
- natjerati kompanije da razviju specifične dječje sigurnosne sustave,
- poslužiti kao model koji će proučavati i druge savezne države, ali i europski i regionalni regulatori.
Za timove iz Hrvatske i regije koji ciljaju na američko tržište poruka je jasna: regulacija AI‑a u dječjim proizvodima dolazi brže nego što se očekivalo, i ignoriranje tog trenda može skupo koštati.
Što slijedi
SB 287 je zasad samo prijedlog. Mora proći kroz zakonodavni proces u Kaliforniji i vjerojatno će naići na snažan otpor dijela industrije.
No bez obzira na ishod, signal iz Sacramenta je jasan: sljedeća bitka oko regulacije umjetne inteligencije neće se voditi samo oko pretraživača i društvenih mreža, nego i oko toga što sve smije reći igračka koja priča s vašim djetetom.
