Kalifornien könnte der erste US-Bundesstaat werden, der KI-Chatbots in Kinderspielzeug per Gesetz auf Pause setzt.
Senator Steve Padilla (D-CA) hat am Montag den Gesetzentwurf SB 287 eingebracht. Er sieht ein vierjähriges Verbot für Herstellung und Verkauf von Spielzeug mit KI-Chatbot-Funktionen für unter 18‑Jährige vor.
Es geht nicht um ein endgültiges Aus, sondern um einen Moratoriums‑Knopf.
Padillas Begründung: Der Staat brauche Zeit, um Regeln zu entwickeln, die Kinder vor ‘gefährlichen KI‑Interaktionen’ schützen, bevor solche Produkte flächendeckend im Kinderzimmer landen.
Er erklärte, Chatbots und andere KI‑Werkzeuge könnten zwar künftig ein integraler Bestandteil des Alltags werden, doch die heutigen Risiken verlangten ‘mutiges Handeln’, um Kinder zu schützen. Die Sicherheitsvorschriften für diese Technologien seien noch ‘in den Kinderschuhen’ und müssten sich ebenso schnell weiterentwickeln wie die Technologie selbst.
Was SB 287 konkret vorsieht
SB 287 richtet sich an Spielzeug, das:
- KI‑Chatbot‑Funktionen integriert und
- an Minderjährige vermarktet wird.
Für einen Zeitraum von vier Jahren dürfte solches Spielzeug in Kalifornien weder hergestellt noch verkauft werden.
Diese Pause soll den Behörden Zeit geben, einen Sicherheitsrahmen zu entwickeln: verbindliche Richtlinien, Prüfverfahren und Vorgaben, an die sich Spielzeughersteller und KI‑Anbieter halten müssen, bevor KI‑Chatbots wieder legal in Spielwaren eingesetzt werden dürfen.
Padilla formuliert den Zielkonflikt deutlich: ein befristeter wirtschaftlicher Einschnitt für die Branche versus der Verzicht darauf, Kinder als ‘Versuchskaninchen für Big Tech’ zu benutzen.
Politischer Kontext: Trumps KI‑Erlass
Der Entwurf kommt kurz nach einer Anordnung von Präsident Trump. Sein jüngstes Executive Order weist Bundesbehörden an, staatliche KI‑Gesetze vor Gericht anzugreifen. Gleichzeitig enthält es aber eine klare Ausnahme: Regelungen zum Schutz von Kindern.
Genau in diese Lücke stößt SB 287.
Hinzu kommen mehrere Fälle, die die Debatte emotional aufgeladen haben. Im vergangenen Jahr wurden Klagen von Familien eingereicht, deren Kinder sich das Leben nahmen, nachdem sie über längere Zeiträume mit Chatbots interagiert hatten. Diese Vorgänge haben den Druck auf den Gesetzgeber erhöht.
Padilla ist beim Thema bereits einschlägig aktiv: Er hat den kürzlich verabschiedeten kalifornischen Gesetzentwurf SB 243 mitverfasst, der Betreiber von Chatbots verpflichtet, Schutzmechanismen für Kinder und andere vulnerable Nutzer zu implementieren.
Frühwarnzeichen aus dem Kinderzimmer
Noch sind Chatbot‑Spielzeuge ein Nischenmarkt. Doch einzelne Produkte zeigen, wohin die Reise gehen könnte – und wo es schief laufen kann.
Im November 2025 warnte die Verbraucherorganisation PIRG Education Fund vor Kumma, einem plüschigen Spielzeugbären mit eingebautem Chatbot. Demnach ließ sich Kumma relativ leicht dazu bringen, über Streichhölzer, Messer und sexuelle Themen zu sprechen.
NBC News berichtete über Miiloo, ein ‘KI‑Spielzeug für Kinder’ des chinesischen Herstellers Miriat. Miiloo deutete demnach zeitweise an, so programmiert zu sein, dass es die Werte der Kommunistischen Partei Chinas widerspiegelt.
Parallel dazu wurde ein prominentes KI‑Spielzeugprojekt auf Eis gelegt: OpenAI und Barbie‑Hersteller Mattel wollten 2025 ein ‘KI‑gestütztes Produkt’ auf den Markt bringen. Der Launch wurde verschoben, ohne Begründung – und ohne klare Aussage, ob 2026 ein neuer Anlauf geplant ist.
Folgen für Spielwaren- und KI‑Branche
Sollte SB 287 Gesetz werden, müssten Anbieter von KI‑basiertem Kinderspielzeug ihre Strategien für Kalifornien grundlegend überdenken – und damit faktisch auch ihre globale Roadmap.
Ein vierjähriges Moratorium in dem Bundesstaat, in dem ein großer Teil der Tech‑Industrie sitzt, könnte:
- Produkteinführungen von Chatbot‑Spielzeugen für Minderjährige stoppen oder deutlich verzögern,
- Unternehmen dazu zwingen, spezifische Kinderschutz‑Systeme zu entwickeln,
- als Blaupause für andere US‑Bundesstaaten und ausländische Regulierer dienen.
Für deutsche und europäische Firmen, die smarte Lern‑ oder Unterhaltungsprodukte mit KI für den US‑Markt planen, ist die Botschaft deutlich: Kindersicherheit wird bei KI nicht als nachträgliches Feature, sondern als Voraussetzung behandelt.
Wie es weitergeht
SB 287 ist bislang nur ein Entwurf. Er muss durch beide Kammern des kalifornischen Parlaments und dürfte auf intensives Lobbying der Spielwaren‑ und Tech‑Industrie treffen.
Unabhängig vom konkreten Ausgang zeigt der Vorstoß jedoch, wohin sich die KI‑Regulierung bewegt: weg von rein abstrakten Debatten über Algorithmen – hin zu sehr konkreten Fragen, was passiert, wenn ein Chatbot direkt mit einem Kind spricht.
Die Botschaft aus Sacramento: KI mag das Kinderzimmer erobern wollen, aber nicht ohne vorherige Debatte darüber, welche Risiken die Gesellschaft dafür in Kauf nimmt.
