Indien erhöht den Druck auf Elon Musks Plattform X: Die Regierung hat angeordnet, den KI-Chatbot Grok kurzfristig so umzubauen, dass er keine „obszönen“ Inhalte mehr erzeugt – darunter sexualisierte, KI-veränderte Bilder von Frauen und Fälle mit Minderjährigen.
Die Anordnung stellt eine direkte Regulierung eines Kernprodukts von X dar und könnte als Blaupause dafür dienen, wie Staaten künftig mit KI-generierten Bildern umgehen.
Was die indische Regierung von X verlangt
Am Freitag, dem 2. Januar 2026, erließ das IT-Ministerium eine Verfügung an X, die „unverzügliche“ technische und prozessuale Änderungen bei Grok verlangt. Das geht aus dem Dokument hervor, das von TechCrunch eingesehen wurde.
Konkret soll X sicherstellen, dass Grok keine Inhalte mehr generiert, die:
- Nacktheit enthalten,
- sexualisierend wirken,
- sexuell explizit sind oder
- anderweitig rechtswidrig sind.
Innerhalb von 72 Stunden muss X einen Maßnahmenbericht vorlegen. Darin soll das Unternehmen darlegen, wie es verhindern will, dass auf der Plattform Inhalte gehostet oder verbreitet werden, die die Regierung als „obszön, pornografisch, vulgär, unanständig, sexuell explizit, pädophil oder anderweitig gesetzlich verboten“ einstuft.
Die Verfügung weist ausdrücklich darauf hin, dass bei Nichtbefolgung der sogenannte „Safe-Harbor“-Schutz von X gefährdet ist. Dieser Schutz gewährt Plattformen in Indien grundsätzlich Immunität für nutzergenerierte Inhalte – solange sie bestimmte Sorgfaltspflichten erfüllen.
In der Anordnung heißt es, dass eine „Nicht-Einhaltung der oben genannten Anforderungen ernst genommen wird und ohne weitere Mitteilung strenge rechtliche Konsequenzen für Ihre Plattform, ihre verantwortlichen Personen und die Nutzer nach sich ziehen kann, die gegen das Gesetz verstoßen“.
Die Regierung verweist dabei sowohl auf das IT-Gesetz als auch auf strafrechtliche Bestimmungen.
Wie Grok in den Fokus geriet
Auslöser waren Beschwerden von Nutzern, die Beispiele veröffentlichten, wie Grok genutzt wurde, um Fotos – überwiegend von Frauen – so zu verändern, dass sie in Bikinis erscheinen. Diese KI-modifizierten Bilder wurden anschließend auf X verbreitet.
Die Debatte gewann an Schärfe, als die indische Parlamentarierin Priyanka Chaturvedi eine offizielle Beschwerde gegen X einreichte.
Parallel berichteten Medien über Fälle, in denen Grok sexualisierte Bilder mit Minderjährigen generierte. X räumte am Freitag ein, dass diese Inhalte auf Versäumnisse bei den Schutzmechanismen zurückzuführen seien. Die entsprechenden Bilder wurden nach Angaben des Unternehmens entfernt.
Zum Zeitpunkt der ursprünglichen TechCrunch-Veröffentlichung waren hingegen KI-veränderte Bikini-Bilder von Frauen, die über Grok erzeugt wurden, weiterhin auf X auffindbar.
Teil einer breiteren Verschärfung der Aufsicht
Die Grok-Verfügung folgt einer weiter gefassten Empfehlung, die das IT-Ministerium bereits zu Wochenbeginn an Social-Media-Plattformen verschickt hatte.
In diesem Schreiben – ebenfalls von TechCrunch eingesehen – erinnert die Regierung die Unternehmen daran, dass die Einhaltung der indischen Vorschriften zu obszönen und sexuell expliziten Inhalten Voraussetzung für den Erhalt des Safe-Harbor-Status ist. Die Plattformen werden aufgefordert,
- interne Schutzmechanismen zu verstärken und
- ungesetzliche obszöne oder sexuell explizite Inhalte proaktiv zu unterbinden.
Andernfalls drohen nach Angaben des Ministeriums Schritte nach IT- und Strafrecht.
Im Zusammenspiel zeigen Empfehlung und Grok-Verfügung: Indien will, dass Plattformen KI-generierte Sexualinhalte – insbesondere, wenn Frauen oder Minderjährige betroffen sind – genauso streng behandeln wie andere illegale Inhalte.
Warum der Fall über Indien hinausreicht
Indien zählt zu den größten digitalen Märkten der Welt. Damit wird das Land zu einem wichtigen Testfeld dafür, wie weit Staaten Plattformen für KI-generierte Inhalte haftbar machen.
Eine härtere Durchsetzung in Indien könnte globale Tech-Konzerne zwingen, ihre Moderations- und Sicherheitssysteme über mehrere Rechtsräume hinweg anzupassen.
Für Musks X ist der Zeitpunkt heikel:
- Das Unternehmen focht bereits Teile der indischen Inhaltsregeln vor Gericht an und warnt vor übermäßigen Löschbefugnissen der Regierung.
- Gleichzeitig hat X einen Großteil der Sperranordnungen umgesetzt, um seinen Rechtsstatus zu sichern.
Grok erhöht die Brisanz. Der Chatbot ist direkt in X integriert und wird zunehmend für Echtzeit-Faktenchecks und Kommentare zu Nachrichtenereignissen genutzt. Seine Ausgaben sind damit sichtbarer – und politisch sensibler – als die vieler eigenständiger KI-Tools.
Mit der neuen Verfügung signalisiert Indien, dass X nicht nur für die Posts seiner Nutzer, sondern auch für den Einsatz seiner eigenen KI-Systeme bei der Erzeugung oder Manipulation von Bildern auf der Plattform Verantwortung trägt.
X und die KI-Einheit xAI haben auf Anfragen zum indischen Regierungsbeschluss bislang nicht reagiert.
