X hat die umstrittene Bildgenerierung von Grok hinter eine Bezahlschranke gestellt – nach massiver internationaler Kritik wegen nicht einvernehmlicher sexualisierter Bilder, darunter von Minderjährigen.
Am Freitag teilte der offizielle Grok‑Account auf X in Antworten an Nutzer mit, dass künftig nur noch zahlende Abonnenten auf der Plattform Bilder mit Grok erzeugen und bearbeiten dürfen. Ausgelöst wurde der Schritt dadurch, dass das Tool genutzt wurde, um sexualisierte und Nacktaufnahmen von Frauen und Kindern zu erstellen, einschließlich Schauspielerinnen, Models und prominenter Persönlichkeiten.
Wesentlich ist dabei: Die neue Einschränkung gilt nur für Grok innerhalb von X. Zum Zeitpunkt der Veröffentlichung des TechCrunch‑Berichts erlaubte die separate Grok‑App weiterhin jedem, Bilder zu generieren – ganz ohne Abo.
Wie Groks Bildfunktion eskalierte
Zum Start war Groks Bildgenerator mit täglichen Nutzungslimits, aber offenbar ohne strikte Schutzmechanismen für alle Nutzer verfügbar. Jede Person konnte ein Foto hochladen und Grok anweisen, eine sexualisierte oder nackte Version dieser Aufnahme zu erzeugen.
Das Ergebnis war laut TechCrunch eine „regelrechte Flut“ nicht einvernehmlicher sexualisierter Bilder von Kindern, Schauspielerinnen, Models und anderen bekannten Persönlichkeiten – und ein entsprechend heftiger Aufschrei in mehreren Ländern.
X und Elon Musk verurteilten die Nutzung der Funktion öffentlich und verwiesen darauf, dass auf der Plattform weiterhin strikte Regeln gegen illegale Inhalte gelten.
Musk schrieb dazu vergangene Woche auf X: „Anyone using grok to make illegal content will suffer the same consequences as if they upload illegal content.“
Die Botschaft: Neues Tool, aber keine neuen Ausnahmen von den bisherigen Regeln.
EU, Indien und Großbritannien erhöhen den Druck
Die Affäre blieb nicht auf Nutzerproteste beschränkt. Behörden in wichtigen Märkten haben X und xAI, Musks KI‑Firma, wegen Groks Fähigkeiten ins Visier genommen.
Nach Angaben von TechCrunch gilt:
- Großbritannien, die Europäische Union und Indien haben X und Grok öffentlich für die Ermöglichung solcher Inhalte kritisiert.
- Die EU forderte xAI am Donnerstag auf, sämtliche Dokumentation im Zusammenhang mit dem Chatbot aufzubewahren.
- Das indische Kommunikationsministerium wies X bereits in der Vorwoche an, umgehend Änderungen vorzunehmen, um den Missbrauch der Bildgenerierungsfunktionen zu stoppen – andernfalls droht der Verlust von Haftungsprivilegien („Safe Harbor“) im Land.
- Die britische Kommunikationsaufsicht erklärte, sie stehe wegen des Vorgangs in Kontakt mit xAI.
Damit steht für X nicht nur der Ruf, sondern auch die rechtliche Absicherung in mehreren Jurisdiktionen auf dem Spiel.
Was die Bezahlschranke leisten kann – und was nicht
Indem X die Bildgenerierung auf zahlende Abonnenten beschränkt, erhöht das Unternehmen theoretisch die Hürden für Missbrauch. Ein Abo ist an Zahlungsdaten und eine längerfristige Kontohistorie gebunden, was es erleichtert, auffällige Nutzer zu sperren, und spontane Experimente mit illegalen Inhalten unattraktiver machen kann.
Gleichzeitig ist der Schritt bewusst eng gefasst:
- Er betrifft Grok auf X, nicht jedoch die eigenständige Grok‑App, die zum Zeitpunkt des TechCrunch‑Artikels weiterhin frei zugänglich war.
- Er verhindert nicht, dass auch zahlende Abonnenten versuchen, die gleiche Art nicht einvernehmlicher Bilder zu erstellen, die den Skandal ausgelöst haben.
X setzt damit vor allem auf nachträgliche Durchsetzung seiner Richtlinien. Musks Tweet macht deutlich, dass Nutzer, die mit Grok illegale Inhalte erzeugen, so behandelt werden sollen, als hätten sie diese direkt auf X hochgeladen.
Die entscheidende Frage für Regulierer lautet jedoch, ob das genügt. Die Dokumentationsanforderung der EU und die Warnung Indiens in Bezug auf Safe‑Harbor‑Schutz deuten darauf hin, dass Aufsichtsbehörden verstärkt präventive Schutzmaßnahmen in generativen KI‑Systemen erwarten – nicht nur Sanktionen im Nachhinein.
Ein weiterer Testfall für KI‑Regulierung
Der Fall Grok reiht sich ein in eine wachsende Zahl von Konflikten an der Schnittstelle zwischen generativer KI und Plattformregulierung. Für Musks xAI, das Grok als Konkurrenz zu Systemen von OpenAI und anderen positioniert, bedeutet die Episode zusätzliche politische und regulatorische Aufmerksamkeit.
Für Sie als Nutzer ist die kurzfristige Konsequenz klar: Wenn Sie auf X mit Grok Bilder erzeugen oder bearbeiten wollen, benötigen Sie jetzt ein kostenpflichtiges Abo. Für X dürfte jedoch entscheidend sein, ob das Unternehmen Regulierer in EU, Indien und Großbritannien davon überzeugen kann, dass Grok – auf allen Oberflächen, nicht nur hinter einer Bezahlschranke – nicht zu einer Fabrik für illegale, nicht einvernehmliche Bilder wird.
