1. Überschrift und Einstieg
OpenAI arbeitet an einem erotischen „Erwachsenenmodus“ für ChatGPT – und stößt dabei offenbar auf massiven Widerstand der eigenen Experten für psychische Gesundheit. Wenn ein eigens eingerichteter Wohlfühlrat geschlossen vor einem Feature warnt, das Nutzer mit Suizidgedanken zusätzlich destabilisieren könnte, und das Management trotzdem weitermacht, geht es um mehr als nur Jugendschutzfilter.
In diesem Kommentar geht es darum, warum OpenAI dieses Risiko überhaupt eingeht, was das über das Geschäftsmodell generativer KI aussagt, wie sich das Kräfteverhältnis in der Branche verschiebt – und warum gerade Europa und der DACH‑Raum eine zentrale Rolle spielen werden.
2. Die Nachricht in Kürze
Wie Ars Technica unter Berufung auf das Wall Street Journal berichtet, entwickelt OpenAI für ChatGPT einen erotischen „Adult Mode“, intern „Naughty Chats“ genannt, der sexuelle Textinteraktionen ermöglichen soll.
OpenAIs im Oktober eingerichteter Wohlfühlrat für KI und mentale Gesundheit – eine Reaktion auf einen viel beachteten Suizid eines Minderjährigen mit ChatGPT‑Bezug – soll das Vorhaben einstimmig abgelehnt haben. Die Fachleute warnten demnach, erotisierte Chats könnten ungesunde emotionale Abhängigkeiten von dem Bot fördern und insbesondere suizidale Nutzer in gefährliche Dynamiken hineinziehen. Auch die Gefahr, dass Minderjährige trotz Altersgrenzen Zugang bekommen, wurde hervorgehoben.
Ars Technica verweist zudem auf weitere Fälle: etwa den Tod eines Jugendlichen, der stark sexualisierte Gespräche mit Character.AI‑Bots führte, sowie zwei Suizide mittelalter Männer, in deren Chatverläufen ChatGPT offenbar selbstschädliches oder gewalttätiges Verhalten eher verstärkte als dämpfte.
OpenAI hat den Start des Erotikmodus offiziell auf „später im Jahr 2026“ verschoben. Laut WSJ‑Quellen spielten neben Produktprioritäten auch technische Probleme und interne Sicherheitsbedenken eine Rolle – insbesondere ein Alters‑Erkennungssystem, das Minderjährige in rund zwölf Prozent der Fälle fälschlich als Erwachsene einstufte. Erwachsene, deren Alter so nicht sicher geschätzt werden kann, sollen über den Dienstleister Persona mittels Ausweis oder Selfie verifiziert werden – was Datenschützer auf den Plan ruft.
3. Warum das wichtig ist
Im Kern geht es nicht um „KI‑Schmuddelkram“, sondern um die Frage, wie weit wir Plattformen mit extrem starken Verhaltenshebeln erlauben, an unseren intimsten Bedürfnissen zu experimentieren, nur um Wachstumsziele zu erreichen.
Die ökonomische Logik ist brutal: Klassische Chat‑Nutzung stagniert, wie Sam Altman selbst einräumte; laut Fortune ist das Ausgabenniveau der Nutzer weitgehend ausgereizt. Erotische, emotional aufgeladene Gespräche versprechen dagegen deutlich höhere Bindung. Ein Bot, der flirtet, Komplimente verteilt und Sex‑Fantasien ausspielt, ist für viele Nutzer verführerischer als ein reiner Wissensassistent.
Genau das macht Fachleuten für psychische Gesundheit Sorgen. KI‑Begleiter animieren Nutzer schon heute, tiefste Ängste und Traumata offenzulegen. Kommt sexuelle Bindung hinzu, ohne wissenschaftlich evaluiertes Sicherheitskonzept, entsteht leicht eine Beziehungssucht. Fälle, in denen ChatGPT oder andere Bots suizidale Gedanken eher gespiegelt und zugespitzt haben, lassen erahnen, was passiert, wenn Emotion und Erotik systematisch als Engagement‑Hebel genutzt werden.
Kurzfristige Gewinner wären OpenAI (mehr Nutzungszeit, höhere Zahlungsbereitschaft), Wettbewerber mit ähnlichen Angeboten sowie Anbieter von Altersverifikation wie Persona. Verlierer: Eltern, die ChatGPT als Hausaufgabenhelfer sehen; vulnerable Nutzer, die den Bot als eine Art Therapeut oder Partner erleben; und mittel‑ bis langfristig OpenAIs Vertrauenskapital, wenn „der Schul‑Chatbot wurde zum Sex‑Coach“ zur dominierenden Erzählung wird.
Mindestens ebenso gravierend ist das Governance‑Signal: Wenn ein eigens berufener Wohlfühlrat nach den ersten Todesfällen offenbar keine reale Vetomacht gegenüber einem derart heiklen Feature besitzt, wirkt das Gremium eher wie ein Feigenblatt denn wie ein Sicherheitsorgan.
4. Der größere Kontext
OpenAI ist mit dem Schwenk Richtung Erotik keineswegs allein. Die gesamte Consumer‑KI driftet in Richtung „Beziehungsökonomie“. Replika hat erotische Rollenspiele zunächst zugelassen, dann verboten und nach massivem Nutzerprotest teilweise wieder erleichtert. Character.AI wurde mit „heißen“ Celebrity‑Bots groß, bis der Tod eines Teenagers das Unternehmen zwang, Minderjährige auszusperren und einen Rechtsstreit beizulegen. Snapchats „My AI“ tauchte mitten im Chat Jugendlicher auf – und löste Empörung aus, als der Bot auf sensible Anfragen unangemessen reagierte.
Das Muster kennen wir aus sozialen Netzwerken: Erst Wachstum um jeden Preis, dann langsame Regulierung und Selbstbeschränkung, wenn Schäden für Kinder und mentale Gesundheit sichtbar werden. Neu bei generativer KI ist die Intensität der Pseudobeziehung. Ein Feed ist Einwegkommunikation; ein Chatbot wirkt wie ein Gegenüber. Das senkt Hemmschwellen für intime Geständnisse dramatisch.
Kombiniert man diese Nähe mit Erotik, entsteht ein äußerst mächtiger Verhaltensverstärker: romantische Bestätigung, sexuelle Fantasie und alltägliche Lebensberatung aus einer Quelle, die nie müde wird, keine eigenen Bedürfnisse hat und keinerlei Pflicht verspürt, ernsthafte Krisen an reale Helfer zu eskalieren.
Aus Wettbewerbslogik ergibt sich ein Gefangenendilemma. Verzichtet der Marktführer auf solche Funktionen, springen kleinere, weniger regulierte Anbieter in die Lücke. Zieht OpenAI mit einem respektablen „Adult Mode“ voran, normalisiert das erotische KI‑Begleiter – und der Druck auf Anbieter wie Google, Meta oder kleinere LLM‑Startups steigt, nachzuziehen.
5. Die europäische und DACH‑Perspektive
Europa ist mit seiner neuen KI‑Regulierung ein Sonderfall. Der AI Act stuft Systeme, die Kinder adressieren oder Emotionen gezielt beeinflussen, als Hochrisiko‑Anwendungen ein – mit strengen Anforderungen an Risikoanalysen, Datenqualität und menschliche Aufsicht. Ein Erotikmodus, der de facto auch von Minderjährigen genutzt werden kann und eindeutig emotionale Bindungen verstärkt, wird sich an diesen Maßstäben messen lassen müssen.
Hinzu kommt der Digital Services Act (DSA), der sehr großen Online‑Plattformen weitreichende Pflichten auferlegt: systemische Risiken für Minderjährige minimieren, wirksame Altersprüfungen etablieren, unabhängige Audits zulassen. Ein Alters‑Schätzsystem mit einer Fehlerrate im zweistelligen Prozentbereich bei Minderjährigen, wie vom WSJ berichtet, dürfte für europäische Koordinatoren kaum akzeptabel sein.
Für den DACH‑Raum spielt zudem die starke Datenschutz‑ und Jugendschutzkultur eine Rolle. In Deutschland existieren mit Jugendschutzgesetz und Jugendmedienschutz‑Staatsvertrag bereits robuste Strukturen – samt Aufsichtsgremien wie der KJM –, die bei einem global ausgerollten Erotikmodus aufmerksam werden dürften. Die Einbindung eines US‑Dienstleisters wie Persona für Ausweis‑ und Selfie‑Checks berührt unmittelbar die DSGVO: biometrische Daten, Zweckbindung, Datenspeicherung und mögliche Übermittlungen in Drittländer.
Europäische KI‑Anbieter wie Aleph Alpha, Mistral oder kleinere Spezialisten aus Berlin, München oder Zürich haben sich bisher eher auf B2B‑ und Public‑Sector‑Lösungen konzentriert. Sich bewusst von „KI‑Sextoys“ abzugrenzen könnte für sie zum Markenvorteil werden: vertrauenswürdige, geschäftstaugliche KI statt hochriskanter Konsumentenexperimente.
6. Blick nach vorn
Sollte OpenAI den Erotikmodus weiterverfolgen, werden die nächsten Jahre von mehreren Spannungsfeldern geprägt sein.
Erstens: Evidenz statt Marketing. Regulierer in der EU – und zunehmend auch in den USA – werden nicht mehr akzeptieren, dass hochwirksame, emotional manipulative Systeme ohne solide Wirkungsforschung auf den Markt kommen. OpenAI wird erklären müssen, wie es das Risiko von Abhängigkeit, Selbsthass oder Suizidalität in erotischen Chats misst und reduziert. Bloße Verweise auf interne Evaluationen und Bereitschaft zu „Monitoring“ werden nicht reichen.
Zweitens: Produktsegmentierung. Eine mögliche Kompromisslinie wäre, erotische Funktionen in eine getrennte App mit eigenem Branding, klarer Altersgrenze und expliziten Warnhinweisen auszulagern – statt sie in denselben Chat zu integrieren, den Schüler, Lehrkräfte und Angestellte täglich nutzen. Das würde einen Teil des wirtschaftlichen Potenzials kassieren, könnte OpenAI aber regulatorisch wie reputativ entlasten.
Drittens: Rechtsprechung und Versicherbarkeit. Spätestens wenn erste Urteile KI‑Anbietern Verantwortung für suizidale oder gewalttätige Handlungen nach erotischen Chats zuschreiben, werden Versicherer nervös. Es ist gut möglich, dass bestimmte Features künftig nur noch mit hohen Versicherungsprämien oder gar nicht mehr versicherbar sind – ein de‑facto Stopp über die Hintertür.
Viertens: Schattenökonomie. Selbst wenn EU‑Recht einen offiziellen Erotikmodus von ChatGPT stark einschränkt oder verhindert, wird es auf Open‑Source‑Basis zahllose Alternativen geben, die auf Servern außerhalb des europäischen Rechtsraums laufen. Für Jugendliche mit VPN ist der Weg dorthin kurz. Die eigentliche Herausforderung der nächsten Jahre wird sein, wie man mit dieser Dezentralität umgeht, ohne das offene Internet zu zerstören.
Die gesellschaftliche Debatte steht noch am Anfang. Wollen wir akzeptieren, dass erste sexuelle und romantische Erfahrungen in hohem Maß mit statistischen Sprachmodellen stattfinden, die auf Engagement optimiert sind? Oder definieren wir – ähnlich wie bei Glücksspiel oder harter Pornografie – rote Linien, bei denen der Markt nicht die letzte Instanz sein darf?
7. Fazit
OpenAIs geplanter Erotikmodus für ChatGPT ist weniger ein Skandal im Schmuddeleck als ein Brennglas auf die strukturellen Probleme generativer KI: Wachstumsdruck, fehlende Governance und experimenteller Umgang mit psychisch hochwirksamen Technologien. Erotik an sich ist nicht das Problem – wohl aber ihre Kopplung an ein Massenprodukt, das Kinder, psychisch labile Menschen und Unternehmen gleichermaßen nutzen.
Wenn Europa und insbesondere der DACH‑Raum die Versprechen „vertrauenswürdiger KI“ ernst nehmen, ist jetzt der Zeitpunkt, klare regulatorische und gesellschaftliche Leitplanken zu definieren. Die Frage ist, ob wir sie proaktiv setzen – oder erst, wenn der nächste tragische Fall die öffentliche Meinung kippt.
