Im Oktober 2025 sorgte OpenAI-Chef Sam Altman für Aufsehen: ChatGPT solle verifizierten erwachsenen Nutzern künftig auch erotische Inhalte erlauben, unter dem Motto «Erwachsene wie Erwachsene behandeln». Der Start war für Dezember 2025 geplant. Fast ein Jahr später ist von diesem Versprechen wenig übrig geblieben, und der Fall zeigt, wie schwierig es selbst für den grössten KI-Anbieter der Welt ist, Erotik und Jugendschutz unter einen Hut zu bringen.

Vom grossen Versprechen zum Stillstand

Ursprünglich sollte der sogenannte Erotik- oder Adult-Modus bereits Ende 2025 verfügbar sein. Verifizierte Erwachsene hätten erotische Kurzgeschichten, Rollenspiele und sinnliche Inhalte erhalten dürfen, solange diese fiktiv, einvernehmlich und eindeutig auf Erwachsene ausgerichtet sind. Der Termin verschob sich zunächst auf das erste Quartal 2026. Am 26. März 2026 zog OpenAI dann die Notbremse und legte das Projekt auf unbestimmte Zeit auf Eis. Ein neuer Zeitplan wurde bis heute nicht kommuniziert.

Warum das Unternehmen zurückruderte

Intern sollen Mitarbeitende, Beraterinnen und Investoren Druck gemacht haben. Im Zentrum der Bedenken standen drei Punkte:

  1. Das Risiko, dass Minderjährige trotz Alterskontrolle Zugang zu expliziten Inhalten erhalten.
  2. Sorgen um emotionale Abhängigkeit, nachdem Studien zeigten, dass Chatbots dazu neigen, auch fragwürdige Überzeugungen ihrer Nutzenden zu bestätigen statt zu hinterfragen.
  3. Ungelöste Fragen bei der Abgrenzung zwischen erlaubter Erotik und verbotener Pornografie, die sich technisch kaum sauber filtern lässt.

Hinzu kommen regulatorische Risiken: Sowohl in den USA als auch in der EU verschärfen Gesetze wie der Digital Services Act die Pflichten von Plattformen beim Jugendschutz, während Datenschutzvorgaben wie die DSGVO den Umgang mit derart sensiblen Nutzerdaten zusätzlich erschweren.

Alterserkennung läuft weiter, der Erotik-Filter nicht

Bemerkenswert ist, dass ein Teil des Projekts sehr wohl umgesetzt wurde: Seit Januar 2026 schätzt ChatGPT weltweit automatisch das Alter seiner Nutzenden anhand von Verhaltenssignalen, Kontoalter und Nutzungsmustern. Konten, die als minderjährig eingestuft werden, verlieren automatisch Zugriff auf romantische und sexuelle Rollenspiele sowie weitere sensible Inhalte. Wer fälschlich als minderjährig eingestuft wird, kann sein Alter über den Dienstleister Persona nachweisen, wobei Ausweisfotos gemäss OpenAI innerhalb einer Woche wieder gelöscht werden. Die eigentlichen Inhaltsfilter für den Erotik-Modus, welche zwischen zulässiger und unzulässiger Erotik unterscheiden sollten, kamen dagegen nie über die Planungsphase hinaus.

Was das für die Erotikbranche bedeutet

Für Anbieter von KI-gestützter Werbung und Content in der Erotikbranche bleibt die Ausgangslage vorerst unverändert: ChatGPT fällt als Werkzeug für erotische Texte oder Rollenspiele weiterhin aus, während spezialisierte Anbieter wie dedizierte Companion-Apps oder der Chatbot Grok von Elon Musks xAI, der bereits seit längerem sexualisierte Inhalte samt animiertem Avatar anbietet, die Nachfrage bedienen. Diese Fragmentierung des Marktes dürfte sich kurzfristig kaum ändern, denn OpenAI hat deutlich gemacht, dass eine Rückkehr des Projekts erst dann infrage kommt, wenn die Filtertechnik zuverlässig zwischen einvernehmlicher Erwachsenen-Fiktion und problematischen Inhalten unterscheiden kann.

Für Schweizer Erotik-Anbieter, die auf KI-Werbetexte und -Bilder setzen, bleibt damit vorerst wichtig, sich nicht auf grosse Mainstream-Anbieter zu verlassen, sondern auf spezialisierte Werkzeuge zu setzen, die von vornherein für die Branche gebaut sind. Gleichzeitig zeigt der Fall, wie genau grosse Plattformen inzwischen zwischen Jugendschutz, Datenschutz und Erwachseneninhalten abwägen müssen, ein Spannungsfeld, das auch für Schweizer Anbieter bei der eigenen Alters- und Zugangskontrolle zunehmend relevant wird.