Die Frist ist abgelaufen. Mitte Juli hatte die Stadtanwaltschaft von San Francisco den beiden grossen Mobile-Plattformen Apple und Google eine Unterlassungsaufforderung zugestellt und ihnen 28 Tage eingeräumt, um insgesamt 13 sogenannte Nudify-Apps aus ihren Stores zu entfernen. Acht davon lagen im App Store, fünf im Play Store. Seit dieser Woche läuft die Uhr nicht mehr. Die eigentliche Frage lautet inzwischen nicht mehr, ob solche Apps verschwinden, sondern wer für ihre Verbreitung geradesteht.

Was Nudify-Apps sind und warum sie zum Rechtsfall werden

Nudify-Anwendungen nehmen ein gewöhnliches Foto und erzeugen daraus per Bildgenerator eine scheinbar unbekleidete Version der abgebildeten Person. Technisch ist das längst kein Spezialwerkzeug mehr, sondern eine App mit Abo-Modell, In-App-Käufen und Store-Bewertung. Genau darin liegt der juristische Hebel: Wer solche Käufe abwickelt und die Software ausliefert, ist nach Auffassung der Behörde nicht bloss neutraler Vermittler, sondern Teil der Wertschöpfungskette.

Kalifornisches Recht stellt es unter Strafe, die Herstellung nicht einvernehmlicher intimer Deepfakes wissentlich zu erleichtern oder fahrlässig zu unterstützen. Seit 2025 können Betroffene zusätzlich zivilrechtlich gegen Dritte vorgehen, die solche Inhalte ermöglichen. Die Stadtanwaltschaft argumentiert, beide Konzerne seien seit rund einem Jahr über die Lage im Bild gewesen und hätten dennoch weiter Zahlungen für diese Apps abgewickelt.

Die Reaktionen der Plattformen

Apple erklärte, Nudify-Apps seien nach den eigenen Review-Richtlinien ohnehin verboten. Drei der beanstandeten Apps seien entfernt worden, die zugehörigen Entwicklerkonten würden gekündigt. Mit vier weiteren Anbietern stehe man in Kontakt, sie müssten Verstösse beheben oder ebenfalls mit einer Entfernung rechnen. Google gab an, alle fünf gemeldeten Apps seien gesperrt worden. Insgesamt habe man hunderte einschlägige Apps suspendiert und Suchbegriffe wie "nudify" im Store eingeschränkt.

Auffällig bleibt, wie lange diese Anwendungen unbeanstandet durchliefen. Untersuchungen aus dem Januar und dem April dieses Jahres dokumentierten, dass sich entsprechende Apps über schlichte Suchbegriffe finden liessen, teilweise sogar in Empfehlungslisten auftauchten und in Einzelfällen mit einer Altersfreigabe für alle Nutzergruppen versehen waren. Das Problem war also nicht Unkenntnis, sondern Priorisierung.

Warum das die gesamte Erotikbranche betrifft

Für seriöse Anbieter im Erotikbereich ist diese Entwicklung ambivalent. Einerseits verschiebt sich die Haftung weg von schwer greifbaren Entwicklern hin zu den Distributoren, also zu App-Stores, Zahlungsdienstleistern und in letzter Konsequenz zu Hosting- und Plattformbetreibern. Andererseits stellt sich die Frage, wie eine Branche Einwilligung technisch belegen will, wenn generierte Bilder von echten Aufnahmen kaum mehr zu unterscheiden sind.

Wer heute eine Erotikplattform aufbaut, kommt an drei Punkten nicht mehr vorbei:

  1. Nachweisbare Einwilligung. Nicht bloss eine Checkbox, sondern eine dokumentierte, zeitgestempelte Zustimmung pro veröffentlichtem Motiv, idealerweise verknüpft mit der Identitätsprüfung.
  2. Herkunftskennzeichnung von Bildern. KI-generiertes Material sollte intern markiert und im Zweifel auch nach aussen gekennzeichnet sein. Wer das freiwillig löst, muss es später nicht unter Zeitdruck nachrüsten.
  3. Ein funktionierender Meldeweg. Betroffene brauchen einen sichtbaren, kurzen Prozess zur Meldung nicht einvernehmlicher Aufnahmen samt verbindlicher Löschfrist. Regulatoren in mehreren Rechtsräumen bewegen sich hier in Richtung Fristen im Bereich von Stunden, nicht Wochen.

Ein Reputationsthema, nicht bloss ein Compliance-Thema

Die Debatte um Nudify-Apps trägt einen unangenehmen Nebeneffekt in sich: Sie vermischt legale, einvernehmliche Erotikangebote mit missbräuchlicher Bildmanipulation. Genau diese Vermischung dient Zahlungsdienstleistern und Werbeplattformen regelmässig als Begründung, um ganze Kategorien pauschal auszuschliessen. Anbieter, die früh und sichtbar auf Einwilligung, Altersverifikation und Bildherkunft setzen, verteidigen damit nicht nur ihre Rechtsposition, sondern auch ihren Zugang zu Infrastruktur.

Was als Nächstes zu erwarten ist

Der kalifornische Fall ist ein Testlauf. Sollte die Stadtanwaltschaft nach Fristablauf tatsächlich Bussen verfolgen, entsteht ein Präzedenzfall, der weit über die USA hinaus zitiert werden dürfte. Parallel arbeiten europäische Gesetzgeber an Verboten für Systeme, die nicht einvernehmliches Intimmaterial erzeugen. Für den deutschsprachigen Raum heisst das: Wer eine Erotikplattform betreibt oder plant, sollte Einwilligungs- und Meldeprozesse jetzt sauber aufsetzen. Nachrüsten unter regulatorischem Druck ist deutlich teurer als ein durchdachtes Konzept von Anfang an.