InterviewKönnen Behörden einmal verbreitete Deepfakes nachhaltig löschen? «Chancenlos», sagt eine DatenschutzexpertinTäuschend echte KI-Pornos fluten das Internet. Sie sind eine Form der Machtausübung gegenüber Frauen, sagt die Juristin Jutta Oberlin. Sie weiss, was dagegen zu tun wäre.11.07.2026, 05.30 Uhr8 LeseminutenJutta Oberlin beschäftigt sich seit Jahren mit der digitalen Welt. Sie sagt: «Das Internet bringt ständig neue Delikte hervor.»Karin Hofer / NZZHeute kann jeder aus einem normalen Foto einen Porno erstellen. Ganz einfach, mit künstlicher Intelligenz. Solche Deepfakes gibt es immer mehr. 2023 kursierten noch eine halbe Million dieser Inhalte, 2025 waren es bereits acht Millionen. 99 Prozent der dort abgebildeten Personen sind Frauen. Unzählige von ihnen haben vermutlich keine Ahnung, dass diese Inhalte existieren.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Ein prominenter Fall aus Deutschland zeigt, was solche sexualisierten KI-Inhalte für Betroffene bedeuten können: die Vorwürfe der Moderatorin Collien Fernandes gegen ihren früheren Ehemann, den Schauspieler Christian Ulmen. Nach bisheriger presserechtlicher Bewertung verbreitete Ulmen Deepfake-Fotos von Fernandes und betrieb Fake-Profile unter ihrem Namen. Darüber hinaus gibt es weitere Vorwürfe, die juristisch umstritten sind. Die strafrechtlichen Ermittlungen laufen. Für Ulmen gilt die Unschuldsvermutung.Die Schweizer Juristin Jutta Oberlin beschäftigt sich seit Jahren mit der digitalen Welt. Lange arbeitete sie bei Google als Datenschutzexpertin. Und sie publiziert wissenschaftliche Beiträge, meist gemeinsam mit der ehemaligen Staatsanwältin Sarah von Hoyningen-Huene: zu Kinderpornografie im Netz, zu Plattformgesetzen oder dem Metaverse. Und jetzt zu Deepfakes.Jutta Oberlin, was tun wir, wenn wir einen Deepfake-Porno von uns online finden?Zuerst sollten Sie es dokumentieren: das Material speichern, Screenshots erstellen, Videos abfilmen. Damit sollten Sie zur Polizei gehen, bestenfalls innerhalb weniger Stunden, und Anzeige erstatten. Dann sollten Sie bei der Plattform, auf der die Bilder veröffentlicht wurden, deren Löschung verlangen. Am besten mit der Anzeige der Polizei. Leider garantiert das nicht, dass das Material ganz aus dem Netz verschwindet. Die Inhalte verbreiten sich rasant, meist an einen unbestimmten und unüberschaubaren Kreis von Personen.Der Fall von Collien Fernandes hat viel Empörung ausgelöst. Aber wie verbreitet sind Deepfakes wirklich?Sie sind ein reales Problem, auch in der Schweiz. Im Frühjahr haben fünf Schweizer Influencerinnen in den Tamedia-Zeitungen ihre Erfahrungen mit Deepfakes publik gemacht. In Foren auf Telegram hatten Männer gefälschte Nacktbilder und Videos von ihnen geteilt. Die Reaktionen auf den Artikel zeigten: Die fünf Frauen sind bei weitem nicht die Einzigen. Ausserdem wird der Fall Fernandes Trittbrettfahrer mit sich bringen. Deepfakes sind eine neue Form von Machtausübung gegenüber Frauen.Wie meinen Sie das?Gerade junge Frauen lassen sich heute von Männern nichts mehr sagen. Im Gegenteil: Sie sind eigenständig, wollen zum Teil gar keine Partnerschaften mehr. Für viele Männer ist das schwierig, sie spüren diesen Machtverlust. Insbesondere jene, die dazu neigen, Frauen als Objekte zu betrachten. Mit Deepfake-Pornos können sie sehr einfach Macht ausüben und diese Neigung befriedigen.Die Kantonspolizei Zürich gibt an, Betroffenen zu helfen, Inhalte aus dem Netz zu entfernen. Können Schweizer Behörden einmal verbreitete Videos oder Bilder nachhaltig beseitigen?Das ist gut gemeint, aber chancenlos. Einmal online, können Inhalte endlos weitergereicht werden, weltweit. Bei Promis verbreiten sich solche Bilder oder Videos millionenfach. Von Paris Hilton und Kim Kardashian kursieren heute noch Pornos, die vor vielen Jahren gegen den Willen der Frauen veröffentlicht wurden.Wie schützt uns das Schweizer Recht vor Deepfakes?Nur begrenzt. Es gibt in der Schweiz keinen eigenen Straftatbestand dafür. Je nach Fall können verschiedene Gesetzesartikel aus dem Strafrecht zur Anwendung kommen, zum Beispiel der Identitätsmissbrauch. Aber der Gesetzgeber schuf diesen Artikel nicht mit Blick auf pornografische Inhalte. Deshalb erfasst er die sexuelle Komponente nicht.Warum ist das ein Problem?Der Straftatbestand des Identitätsmissbrauchs wurde für Fälle geschaffen, in denen sich jemand als eine andere Person ausgibt und dadurch einen unrechtmässigen Vorteil erlangt oder einen Schaden verursacht. Zum Beispiel bei einem Enkeltrick-Betrug. Ein Deepfake-Video mit sexualisierter Gewalt wirft aber andere rechtliche Fragen auf. Es sollte je nachdem schwerer bestraft werden. Und es kann weitere Strafnormen betreffen oder zivilrechtliche Ansprüche auslösen.Sie fordern, dass diese Lücke geschlossen wird.Es braucht bei diesem Gesetzesartikel eine Qualifizierung. Das ist sozusagen eine Ausweitung mit einem höheren Strafrahmen, der auf diese Form der sexuellen Gewalt zugeschnitten ist.In einem gemeinsam verfassten Fachartikel fordern die beiden Juristinnen Sarah von Hoyningen-Huene (links) und Jutta Oberlin besseren rechtlichen Schutz gegen Deepfake-Pornos.Karin Hofer / NZZHat die Technologie also ein neues Delikt erschaffen?Die digitale Welt bringt ständig neue Delikte hervor. Sie werden immer krasser und immer gefährlicher, besonders für Kinder. Es gibt Hasskommentare, Kinderpornografie, Pädophilie im Netz, Cybermobbing oder Sextortion – eine Form der Erpressung, bei der mit der Veröffentlichung von heimlich aufgenommenen Nacktbildern aus Videochats gedroht wird. Jetzt markiert KI erneut eine Zäsur: Nie zuvor konnte so schnell so viel Material generiert werden.Braucht die Schweiz ein Strafgesetzbuch extra für die digitale Welt?Auf lange Sicht wäre das gut. Zuerst sollten wir aber das bestehende Gesetz anpassen. Wir müssen das Strafrecht fit machen für den digitalen Raum. Davon ist es noch weit entfernt, und es gibt ständig neue Entwicklungen. Nehmen wir das Metaverse, also das Projekt von Meta, bei dem Nutzerinnen und Nutzer in einem digitalen Raum als Avatare miteinander interagieren können. Gerade stockt das Projekt, aber falls es weitergeht, stellen sich neue Fragen. Zum Beispiel: Wie bewertet man es strafrechtlich, wenn dein Avatar sich gegenüber meinem Avatar übergriffig verhält?Welche Deepfakes werden in der Schweiz strafrechtlich verfolgt?Bislang vor allem Deepfakes, die Kinder zeigen. Die Zahl von mit KI erstellten kinderpornografischen Inhalten steigt gerade drastisch. Die britische Organisation Internet Watch Foundation schreibt, im Jahr 2025 habe sie 260-mal so viele KI-generierte Videos von sexuellem Kindesmissbrauch festgestellt wie noch 2024. Der grosse Unterschied zu Deepfakes von Erwachsenen ist: Kinderpornografische Fakes werden von Amtes wegen verfolgt.Im Wallis ist kürzlich ein Betreuer einer Schule erstinstanzlich verurteilt worden, weil er ein Deepfake-Nacktbild einer 14-jährigen Schülerin erstellt haben soll. Warum gelangen die Deepfake-Fälle von Erwachsenen nicht vor Gericht?Pornografie mit Erwachsenen ist ja im Gegensatz zu Kinderpornografie nicht verboten. Sie darf grundsätzlich ungehindert verbreitet werden. Betroffene müssen also Anzeige erstatten. Doch viele wissen nicht einmal, dass Deepfake-Material von ihnen existiert. Geschweige denn, wie man sich wehren kann. Deshalb gibt es kaum Anzeigen und kaum Verurteilungen.KI-Bots wie Chat-GPT oder Google Gemini blocken ab, wenn man Deepfakes mit pornografischem Material erstellen will. Welcher KI-Hersteller lässt so etwas überhaupt zu?Elon Musk zum Beispiel warb bei seinem Chatbot Grok damit, dass man damit jede Person ausziehen könne. Grundsätzlich ist es aber so: Obwohl die bekannten Bots diese Funktion blockieren, ist die Technik draussen und dementsprechend nutzbar. Insbesondere im Darknet.Collien Fernandes nennt das, was ihr widerfahren ist, «virtuelle Vergewaltigung». Was halten Sie von diesem Begriff?Ich habe viel Mitgefühl mit Collien Fernandes, aber das Wording finde ich falsch. Es schwächt eine echte Vergewaltigung ab – eine Tat, die ein Leben für immer zerstören kann. Genau hier liegt ja das Problem: Es ist keine Vergewaltigung, und gleichzeitig ist es auch kein einfacher Identitätsmissbrauch. Es ist eine Straftat, die sich gegen die sexuelle Integrität richtet. Gesetzlich haben wir darauf noch keine Antwort. Weder in Deutschland noch in der Schweiz.Sie wollen den Begriff der «digitalen häuslichen Gewalt» etablieren, wenn Partner oder Ex-Partner solches Material verbreiten. Was bringt der Begriff den Betroffenen?Er gibt dem Phänomen einen Namen, und die Gerichte können damit arbeiten. Solche Taten werden in Zukunft immer häufiger auftreten. Der Begriff der häuslichen Gewalt umfasst auch psychische Gewalt. Aus unserer Sicht fällt das Phänomen da hinein. Die Gewalt verlagert sich in den digitalen Raum, ohne den Charakter der häuslichen Gewalt zu verlieren.Viele Länder versuchen seit Jahren, Plattformen wie Telegram, Facebook oder X stärker zu regulieren, etwa bei der Verbreitung rechtswidriger Inhalte – mit wenig Erfolg. Die Anbieter legen ihre Regeln lieber selber fest. Wie aussichtsreich ist es, dass es bei KI-Firmen wie Open AI anders sein wird?Dafür braucht es ein Plattformengesetz und eine Meldepflicht. Heisst: Die Plattformen müssten den Behörden melden, wenn sie zum Beispiel kinderpornografisches Material oder Deepfakes bei sich entdecken. Diese Regelung gilt bereits in den USA für Kinderpornografie. In der Schweiz gibt es diese Meldepflicht nicht. Man könnte auch den Upload von Fotos technisch limitieren: Ein Bild dürfte beispielsweise nur mit der Einwilligung der abgebildeten Person hochgeladen werden. Das ist aber derzeit schwer umzusetzen.Wie viel Verantwortung tragen die Plattformen für die neuen Formen der digitalen Gewalt?Eine erhebliche. Sie haben die technischen Möglichkeiten geschaffen, über die sich viele dieser Delikte überhaupt in dem Ausmass verbreiten können. Die Technologien selbst sind nicht das Problem. Aber es ist entscheidend, wie sie gestaltet, überwacht und moderiert werden. Deshalb müssen die Plattformen Risiken erkennen und Schutzmechanismen etablieren. Ich sehe auch Politik und Gesetzgebung in der Verantwortung, klare rechtliche Rahmenbedingungen zu schaffen. Aber die Plattformen sind der Katalysator, über den sich viele dieser Phänomene rasant verbreiten können.Warum handeln diese Firmen nicht?Letztlich will jedes Unternehmen Geld verdienen. Compliance-Regeln und Sicherheitsmassnahmen sind teuer und personalintensiv. Die Plattformen investieren ihr Geld aber häufig in Produktentwicklung, Wachstum oder neue Werbemöglichkeiten. Aus meiner Sicht sollten sie deutlich mehr Ressourcen in Compliance, Datenschutz und den Schutz ihrer Nutzerinnen und Nutzer investieren. Diese Bereiche sind keine Nebensache, sondern Teil ihrer gesellschaftlichen Verantwortung.Die EU hat entschieden, sexualisierte Deepfakes verbieten zu wollen. Auch in der Schweiz hat der Nationalrat einem Vorstoss zugestimmt, der auf ein Verbot hinauslaufen könnte. Was halten Sie davon?Es ist ein wichtiger Schritt, dass die EU hier einen einheitlichen Rechtsrahmen schaffen will. Gerade weil die Rechtslage in vielen Mitgliedstaaten lückenhaft ist. Aber entscheidend ist, wie diese Vorschriften aussehen. Es braucht eine klare Definition davon, was als strafbarer sexualisierter Deepfake gilt. Es braucht aber auch eine sorgfältige Abgrenzung zu zulässigen Inhalten wie Kunst, Satire oder einvernehmlich erstellten Darstellungen. Grundsätzlich will man ja den Fortschritt nicht aufhalten. Die EU betont selbst immer, neue Technologie müsse unbedingt gefördert werden.Wie setzt man ein solches Gesetz überhaupt durch?Da habe ich Zweifel. Ich fürchte, es ist schon zu spät. Die Technik ist da, und Täter, die Deepfakes erstellen möchten, werden auch in Zukunft Wege finden, das zu tun. Trotz Verbot.Die Vorwürfe der deutschen Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen haben in Deutschland Demonstrationen ausgelöst. Die EU will sexualisierte Deepfakes nun verbieten.Christian Mang / ReutersDas Recht hinkt gesellschaftlichen Entwicklungen immer hinterher. Erst seit 2004 etwa ist die Vergewaltigung in der Ehe ein Offizialdelikt. Die Technik entwickelt sich noch um ein Vielfaches schneller als die Gesellschaft. Können Gesetze in diesem Bereich jemals aktuell sein?Keine Chance. Deshalb müssen Gesetze so technologieneutral wie möglich formuliert werden. Die KI-Verordnung der EU ist sehr neutral geschrieben, weil man eben nicht weiss, was da noch folgt. Das ist sinnvoll, macht es aber schwieriger, auf spezifische Entwicklungen einzugehen.Digitale Gewalt trifft in besonderem Masse Frauen, die im Rampenlicht stehen: von Influencerinnen über Pop-Stars bis hin zur italienischen Regierungschefin Giorgia Meloni. Ist sie eine neue Waffe gegen Frauen in Machtpositionen?Sie ist eine Waffe gegen jeden und jede. Die vulnerablen Mitglieder unserer Gesellschaft trifft es am stärksten. Aber auch von Barack Obama oder von Donald Trump gibt es KI-Videos. Nur ist das Donald Trump wahrscheinlich egal.Das ist doch der Punkt: Wenn man einen Deepfake-Porno von Trump sieht, finden es die einen lustig, und die anderen interessiert es nicht. Sieht man einen Deepfake-Porno von einer Frau, geht es plötzlich um Scham. Können Gesetze dabei helfen, dass es auch für Täter schambehaftet wird, so etwas zu tun?Auf jeden Fall. Aber dafür müssen die Opfer die Gesetze in Anspruch nehmen, und das braucht Mut. Collien Fernandes hat mit der Anzeige gegen ihren Ex-Mann die Karriere riskiert.Sie persönlich sind im Internet schwer auffindbar. Das ist uns aufgefallen, als wir Sie kontaktieren wollten. Was raten Sie Frauen im Umgang mit Social Media?Früher habe ich verschiedene Social-Media-Plattformen genutzt, mittlerweile bin ich da extrem zurückhaltend. Ich will es vermeiden, dass Fremde zu viel Persönliches von mir wissen. Vielleicht wäre ich da lässiger, wäre ich ein Mann. Als Frau mache ich mich ja bereits wegen meiner Kleidung, meines Arbeitspensums oder meines Familienmodells angreifbar.Passend zum Artikel