Im Wallis soll ein Betreuer KI-Nacktbilder einer Schülerin erstellt haben – nun fordert der Nationalrat ein Verbot von DeepfakesDer Aktionismus des Parlaments täuscht darüber hinweg, dass noch lange nichts passieren wird. Derweil explodiert die Masse an illegalem pornografischem Material im Internet, Ermittler stossen bereits jetzt an ihre Grenzen.21.06.2026, 05.30 Uhr5 LeseminutenGetty; Bearbeitung NZZaSDiese Woche verhandelte das Kantonsgericht Wallis einen Fall, der noch zu reden geben wird: Es geht um einen Betreuer an einer Schule in Brig, der mittels künstlicher Intelligenz ein Nacktbild einer Schülerin erstellt haben soll. Der Mann nutzte als Vorlage ein Instagram-Foto der Schülerin, auf welchem sie im Bikini während der Sommerferien in Italien zu sehen ist. Der Betreuer soll das Bild heruntergeladen und mithilfe einer KI-App den Bikini entfernt haben. So stand das Mädchen plötzlich nackt da. Es war zum Zeitpunkt der Fotoaufnahme vierzehn Jahre alt.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Dem Mann wird nun die Erstellung von illegalem pornografischem Material vorgeworfen. Der Fall, den der «Walliser Bote» publik gemacht hat, dürfte einer der ersten der Schweiz sein, bei dem sexualisierte Deepfakes von Minderjährigen zu einer Strafe führen könnten. Das Urteil des Gerichts steht noch aus, für den Betreuer gilt die Unschuldsvermutung.Seit im März die Vorwürfe der deutschen Schauspielerin Collien Fernandes an ihren Ex-Mann Christian Ulmen publik wurden, er habe Männern vermeintlich pornografische Bilder und Videos von ihr geschickt, ist eine Debatte über sexualisierte digitale Gewalt und Deepfake-Pornografie entbrannt. Auch in der Schweiz berichteten Frauen über sexualisierte Übergriffe, die sie im Netz erlebten.Pornografische Deepfakes sind in den letzten Jahren zu einem Phänomen geworden, das längst nicht mehr nur bekannte Persönlichkeiten betrifft, sondern Millionen von Frauen und Kindern. Eine Tech-NGO fand diesen Januar mehr als 100 Nudify-Apps bei Google und Apple, die über 700 Millionen Mal heruntergeladen wurden – also Apps wie jene, die auch der Betreuer aus Brig verwendet haben soll, um aus dem Bikinifoto der Schülerin ein Nacktbild zu erstellen.Nun erreicht das Thema die Politik. Diese Woche hat der Nationalrat überraschend zugestimmt, Deepfake-Anwendungen künftig einzuschränken. Der Entscheid wurde kaum beachtet, hat es aber in sich. Konkret soll der Bund KI-Firmen künftig mit Sanktionen belegen können, wenn sich mithilfe ihrer Tools sexualisierte Deepfakes erstellen lassen. Der grüne Nationalrat Raphaël Mahaim, der den Vorschlag eingebracht hat, sagt, es könne nicht sein, dass KI-Anbieter ungestraft blieben, wenn sie sexualisierte Übergriffe im digitalen Raum ermöglichten. «Die Sanktion ist als Verbot solcher Tools zu verstehen.»Der Bund will kein separates Deepfake-GesetzAuch der Bundesrat sprach sich für Mahaims Vorschlag aus – und das erstaunt. Denn bisher zögerte er mit neuen Vorschriften für KI und Social Media. Der Medienminister Albert Rösti sagte vor einem Jahr, er wünsche eine «Minimalregulierung», auch um die technologische Entwicklung nicht zu hemmen.Kommt hinzu: Während der Bund mit den USA ein Zollabkommen verhandelt, könnte eine stärkere Regulierung zu Problemen mit zahlreichen amerikanischen Firmen führen, etwa auch mit jener des amerikanischen Billionärs Elon Musk. Dessen KI-Assistent Grok gilt als Dreckschleuder von pornografischem und sexistischem Material. Auch Bundesrätin Karin Keller-Sutter wurde durch Grok vulgär beleidigt, worauf sie sich mit einer Strafanzeige wehrte.Mahaim hofft nun, dass auch der Ständerat seinem Vorschlag zustimmt und sich die Schweiz per Ende Jahr einer neuen EU-Regulierung anschliesst, die just diese Woche beschlossen wurde. «Dann wären Frauen und Kinder schon ab nächstem Jahr besser geschützt», sagt er.Doch aus der Verwaltung klingt es anders. Mahaims Vorstoss soll im Rahmen der laufenden Arbeiten für eine ganzheitliche KI-Regulierung umgesetzt werden, wie das Bundesamt für Justiz auf Anfrage schreibt. Das würde bedeuten, dass frühestens per Ende Jahr ein erster Entwurf für das neue Gesetz vorliegen würde, der dann allerdings noch von Kantonen, Interessengruppen und schliesslich vom Parlament beraten werden muss. Geschätzte Dauer: mindestens zwei Jahre.Ob sich das Parlament so lange gedulden will? Diese Woche wurde eine Reihe weiterer Vorstösse zum Thema eingereicht, auch von Bürgerlichen. Die Mitte-Nationalrätin Yvonne Bürgin etwa fordert, dass das Erstellen sexualisierter Deepfakes strafrechtlich verfolgt und der Opferschutz gestärkt wird. Ihre Tochter sei mit einer jungen Frau zur Schule gegangen, die von sexualisierten Deepfakes betroffen war, sagt Bürgin, daher beschäftige sie das Thema sehr.Zwar richten sich solche Deepfakes meistens gegen Frauen. Doch der Fall aus Brig zeigt, dass auch Minderjährige Opfer werden und dass die Grenze zu kinderpornografischen Inhalten schnell überschritten ist. Entsprechend argumentieren Parlamentarierinnen wie Bürgin auch mit dem Kinder- und Jugendschutz.Deepfakes werden für Erpressung und Mobbing eingesetztDenn Fachstellen warnen schon jetzt eindringlich. Laut Kinderschutz Schweiz werden immer mehr Nacktbilder von Kindern und Jugendlichen mit KI erstellt. «Das Netz wird regelrecht geflutet mit pädokriminellen Inhalten. Sexualisierte Deepfakes sind längst in der Realität von unseren Kindern und Jugendlichen angekommen», sagt Regula Bernhard-Hug, Direktorin von Kinderschutz Schweiz.Die gemeinnützige Stiftung betreibt seit 2022 zusammen mit dem Bundesamt für Polizei Fedpol die nationale Melde- und Beratungsstelle clickandstop.ch gegen digitale sexualisierte Gewalt an Kindern und Jugendlichen. Seither haben sich die Meldungen zu pädokriminellem Material versechsfacht. In den letzten zwei Jahren ging es dabei immer häufiger um Deepfakes, besonders im Zusammenhang mit sogenannter Sextortion, also dem Versuch, jemanden mit intimen Bildern zu erpressen. Auch im Kontext von Cybermobbing tauchen vermehrt Deepfakes von Jugendlichen auf.Das deckt sich mit internationalen Beobachtungen: Eine amerikanische Studie zeigt, dass einer von 17 Jugendlichen von Deepfakes betroffen ist. KI hat die Zahl kinderpornografischer Inhalte regelrecht explodieren lassen. Dies stellt die Ermittlungsbehörden zunehmend vor Probleme, auch in der Schweiz: «Zum einen werden immer mehr solche Inhalte verbreitet, zum anderen ist ihre Qualität mittlerweile so gut, dass wir teilweise nicht mehr sicher sagen können, ob ein Opfer nun echt oder KI-generiert ist», teilt das Fedpol mit.Das macht die Bekämpfung noch schwieriger. «Die einzige Möglichkeit, um die Kinder und Jugendlichen wirklich zu schützen, ist durch das Design der benutzten Tools», ist Bernhard-Hug deshalb überzeugt. Sie hat kein Verständnis dafür, dass App-Stores Anwendungen anbieten dürfen, mit denen man Minderjährige virtuell ausziehen kann. «Wir müssen endlich etwas dagegen tun.» Sie fordert, dass die Schweiz die Anbieter und Entwickler in die Verantwortung nimmt. «Auch wir als Gesellschaft müssen mehr Bewusstsein dafür schaffen, dass mit KI generierte sexualisierte Inhalte von Minderjährigen verboten sind und bei den Betroffenen viel Leid anrichten.»Ähnlich sieht das der Forensiker Jerôme Endrass. Er hielt diese Woche vor Parlamentariern ein Referat zum Thema und sagt, mittels Deepfake-Apps könnten Menschen mit pädosexuellen oder frauenverachtenden Neigungen ihr eigenes Material herstellen und zu immer extremeren Darstellungen verleitet werden. In versteckten Internetforen würden die Videos geteilt und legitimiert. «Das ist sehr gefährlich, weil der Konsum solcher Filme die Hemmschwelle für physische Übergriffe senkt.» Für ihn, der mit Sexualstraftätern arbeitet, sei das ein «Schreckensszenario».Während die Schweiz noch über den richtigen Umgang mit KI-Technologien und amerikanischen Tech-Firmen berät, laufen in anderen Ländern schon grosse strafrechtliche Ermittlungen. Die USA haben vergangenes Jahr den «Take It Down Act» verabschiedet, ein Bundesgesetz gegen die Verbreitung von nicht einvernehmlichen intimen Bildern sowie KI-generierten Deepfake-Pornos. Es verpflichtet Online-Plattformen, gemeldete Bilder innerhalb von 48 Stunden zu entfernen. Letzte Woche hat das US-Justizdepartement zusammen mit den französischen Behörden nun erstmals eine Deepfake-Porno-Domain beschlagnahmt und den Betreiber in Südfrankreich verhaftet.Es könnte also auch schnell gehen.Ein Artikel aus der «NZZ am Sonntag»Passend zum Artikel