Manipulative Bilder und Videos: Ab August müssen Deepfakes in der EU gekennzeichnet werdenIm Internet gibt es immer mehr täuschend echte, aber künstlich erzeugte Inhalte. Gegen sie geht die EU nun vor.31.07.2026, 05.30 Uhr3 LeseminutenSoziale Netzwerke und Videoportale werden mit Deepfakes geflutet. Sie als solche zu erkennen, wird immer schwieriger.Dominic Steinmann / NZZDer amerikanische Präsident Donald Trump erleidet einen Schwächeanfall: Videos und Bilder davon gibt es im Internet viele. Allerdings sind sie gefälscht, sogenannte Deepfakes. Hergestellt wurden sie mit künstlicher Intelligenz (KI), und das mit politischen Absichten. Der achtzigjährige Politiker soll als körperlich geschwächt dargestellt werden und beschränkt amtsfähig erscheinen.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Ebenso gibt es unzählige gefälschte Bilder, die Trump in der Gesellschaft von Afroamerikanern zeigen. Sie sollten vor den Wahlen von 2024 den Eindruck erwecken, dass der Politiker bei dieser Gemeinschaft gut ankomme. Aber das war nur beschränkt der Fall. Trump hat bei den Wahlen bei Afroamerikanern schlechter abgeschnitten als die demokratische Kandidatin Kamala Harris.Es drohen hohe BussenWer mit KI-Instrumenten Deepfakes herstellt oder die Technologie dafür zur Verfügung stellt, muss das in der EU ab dem 2. August gemäss der AI Act transparent machen. Betroffen sind erstens die Anbieter von KI-Instrumenten wie Open AI, Google oder Anthropic. Bereits jetzt betten sie nichtsichtbare Wasserzeichen in ihre Modelle ein, die als Herkunftsnachweis dienen. Zweitens sind die Ersteller von Deepfakes verpflichtet, diese als solche kenntlich zu machen. Das kann mit einem AI-Icon geschehen, wie man es auf sozialen Netzwerken sieht.Erzeuger von Videos und Bildern, die sich nicht an die Kennzeichnungspflicht halten, können ab dem 2. August gebüsst werden. Die maximale Geldstrafe liegt bei 3 Prozent des Umsatzes, den ein Erzeuger erzielt, aber bei höchstens 15 Millionen Euro.Allerdings ist nicht damit zu rechnen, dass es bereits in den kommenden Monaten Bussen hageln wird, erst recht nicht im Umfang der vorgesehenen Maximalhöhe. Dafür fehlt den Behörden die Erfahrung mit der AI Act.Eigentlich müsste jedes EU-Land bis zum 2. August eine Marktüberwachungsbehörde ernennen. Nicht alle Staaten haben es allerdings geschafft, eine solche rechtzeitig einzurichten. Gelungen ist es Deutschland. Dort wird die Bundesnetzagentur für die Marktüberwachung und die Entgegennahme von Beschwerden zuständig sein.Österreich dagegen muss die verantwortliche Behörde erst noch benennen oder schaffen. Das ist kein einfaches Unterfangen. Die neue Behörde soll zwar schlagkräftig sein. Gleichzeitig müssen die Länder aufpassen, dass sie nicht erneut die Bürokratie aufblähen, was die Akzeptanz der AI Act untergrübe. Die Staaten betrauen daher eher bestehende Behörden mit der Marktaufsicht, als dafür neue zu schaffen. Aber auch sie müssen zuerst Erfahrungen mit der AI Act sammeln.Zumal sich längst nicht breit herumgesprochen hat, was denn ein verfälschter Medieninhalt ist, der unter die AI Act fällt. Bilder, an denen ohne den Einsatz von KI-Instrumenten herummanipuliert worden ist, müssen etwa nicht gekennzeichnet werden. Dasselbe gilt für Erzeugnisse, die offensichtlich mit KI generiert sind, weil sie fern jeglicher Realität sind. Dazu zählen Videos mit Tieren, die scheinbar sprechen können. Auch wer mit KI-Instrumenten ein Video zum achtzigsten Geburtstag des Grossvaters erstellt und dieses bloss privat verwendet, braucht die AI Act nicht zu fürchten. Solche Produkte fallen nicht unter das Gesetz und müssen somit nicht gekennzeichnet werden.Auf der anderen Seite gilt die Kennzeichnungspflicht für Videos, die von Personen ein unkorrektes Bild vermitteln, hyperrealistisch sind oder falsche Erwartungen erzeugen. Das kann ein als schwächlich dargestellter Präsident sein, aber auch ein Deutschschweizer Politiker, der in einem Video französisch spricht, obwohl er die Sprache nicht beherrscht. Eine solche Aktion könnte dem Zweck dienen, sich bei Westschweizern als glaubwürdiger Vertreter zu präsentieren. Diese würden so jedoch getäuscht.Rasch und billig hergestelltManipulierte Bilder sind älter als das Internetzeitalter. Berüchtigt sind etwa Fotografien des sowjetischen Herrschers Josef Stalin, die ihn mit Weggefährten zeigen. Viele dieser Mitstreiter sind «Säuberungen» zum Opfer gefallen und dann aus den Bildern retuschiert worden.Die heutigen Deepfakes sind im Vergleich mit diesen Machwerken von einem anderen Kaliber. «Sie können rasch, billig und in guter Qualität von fast allen hergestellt werden», sagt Jeannette Gorzala, Rechtsanwältin und Geschäftsführerin der österreichischen Beratungsfirma Act AI Now.Sie hofft, dass die Kennzeichnungspflicht das Bewusstsein der Betrachter in dieser Hinsicht schärft. Denn schliesslich erkennten Menschen Deepfakes im Durchschnitt nicht über dem Zufallsniveau. «Die Kennzeichnung soll das Publikum in die Lage versetzen, Inhalte angemessen einzuordnen», sagt sie.Passend zum Artikel