Echt? Oder gefälscht? Der weltweit führende Experte für Deepfakes sagt inzwischen: «Ich habe das Gefühl, blind zu werden»Der digitale Forensiker Hany Farid befasst sich beruflich mit digitalen Bildfälschungen, er entwickelte mehrere Instrumente, um sie zu enttarnen. Aber spätestens der Krieg in Iran brachte ihn ins Grübeln. Er fürchtet, unser gesamtes visuelles System werde schon bald völlig nutzlos sein.Eli Saslow19.07.2026, 05.30 Uhr10 LeseminutenMehrnewsOptimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Die E-Mails trafen an einem Sonntagmorgen ein, wie es bei den schlimmsten oft der Fall ist. Hany Farid öffnete die erste Nachricht in seinem Haus in den Hügeln oberhalb von Berkeley, Kalifornien, und fand einen Link zu einem viral gegangenen Video, das angeblich zeigte, wie eine in den USA hergestellte Rakete eine Primarschule in Iran traf und mehr als 150 Menschen tötete, die meisten davon Kinder. «Ist das ein Internet-Hoax oder ein internationales Kriegsverbrechen?», hiess es in einer Nachricht. «Wir versuchen zu überprüfen, was davon wahr ist.»Farid griff nach einem Bleistift und einem Notizblock, beugte sich über seinen Computer und schaute hin. Er sah blauen Himmel, Telefonleitungen und ein paar Palmen, die sich im Wind wiegten. Und dann schoss eine Rakete über den Bildschirm, deutlich und unverkennbar, selbst bei 800 km/h. Es sah aus wie eine Szene aus einem Videospiel. In den letzten Tagen hatte Farid Dutzende überzeugender, durch künstliche Intelligenz erzeugte Videos von gefälschten Bombenangriffen, Flugzeugabstürzen, Bränden und Hinrichtungen gesichtet. Sein Instinkt gebot ihm, skeptisch zu sein. Er war sich fast sicher, dass das Video eine weitere Fälschung war.Er kaute auf seinem Bleistift herum und sah es sich noch einmal an, verlangsamte das Video und zerlegte es Bild für Bild. Die Kamera wackelte auf eine Weise, die für einen Amateur, der mit einem Handy filmt, plausibel wirkte. Die Schatten waren geometrisch korrekt. Er sah, wie die Rakete ein Gebäude traf, und bemerkte eine kurze Verzögerung, bevor er eine Explosion und schrille Schreie hörte, was mit der Schallgeschwindigkeit übereinstimmte. Vielleicht war das Video echt. Es war auf Social Media bereits mindestens 1,1 Millionen Mal angesehen worden. Mit jeder Sekunde, die verging, wurde es zur Realität – ob es nun echt war oder nicht.«Jeder kann ein Video von allem und jedem erstellen, in dem irgendetwas getan oder gesagt wird», schrieb Farid zurück. «Das wird ein wenig Zeit in Anspruch nehmen.»Mittlerweile fällt er bei den eigenen Tests durchSeit mehr als zwei Jahrzehnten war der 60-jährige Farid der weltweit führende Experte auf dem Gebiet der digitalen Forensik, doch in den letzten sechs Monaten hatte er aufgehört, seinen eigenen Augen zu trauen. Er hatte sich darauf spezialisiert, Deepfakes von der visuellen Realität zu unterscheiden, und bearbeitete täglich Anfragen von Regierungen, Menschenrechtsorganisationen, Journalisten, Strafverfolgungsbehörden und Tausenden anderen, die von der Online-Welt zunehmend verwirrt und getäuscht wurden. Farids Forschungen hatten bewiesen, dass die meisten Menschen nicht mehr in der Lage waren, ein echtes Foto von einer digitalen Kreation zu unterscheiden, eine echte Stimme von einem KI-Klon oder einen echten Videoclip von einer kompletten Fälschung. In letzter Zeit fiel er bei seinen eigenen Tests durch.Hany Farid, digitaler Forensiker und Dozent an der University of California in Berkeley.PD«Ich habe das Gefühl, blind zu werden», sagte Farid. Er befürchtete, dass die KI die Wahrheit verschleierte, die Realität verzerrte, Demokratien spaltete und auch ihn langsam zerbrach. Er und seine Frau planten, Kalifornien zu verlassen und die Tech-Kultur des Silicon Valley gegen eine Farm im ländlichen Vermont einzutauschen.Farid spielte den Clip noch einmal ab. Himmel. Bombe. Rauch. Schreie. In der vergangenen Stunde hatten ihm über ein Dutzend Medien E-Mails geschickt, um nach dem Video zu fragen. Es war von einer offiziellen iranischen Nachrichtenagentur veröffentlicht und geteilt worden, aber das bedeutete Farid nicht viel, denn in letzter Zeit hatte er Deepfakes gesehen, die von ausländischen Regierungen und von Mitarbeitern des Weissen Hauses erstellt und geteilt worden waren. Er lokalisierte das Video mithilfe einer Datenbank mit Millionen von Bildern aus aller Welt, und die Ergebnisse deuteten auf eine Strasse in Minab in Iran hin, nicht weit von einer Primarschule entfernt.Vielleicht war das Video an sich echt, dachte Farid, nur dass jemand eine Tomahawk-Rakete in das Bild eingefügt hatte. Er stabilisierte das Video, um die Verwacklungen zu beseitigen, und verfolgte dann die Flugbahn der Rakete anhand einer Reihe von Einzelbildern, auf der Suche nach Unstimmigkeiten. Die Flugbahn der Rakete war gerade, ihre Geschwindigkeit konstant. Er zoomte heran, um die Pixel zu messen, und berechnete, dass die Rakete 5 Meter 50 lang zu sein schien – genau die richtige Grösse.Himmel, Bombe, Rauch, Schreie. Er sah sich das Video noch mindestens hundertmal an, zweifelte an seinem Instinkt und überprüfte seine Berechnungen erneut. Die meiste Zeit seiner Karriere war er damit beschäftigt gewesen, in einer Welt gemeinsamer Wahrheiten die seltenen Fälschungen zu identifizieren. Doch nun waren Fälschungen die Norm und die Wahrheit schwer fassbar. Selbst nach einem ganzen Tag der Analyse und Rücksprache mit anderen Experten – die alle die Echtheit des Videos bestätigten – brachte er es nicht ganz über sich, es für echt zu erklären.«Insgesamt finden wir keine überzeugenden Beweise dafür, dass das Video gefälscht oder manipuliert wurde», schrieb Farid.Bilder Screenshot MehrnewsEr schaltete den Computer aus und ging nach draussen. Er fuhr mit seinem Mountainbike durch die Berkeley Hills, gab Gas und lehnte sich in den Wind. Er rauchte eine Zigarre und ging ins Bett, und später in dieser Nacht kehrte er im Schlaf zum Video zurück. Diesmal zählte er keine Pixel und mass keine Schatten. Er befand sich in der Schule, sass in einem Klassenzimmer voller Zehnjähriger, sah zu, wie der Sprengkopf detonierte, spürte die Druckwelle, hustete Staub aus und hörte die Schreie der Kinder. Er wachte auf und kehrte zum Computer zurück, um das Internet nach Nachrichten über den Bombenanschlag zu durchforsten.Das liest er fast täglich: «Was zum Teufel geht hier vor?»«Man kann nicht 100 Schulmädchen töten und einfach Ups sagen», schrieb er an einen Kollegen, während er Beiträge auf Social Media durchlas. Einige Leute beriefen sich auf Farids Analyse, um zu bestätigen, dass das Video echt war. Andere taten Farid als irgendwie voreingenommen ab und sagten, das Video sehe gefälscht aus. Im Internet tauchten inzwischen mehrere neue, KI-generierte Videos über den Bombenanschlag auf, die falsche Generäle zeigten, die Befehle erteilten, oder falsche Eltern, die um falsche Schulmädchen trauerten. Das Internet wandte sich bereits von dem ab, was sich als einer der tödlichsten Bombenanschläge des Krieges herausstellen sollte, und nun sah Farid, wie eine neue Anfrage in seinem Posteingang eintraf. Es war ein anderes Video, das eine weitere Explosion in einem anderen Teil der Welt zeigte.«Können Sie uns bitte helfen zu verstehen, was zum Teufel hier eigentlich vor sich geht?»Es war die Frage, die jeden Tag ein Dutzend Mal in seinem Posteingang landete: Was in aller Welt geschah da gerade?War das wirklich Präsident Joe Biden, der am Tag vor der Vorwahl in New Hampshire Tausende demokratische Wähler anrief und ihnen sagte, sie sollten nicht wählen gehen? War das wirklich Präsident Donald Trump, der im Weissen Haus Abfallsäcke aus dem Fenster warf? Waren das echte Nacktfotos von Neuntklässlerinnen, die an einer Highschool in Pennsylvania kursierten, oder Bilder, die eine Mitschülerin mit einer kostenlosen App erstellt hatte? War das wirklich Tom Hanks, der bei seinen Fans für eine obskure Zahnversicherung warb? War das wirklich der CEO, der in der Zoom-Konferenz um eine Überweisung von 25 Millionen Dollar bat, oder ein nordkoreanischer Imitator? War das eine echte Waffe in Alex Prettis Hand oder nur ein Schatten? War das wirklich seine zwölfjährige Tochter am Telefon, die um Hilfe schrie und sagte, sie sei entführt worden?«Ich vermisse die Zeiten, als es noch ein verpixeltes Video von einem Hai gab, der die Strasse hinaufschwamm», sagte Farid eines Abends, als er mit seiner Frau Emily Cooper auf der hinteren Terrasse seines Hauses sass. Er legte sein Handy beiseite und schenkte sich einen Whiskey ein. «Die Technologie wird immer besser. Das versetzt mich in eine düstere Stimmung.»«Weil man es nicht mehr allein durch Hinsehen erkennen kann?», fragte Cooper.«Weil das niemand mehr kann», sagte Farid. «Ich traue nichts mehr. Bei jedem Bild, das ich sehe, zeichne ich in Gedanken Linien für Schatten und berechne Geometrie, um herauszufinden, was ich da eigentlich sehe. Es ist vorbei. In ein oder zwei Jahren wird unser gesamtes visuelles System völlig nutzlos sein.»«Und was dann? Gibst du auf? Gehst du in Rente?»«Ich weiss es nicht», sagte er.Sie hatten sich 15 Jahre zuvor kennengelernt, als Farid an die University of California in Berkeley kam, um einen Vortrag zu halten – damals noch voller Zuversicht, dass er die Lösungen hätte. Sein Vater hatte 50 Jahre lang als Chemiker bei Eastman Kodak gearbeitet, und Farid war damit aufgewachsen, die Dunkelkammer zu besuchen und zuzusehen, wie Fotos in chemischen Bädern entwickelt wurden und zu Beweismaterial erstarrten.Am Telefon benutzen er und seine Frau ein CodewortSpäter half er bei der Entwicklung eines digitalen Fingerabdrucks, mit dem sich im Internet versteckter sexueller Kindesmissbrauch aufspüren liess – eine Technik, die jährlich zu mehr als 30 Millionen Missbrauchsmeldungen, Hunderten von Festnahmen und mehreren Rettungsaktionen führte. Als sich Deepfakes im Internet zu verbreiten begannen, entwickelte er eine Software, um den Moment zu erfassen, in dem die Mundbewegungen eines Sprechers nicht mehr mit dem Ton synchron waren. Er war Mitbegründer des Unternehmens Get Real Security und half bei der Entwicklung von Instrumenten zur Messung von Beleuchtung, Schatten und Fluchtpunkten, um Online-Bilder anhand der physikalischen Gesetze der realen Welt zu überprüfen.Seine Frau Cooper war eine führende Wissenschafterin in Berkeley. Sie erforschte, wie Menschen die Realität wahrnehmen, während ihr Mann untersuchte, wie diese Realität gefälscht werden könnte. Sie hatten gemeinsam an Studien über Deepfakes gearbeitet, doch in den vergangenen Monaten hatte diese Forschung begonnen, sie bis nach Hause zu verfolgen. Anstatt sich alle paar Wochen mit einem Fall zu befassen, arbeitete Farid nun als Berater und Sachverständiger und jonglierte täglich mit bis zu einem Dutzend Fällen. Zum ersten Mal in seiner Karriere war er nicht nur Analytiker, sondern auch Opfer geworden – als jemand seine Handynummer fälschte und mithilfe von KI seine Stimme klonte. Der Hacker rief einen von Farids Kollegen in einem heiklen Fall an, gab sich als Farid aus und drängte auf vertrauliche Informationen. Damals beschlossen Farid und Cooper, ihre Identität niemals als selbstverständlich anzusehen. Sie hatten ein Sicherheitswort vereinbart, um zu Beginn jedes heiklen Telefonats zu bestätigen, dass sie echt waren.Farid warf einen Blick auf sein Handy und sah eine neue E-Mail: «Ich überprüfe gerade dieses viral gegangene Video einer Mutter und ihres Kindes, die sich einem mit einer Flagge bedeckten Sarg nähern – wir vermuten, dass es sich um eine von KI generierte Fälschung handelt», hiess es darin. Er legte das Handy wieder hin und blickte von der Veranda aus auf die Berkeley Hills, die Bucht von San Francisco und die Sonne, die über der Golden Gate Bridge unterging.«Der Zug beschleunigt mit unglaublicher Geschwindigkeit»«Ich kann diesen Ort nicht mehr ertragen», sagte er. «Diese grossen Tech-Giganten werden alles niederbrennen, solange sie nur Gewinn machen. Sie interessieren sich nicht für irgendetwas, das sie bremsen könnte.»«Das macht mir Sorgen um unsere Studenten», sagte Cooper. «Es fängt an, mir Angst zu machen.»Sie hielt nichts von Übertreibungen. Ihr Mann konnte forsch und aufbrausend sein – von Natur aus ein Optimist, der angesichts der Fakten zunehmend pessimistisch geworden war. Sie hielt sich an Präzision und Fakten, doch selbst diese waren mittlerweile unbestreitbar geworden. Ihre eigene Forschung konzentrierte sich auf 3-D-Wahrnehmung und Display-Designs, doch die umfassendere Krise, die sich in ihrem Fachgebiet abzeichnete, liess sich unmöglich ignorieren.Er fuhr mit seinem Motorrad von den Hügeln hinunter, um seine letzte Vorlesung des Frühjahrssemesters in Berkeley zu halten, und kam dabei an vielen Plakatwänden vorbei, die für Startups warben, die versprachen, die Medizin neu zu erfinden, das Bildungswesen zu revolutionieren und die Zukunft der Wirtschaft zu verändern. «Hört auf, Menschen einzustellen», stand auf einem Plakat. Farid parkierte auf dem Campus und betrat den Hörsaal, wo 75 Studierende ihn ansahen.Er war einer der beliebtesten Professoren in Berkeley – dynamisch, unverblümt und aufrichtig begeistert von den Fortschritten in der KI-Technologie, die im Mittelpunkt seiner Lehrveranstaltungen standen. Er hatte KI-Agenten, die Code für ihn schrieben. Er hatte ein Auto, das auf der Autobahn selbständig fahren konnte. Er hatte Apps auf seinem Handy, die den Wortlaut seiner E-Mails optimieren oder aus einem Foto seiner Gewürzschublade ein Rezept für Chili am Abend unter der Woche zaubern konnten. Doch die Informatik Studierenden in seinen Kursen fanden kaum mehr eine Stelle, da die Unternehmen zunächst abwarteten, was Maschinen leisten konnten. Zum ersten Mal in seiner Karriere stand Farid bisweilen vor seinen Studierenden und wusste nicht, was er ihnen sagen sollte.«Diese Technik wird gegen uns als Waffe eingesetzt», erklärte er den Studierenden. «Der Zug ist bereits abgefahren. Er beschleunigt mit einer unglaublichen Geschwindigkeit.»Im Publikum hob sich eine Hand, und Farid zeigte auf einen Studenten in der ersten Reihe.«Die Erstellung von Deepfakes ist also einfach, kostengünstig, schnell und zuverlässig», sagte der Student. «Die Erkennung ist kostspielig und schwierig.»«Ja», sagte Farid.«Gibt es in naher Zukunft eine Lösung, oder sind wir einfach aufgeschmissen?»Er hielt inne und holte tief Luft. Er dachte an die Schule in Iran, an die Deepfakes, die sich in seinem Posteingang stapelten, und an die Farm, die in Vermont auf ihn wartete. Er glaubte immer noch daran, dass es Lösungen gab. Aber zuerst wollte er, dass die Menschen verstanden, womit sie es zu tun hatten.«Wir sind ziemlich am Arsch», sagte er.Das ist die übersetzte und leicht gekürzte Version des Artikels «The World’s Leading Deepfake Expert No Longer Trusts His Own Eyes», der zuerst in der «New York Times» erschienen ist.Ein Artikel aus der «NZZ am Sonntag»Passend zum Artikel