Die Zeiten, in denen sich mithilfe von künstlicher Intelligenz erstellte Bilder und Videos noch zuverlässig an zermatschten oder fehlenden Fingern erkennen ließen, sind vorbei. Die heutigen großen Sprachmodelle können nicht nur anatomisch korrekte Gliedmaßen darstellen, sondern beherrschen auch realistische Schattenwürfe und können sogar den Herzschlag imitieren. Das erschwert die Unterscheidung zwischen Wahrheit und Fälschung, zwischen tatsächlicher Aufnahme und Deepfake.Anzeige
Dabei sind Deepfakes längst ein großes Problem. Und ob die geplanten Gesetzesverschärfungen vonseiten der EU etwas daran ändern, darf bezweifelt werden. Deshalb gibt es Bemühungen, technische Lösungen zu finden, um gefälschte Inhalte zuverlässig zu erkennen – etwas, das angesichts der sich ständig weiterentwickelten Modelle einfacher gesagt ist als getan.
Hybrider Ansatz für Deepfake-Erkennung
„Insbesondere bei automatisierten Detektionsmethoden sollte darauf hingewiesen werden, dass sie häufig nur unter gewissen Rahmenbedingungen zuverlässig funktionieren“, schreibt das Bundesamt für Sicherheit in der Informationstechnik (BSI). Gemeinsam mit dem Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB arbeitet das BSI selbst an neuen Methoden gegen die Fälschungen. Mit Real Or Render haben sie ein Verfahren entwickelt, das Deepfakes nicht nur erkennen soll, sondern im Sinne erklärbarer KI nachvollziehbar macht.Anzeige
