Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt hat gemeinsam mit dem Fraunhofer-Standort Heilbronn eine Software entwickelt, die während laufender Videocalls Hinweise auf Deepfakes liefern soll. Das Projekt entstand im Rahmen von „ATHENE“, einem vom Bundesforschungsministerium und dem Land Hessen geförderten Forschungszentrum für Cybersicherheit.
Lokale Analyse ohne Cloud-Anbindung
Betrugsmaschen mit manipulierten Bild- und Tonaufnahmen, sogenannten Deepfakes, gehören mittlerweile zum Standardrepertoire von Cyberkriminellen. Mit den entsprechenden Tools entsteht in wenigen Schritten ein digitaler Klon einer realen Person, samt Stimme und Erscheinungsbild, der wie ein Filter über eine andere Person gelegt werden kann. Wie überzeugend solche KI-Klone sein können, zeigt ein heise-Experiment, das in Zusammenarbeit mit der Cybersecurityfirma „Whitelisthackers“ entstanden ist. Innerhalb weniger Sekunden gelang es, einen Kollegen mit einem Live-Deepfake zu täuschen und vertrauliche Daten zu gewinnen.
In Videocalls sind Deepfakes besonders schwer zu erkennen, da Menschen an stotternde Übertragungen und Bildfehler gewohnt sind. Der KI-Klon muss also nicht hundertprozentig genau sein. Prof. Martin Steinebach, leitender IT-Forensiker am Fraunhofer SIT, beschreibt die Entwicklung von zuverlässigen Deepfake-Detektoren bei Videocalls deshalb als besonders herausfordernd. Schwankende Netzqualität, Kompression und automatische Weichzeichnungsfilter würden genau jene Bildfehler vernichten, an denen ältere Erkennungsmethoden Manipulationen festmachten.
