Deepfake-Erkennung in Echtzeit für Videokonferenzen
Am Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt und Heilbronn wurde ein System zur Erkennung von Deepfakes in Live-Videokonferenzen entwickelt. Die Technologie ermöglicht es, manipulierte Identitäten während eines Videocalls unmittelbar zu identifizieren. Eine anschauliche Demonstration des Systems ist unter www.sit.fraunhofer.de/deepfake-detektor verfügbar. Die öffentliche Präsentation erfolgt vom 27. bis 29. Oktober auf der it-sa in Nürnberg am Stand des Forschungszentrums ATHENE (Halle 6, Stand 416).
Hintergrund und Bedrohung durch Deepfakes
Deepfakes stellen eine zunehmende Gefahr für Unternehmen dar, insbesondere im Kontext von Betrugsversuchen durch organisierte Kriminalität. Ein verbreitetes Szenario ist der sogenannte CEO Fraud, bei dem sich Täter in Videokonferenzen als Führungskräfte ausgeben, um Mitarbeitende zur Ausführung finanzieller Transaktionen zu verleiten. Dabei werden Gesichter mittels KI-Technologien wie Face Swapping oder vollständig generierten Videos und Audios ersetzt. Die Qualität solcher Deepfakes ist oft so hoch, dass sie mit bloßem Auge schwer zu erkennen sind.
Funktionsweise des Deepfake-Detektors
- Der Detektor analysiert in Echtzeit die im Videobild sichtbaren Gesichter und bewertet für jedes Gesicht die Wahrscheinlichkeit einer Manipulation.
- Ein Klassifikationsmodell unterscheidet zwischen echten und gefälschten Gesichtern, wobei Faktoren wie Beleuchtung und Übertragungsqualität die Erkennungsgenauigkeit beeinflussen.
- Das Modell wurde mit einer Vielzahl authentischer und manipulierte Daten trainiert, um eine zuverlässige Unterscheidung zu gewährleisten.
Transparenz der Entscheidungsfindung
Zur Nachvollziehbarkeit der Detektion nutzt das System eine Grad-CAM-Analyse (Gradient-weighted Class Activation Mapping). Diese Methode visualisiert, welche Bildbereiche bei der Klassifikation ausschlaggebend waren. Die relevanten Zonen werden als farbige Heatmaps dargestellt, wodurch die Grundlage der Entscheidung für Anwender sichtbar wird.
Forschung und Präsentation
Die Entwicklung ist Teil der Forschungsaktivitäten am Fraunhofer Heilbronn Forschungs- und Innovationszentrum (Fraunhofer HNFIZ). Die Vorstellung des Deepfake-Detektors findet auf der it-sa 2026 in Nürnberg statt.
Weiterführende Informationen
- Erklärvideo zum Deepfake-Detektor: www.sit.fraunhofer.de/deepfake-detektor
- Details zum Messeauftritt des Fraunhofer SIT: www.sit.fraunhofer.de/itsa26/
- Informationen zur IT-Forensik-Forschung: www.sit.fraunhofer.de/itforensics
Wissenschaftlicher Ansprechpartner
Prof. Dr. Martin Steinebach
