Erklärung
Der Begriff verbindet „Deep Learning“ und „Fake“. Deepfakes können Gesichter in Videos austauschen (Face Swapping), Stimmen nachbilden (Voice Cloning) oder komplette Szenen erzeugen. Je nach Verfahren und Qualitätsanspruch ist der Aufwand sehr unterschiedlich. Einfache Manipulationen sind mit frei verfügbaren Werkzeugen möglich, besonders überzeugende Ergebnisse erfordern mehr Ausgangsmaterial, Rechenleistung und Nachbearbeitung.
Deepfakes sind nicht grundsätzlich betrügerisch. Sie werden auch in Film, Unterhaltung, Barrierefreiheit oder Forschung eingesetzt. Zum Problem werden sie, wenn Dritte über die Identität oder die Aussagen einer Person getäuscht werden, zum Beispiel bei einer vorgetäuschten Videokonferenz mit einer Führungskraft.
Die Erkennung ist anspruchsvoll. Auffälligkeiten wie unnatürliche Mimik, Lichtfehler oder Artefakte beim Sprechen können Hinweise sein, fehlen aber bei hochwertigen Fälschungen. Automatisierte Erkennungsverfahren liefern Wahrscheinlichkeiten, keine Gewissheit. Ein Befund „keine Auffälligkeiten“ beweist daher nicht die Echtheit.
Typisches Beispiel (schematisch)
In einer kurzfristig angesetzten Videokonferenz scheint die Geschäftsführung eine vertrauliche Zahlung anzuweisen. Bild und Stimme wirken vertraut, der Anlass ist plausibel. Tatsächlich sind beide synthetisch erzeugt oder in Echtzeit verändert.
Bedeutung für Forensik und Ermittlungen
Untersucht werden können Herkunft und Metadaten einer Datei, Aufzeichnungen von Besprechungen, Protokolle von Konferenzsystemen, Teilnehmerkonten und der Zeitablauf. Hinzu kommen Verfahren der Medienanalyse. Auch Herkunftsnachweise wie Content Provenance können helfen, beweisen aber nicht automatisch die Wahrheit des Inhalts.
Erkennung und Prävention
Entscheidend ist, die Identität nicht allein am Eindruck von Bild und Stimme festzumachen. Anweisungen mit finanziellen oder sicherheitsrelevanten Folgen sollten über einen unabhängigen Weg bestätigt werden (Out-of-Band-Validierung). Ein vorher vereinbartes Codewort (Familien-Codewort) kann im privaten Umfeld hilfreich sein.
Auch gesucht als Deep Fake, Deepfakes, KI-Fälschung, gefälschte Videos, manipulierte Videos, Deep-Fake