KI-Betrug erkennen: Methoden, Risiken und Schutzmaßnahmen

Was sich durch generative KI verändert

Generative KI verändert vor allem drei Dinge. Erstens sinkt der Aufwand: Eine sprachlich saubere, auf einen bestimmten Empfänger zugeschnittene Nachricht lässt sich in Sekunden erzeugen. Zweitens steigt die Qualität: Typische Warnzeichen wie Rechtschreibfehler oder ungelenke Formulierungen verlieren an Aussagekraft. Drittens wächst der Umfang: Täuschungen lassen sich in vielen Sprachen und in großer Zahl parallel führen.

Das Grundprinzip bleibt dasselbe wie beim klassischen Social Engineering: Es wird Vertrauen aufgebaut oder vorgetäuscht, Zeitdruck erzeugt und eine Handlung ausgelöst, die dem Täter nützt. Neu ist die Reichweite der Mittel, nicht das Ziel.

Wichtig ist auch die Gegenseite: KI-generierte Inhalte sind nicht automatisch betrügerisch. Unternehmen setzen KI legitim ein, etwa für Übersetzungen oder Zusammenfassungen. Auch ein menschlich verfasster Text kann täuschen. Die Frage lautet daher nicht „War KI im Spiel?“, sondern „Was lässt sich über Herkunft und Absicht belegen?“

Typische Erscheinungsformen

Die folgende Übersicht ordnet häufige Formen ein. Sie ist als Orientierung gedacht und erhebt keinen Anspruch auf Vollständigkeit.

Typische Angriffssituationen im Unternehmen

Zahlungsanweisung. Eine Nachricht im Namen der Geschäftsführung verlangt eine eilige, vertrauliche Überweisung. Mehr dazu im Artikel CEO-Fraud und Business E-Mail Compromise: Wie Unternehmen Zahlungen schützen.

Änderung von Zahlungsdaten. Ein bekannter Lieferant teilt eine neue Bankverbindung mit. Der Zeitpunkt ist geschickt gewählt, etwa kurz vor Fälligkeit einer Rechnung.

Videokonferenz. Ein Teilnehmer erscheint mit dem Gesicht und der Stimme einer bekannten Person. Die Bildqualität wird mit einer schlechten Verbindung erklärt. Siehe Deepfake-Betrug: Wenn Stimmen und Videos als Identitätsnachweis nicht mehr ausreichen.

Einstellungs- und Identitätsprüfung. Bewerbungen, Lebensläufe und Referenzen lassen sich KI-gestützt erzeugen, ebenso Fotos für Ausweise oder Profile.

Anruf mit Notlage. Private oder berufliche Kontakte werden mit einer nachgebildeten Stimme unter Druck gesetzt.

Was sich technisch prüfen lässt und was nicht

Es gibt Werkzeuge, die Hinweise auf synthetische Inhalte liefern, etwa Analysen von Bild- und Tonartefakten oder Prüfungen von Metadaten. Zwei Punkte sind dabei zu beachten.

Erstens liefern solche Verfahren Wahrscheinlichkeiten, keine Gewissheit. Ein unauffälliger Befund beweist nicht, dass ein Inhalt echt ist, und ein auffälliger Befund beweist nicht in jedem Fall eine Fälschung. Die Erkennung einzelner synthetischer Inhalte lässt sich deshalb nicht pauschal zusagen.

Zweitens sind Hinweise auf Herkunft nützlich, aber begrenzt. Standards wie Content Provenance können dokumentieren, womit ein Inhalt erzeugt oder bearbeitet wurde. Sie belegen Herkunft und Bearbeitung, nicht die Wahrheit des Dargestellten. Ein KI-Wasserzeichen kann ein Hinweis auf KI-Herkunft sein; sein Fehlen ist kein Beleg für Echtheit.

Belastbar sind meist nicht Eindruck und Bauchgefühl, sondern ein Zusammenspiel aus technischen Hinweisen, Kontext, Herkunft und nachvollziehbarer Dokumentation.

Was Unternehmen konkret tun können

Die wirksamsten Maßnahmen setzen nicht bei der Erkennung an, sondern bei den Abläufen.

• Unabhängige Rückbestätigung bei Zahlungen, Zugangsänderungen und sicherheitsrelevanten Anweisungen, über einen bereits bekannten Kanal.
• Mehrstufige Freigaben, auch gegenüber Führungskräften, ohne Ausnahme „wegen Dringlichkeit“.
• Starke Anmeldeverfahren für Konten mit weitreichenden Rechten, möglichst phishing-resistent.
• Klare Meldewege für verdächtige Nachrichten, mit der Bitte, Originale nicht zu löschen.
• Schulung mit realistischen Beispielen, die Verhalten und Prozesse in den Mittelpunkt stellen statt Erkennungsmerkmale.
• Regeln für den Umgang mit KI-Diensten: welche Daten eingegeben werden dürfen und wie Ergebnisse geprüft werden.

Weitere Hinweise enthält der Artikel Deepfakes, Phishing und Identitätsbetrug: Praktische Schutzmaßnahmen für Unternehmen.

Häufige Missverständnisse

„Man erkennt Fälschungen am schlechten Deutsch.“ Das war einmal eine brauchbare Faustregel. Sie trägt nicht mehr, weil Sprachqualität kein Unterscheidungsmerkmal mehr ist.

„Meine Mitarbeiter erkennen so etwas.“ Selbst aufmerksame Personen erkennen hochwertige Fälschungen unter Zeitdruck nicht zuverlässig. Schutz sollte nicht von der Wahrnehmung einzelner abhängen.

„Dagegen gibt es ein Werkzeug.“ Technische Erkennung hilft, ist aber nicht in jedem Fall zuverlässig und ersetzt keine Prozesse.

„Das betrifft nur Konzerne.“ Täter wählen Ziele nach Gelegenheit, nicht nach Größe. Auch kleine und mittlere Unternehmen, Vereine und Privatpersonen sind betroffen.

Wenn ein Verdacht entsteht

Bei einem konkreten Verdacht kommt es auf die ersten Schritte an: Nachrichten und Aufzeichnungen nicht löschen, keine weiteren Zahlungen leisten, die Bank zeitnah informieren und Verantwortliche einbeziehen. Eine Übersicht dazu gibt der Artikel Verdacht auf digitalen Betrug: Was Unternehmen zunächst beachten sollten.

Warum öffentliche Informationen zum Risiko werden

Personalisierte Täuschung braucht Material: Namen, Rollen, Lieferanten, Abläufe, Termine. Vieles davon steht öffentlich im Netz, in Impressen, Stellenanzeigen, Pressebildern oder Beiträgen in beruflichen Netzwerken. Generative Werkzeuge können solche Informationen automatisiert zusammenführen und in einen passenden Ton überführen. Das ist kein Grund, auf Transparenz zu verzichten, aber ein Grund, Prozesse nicht davon abhängig zu machen, dass Details „nur intern bekannt“ sind. Wer weiß, welche Informationen über das eigene Unternehmen öffentlich verfügbar sind, kann besser einschätzen, wie plausibel eine fremde Nachricht wirken kann.

Wie Untersuchungen bei einem KI-Verdacht vorgehen

Im Verdachtsfall steht selten die Frage im Vordergrund, ob ein Text von einer Maschine stammt. Wichtiger ist, was sich über den Vorgang belegen lässt: Wann ist die Nachricht eingegangen, über welchen Weg, von welchem Konto oder welcher Domain? Welche Handlungen folgten? Gab es Anmeldungen oder Zugriffe, die dazu passen? Dazu werden Nachrichten im Original gesichert, Protokolle ausgewertet und die Ereignisse in eine Zeitlinie gebracht. Ob zusätzlich Hinweise auf synthetische Inhalte vorliegen, wird als Hinweis eingeordnet und nicht als Beweis. So bleibt die Aussage auch dann belastbar, wenn sich die eingesetzte Technik ändert.

Einordnung

Dieser Beitrag ist eine allgemeine Information und keine Bewertung eines Einzelfalls. Er ersetzt weder Rechtsberatung noch eine forensische Untersuchung. Zahlen zur Lage veröffentlichen unter anderem das Bundeskriminalamt und das BSI; auf Einzelzahlen wird hier bewusst verzichtet, weil sie sich jährlich ändern und ihre Aussagekraft von der Erfassung abhängt.