Deepfakes erkennen: Merkmale, Prüfwerkzeuge und Schutz vor Betrug

Deepfakes erkennst du selten an einem einzigen Merkmal, sondern an der Kombination aus technischen Auffälligkeiten und einem Zusammenhang, der nicht passt. Achte auf Gesicht, Lippen, Licht und Stimme, aber prüfe vor allem, woher eine Aufnahme stammt und ob seriöse Quellen sie bestätigen. Bei Anrufen mit bekannter Stimme, die Geld fordern, gilt: auflegen und unter der bekannten Nummer zurückrufen. Dieser Artikel vertieft das Thema aus dem Ratgeber Bilder und Videos prüfen.

Was ein Deepfake ist

Der Begriff setzt sich aus „Deep Learning“, einem Verfahren des maschinellen Lernens, und „Fake“ zusammen. Gemeint sind Video- oder Tonaufnahmen, die mit KI erzeugt oder verändert wurden, sodass Menschen scheinbar Dinge sagen oder tun, die nie passiert sind. Man unterscheidet grob vier Formen:

• Face Swap: Das Gesicht einer Person wird in einem bestehenden Video durch ein anderes ersetzt.
• Lip Sync: Das Gesicht bleibt, aber die Mundbewegungen werden an einen neuen Text angepasst.
• Stimmklon: Eine Software ahmt die Stimme einer bestimmten Person nach. Dafür reichen oft kurze Tonaufnahmen, etwa aus Videos in sozialen Netzwerken.
• Vollständig erzeugte Videos: Ganze Szenen mit Personen, Orten und Handlung entstehen aus einer Textbeschreibung.

Verwandt sind KI-generierte Standbilder, die eigene Merkmale haben. Sie behandelt der Artikel KI-generierte Bilder erkennen.

Merkmale im Video

Frühe Deepfakes waren oft leicht zu entlarven. Heutige Verfahren sind deutlich besser, doch bei genauem Hinsehen fallen manchmal noch Fehler auf. Am besten schaust du das Video mehrfach an, auf einem großen Bildschirm, in voller Auflösung und an kritischen Stellen Bild für Bild.

Keines dieser Merkmale ist ein Beweis. Auch echte Videos haben Kompressionsfehler, schlechtes Licht oder einen leicht versetzten Ton, etwa bei Videokonferenzen. Umgekehrt kann ein gut gemachtes Deepfake keine sichtbaren Fehler haben.

Merkmale in der Stimme

Gefälschte Tonaufnahmen sind schwerer zu erkennen als Videos, weil das Bild als Kontrolle fehlt. Hinweise können sein:

• eine monotone Sprechweise ohne natürliche Betonung
• ungewöhnliche Pausen, abgehackte Übergänge oder ein metallischer Klang
• fehlende Atemgeräusche oder Hintergrundgeräusche, die abrupt wechseln
• eine Wortwahl, die nicht zur Person passt, etwa eine ungewohnt förmliche Anrede

Hinzu kommt: Am Telefon ist die Tonqualität ohnehin eingeschränkt. Gerade das nutzen Betrüger aus.

Schockanrufe mit KI-Stimmen

Eine bekannte Betrugsmasche ist der Schockanruf: Eine angebliche Angehörige meldet sich weinend, sie habe einen Unfall verursacht, nun werde dringend Geld für eine Kaution gebraucht. Polizeibehörden warnen, dass für solche Anrufe inzwischen auch nachgeahmte Stimmen eingesetzt werden können. Ähnliche Muster gibt es in Unternehmen, wenn eine angebliche Führungskraft per Anruf oder Videokonferenz eine eilige Überweisung verlangt.

Schützen kannst du dich mit einfachen Regeln:

Die echte Polizei fordert dich am Telefon niemals auf, Geld oder Wertsachen zu übergeben, und sie ruft nicht unter der Nummer 110 an.

Den Zusammenhang prüfen

Da technische Merkmale immer unzuverlässiger werden, gewinnt die klassische Quellenprüfung an Gewicht. Sie funktioniert unabhängig davon, wie gut eine Fälschung gemacht ist:

1. Woher stammt das Video? Wer hat es zuerst veröffentlicht? Ein anonymer, neuer Account ist weniger vertrauenswürdig als der offizielle Kanal einer Person oder Institution.
2. Gibt es weitere Aufnahmen? Bei öffentlichen Auftritten filmen meist mehrere Kameras. Fehlt jede zweite Perspektive, ist Vorsicht geboten.
3. Berichten seriöse Medien? Eine aufsehenerregende Aussage einer bekannten Person würde von vielen Redaktionen aufgegriffen.
4. Passt die Aussage zur Person? Ungewöhnliche Inhalte, etwa Werbung für Geldanlagen durch Prominente, sind ein klassisches Muster für Betrug.
5. Wie alt ist das Material? Mit Schlüsselbildern aus dem Video kannst du eine Bilder-Rückwärtssuche machen und herausfinden, ob das Ausgangsmaterial aus einem anderen Zusammenhang stammt.

Was Prüfwerkzeuge leisten

Es gibt Software, die Videos und Tonaufnahmen auf Spuren von KI-Manipulation untersucht. Einige Angebote richten sich an Redaktionen, andere sind öffentlich zugänglich. Für Rechercheurinnen und Rechercheure ist außerdem die Browser-Erweiterung InVID-WeVerify verbreitet, die Videos in Schlüsselbilder zerlegt, Metadaten anzeigt und Werkzeuge für die Analyse bündelt.

Bei allen Werkzeugen gilt: Sie liefern Wahrscheinlichkeiten, keine Gewissheit. Die Erkennung hinkt der Erzeugung oft hinterher, weil neue KI-Modelle andere Spuren hinterlassen als die, mit denen ein Detektor trainiert wurde. Starke Kompression, wie sie in Messengern und sozialen Netzwerken üblich ist, verwischt zusätzlich Spuren. Ein Ergebnis wie „87 Prozent wahrscheinlich echt“ solltest du daher nie als Freispruch verstehen, sondern als einen Hinweis unter mehreren.

Hilfreich können künftig Herkunftsnachweise sein. Nach dem offenen Standard C2PA lassen sich in Dateien Angaben einbetten, mit welchem Gerät oder Programm ein Inhalt entstanden ist. Die europäische KI-Verordnung sieht zudem Transparenzpflichten für bestimmte KI-erzeugte Inhalte vor, darunter die Kennzeichnung von Deepfakes. Wer sich nicht an solche Regeln hält, wird sich davon aber kaum aufhalten lassen.

Wenn du selbst betroffen bist

Deepfakes treffen nicht nur Prominente. Gefälschte Bilder oder Videos können auch genutzt werden, um Privatpersonen bloßzustellen, zu erpressen oder zu belästigen, häufig mit sexualisierten Inhalten. Wenn du betroffen bist:

• Beweise sichern: Screenshots mit sichtbarem Datum, Links, Namen der Accounts.
• Melden: Plattformen sind verpflichtet, Meldungen zu rechtswidrigen Inhalten zu bearbeiten. Nutze die Meldefunktion und verweise auf die Verletzung deiner Rechte.
• Anzeige erstatten: Je nach Fall können Persönlichkeitsrechte, das Recht am eigenen Bild oder Strafvorschriften verletzt sein. Die Polizei nimmt Anzeigen auch online über die Internetwachen der Länder entgegen.
• Hilfe holen: Beratungsstellen für Betroffene digitaler Gewalt unterstützen beim Vorgehen und vermitteln rechtliche Hilfe.

Fazit: Herkunft schlägt Pixel

Je besser die Technik wird, desto weniger kannst du dich auf deine Augen und Ohren verlassen. Das wichtigste Werkzeug bleibt die Frage nach der Quelle. Wie KI die Nachrichtenwelt insgesamt verändert, von automatisch erstellten Texten bis zu neuen Prüfverfahren in Redaktionen, beleuchtet der Ratgeber Die Zukunft der Nachrichten.