Was ist ein Deepfake? Gefälschte Videos und Stimmen erkennen

Der Name kommt von den „tiefen neuronalen Netzen“ (englisch: deep neural networks), mit denen die KI arbeitet – und von „Fake“, also Fälschung. Das BSI erklärt: Videos und Stimmen täuschend echt zu fälschen, war früher sehr aufwendig. Mit KI geht das heute deutlich einfacher und in hoher Qualität.

Margarete, 74

Margarete hat genau das getan, was die Polizei empfiehlt: Sie hat sich nicht drängen lassen und den Anruf über die bekannte Nummer überprüft.

Was mit Deepfakes möglich ist

Laut BSI gibt es drei Arten von Fälschungen:

• Videos und Bilder: Ein Gesicht wird gegen ein anderes getauscht, oder Mimik und Lippen einer Person werden verändert. So entstehen Videos, in denen jemand Dinge sagt, die er nie gesagt hat.
• Stimmen: Eine Software spricht einen beliebigen Text mit der Stimme einer bestimmten Person. Oder sie verwandelt eine Stimme in eine andere. Dafür braucht sie Aufnahmen der echten Person.
• Texte: KI schreibt lange Texte, die man auf den ersten Blick nicht von menschlichen unterscheiden kann.

Wofür Betrüger Deepfakes nutzen

Das BSI nennt unter anderem Betrug: Jemand ruft zum Beispiel mit der nachgemachten Stimme eines Vorgesetzten an, um eine Überweisung auszulösen. Hinzu kommen Falschmeldungen, gefälschte Profile in sozialen Netzwerken und Fake-Shops mit KI-erzeugten Produktbildern.

Dabei nutzen Täter laut BSI menschliche Eigenschaften aus: Hilfsbereitschaft, Vertrauen, Angst oder Respekt vor Autorität.

Woran Sie Fälschungen manchmal erkennen

Ehrlich gesagt: Das wird immer schwieriger. Für KI-Bilder schreibt das BSI, dass derzeit keine Methode bekannt ist, die Bilder vieler Generatoren zuverlässig erkennt. Diese Hinweise können trotzdem helfen:

• Bei Stimmen: ein metallischer Klang, eine falsche Aussprache einzelner Wörter oder eine sehr gleichförmige Betonung.
• Bei Videos: sichtbare Übergänge am Rand des Gesichts, verwaschene Zähne oder Augen, wenig Mimik oder unpassendes Licht – besonders, wenn sich der Kopf stark dreht.
• Bei Bildern: Fehler an den Händen, etwa die falsche Zahl an Fingern, unleserliche Schrift oder Schatten, die nicht zusammenpassen.

So schützen Sie sich

Der beste Schutz ist das Wissen, dass es solche Fälschungen gibt. Dann gilt bei jeder ungewöhnlichen Bitte um Geld:

1. Nicht drängen lassen. Nehmen Sie sich Zeit.
2. Auflegen und zurückrufen – unter der Nummer, die Sie kennen, nicht unter der, die Ihnen genannt wird.
3. Nachfragen, was nur die echte Person wissen kann. Das empfiehlt die Polizei beim Enkeltrick.
4. Kommt Ihnen ein Anruf verdächtig vor, informieren Sie die Polizei über die 110.

Wie der klassische Enkeltrick abläuft und wie Sie richtig reagieren, lesen Sie in Enkeltrick und Schockanruf. Bei Unsicherheit hilft auch unser Ist-das-echt-Check.