Responsive image

on air: 

deinfm
---
---
frau-laptop-bett
Und ein ziemlich harter Fall eines Moderators

Deepfakes - wie ihr sie erkennen könnt

  • Als Deepfakes werden Medieninhalte bezeichnet, die realistisch wirken, aber gefälscht sind.
  • Der Tagesschausprecher Andrè Schünke ist Opfer eines Deepfake-Betrugs geworden.
  • Experten warnen, dass das zunehmende Auftreten von Deepfakes dazu führen sollte, Bildern und Videos im Netz nicht mehr automatisch zu glauben.  

„Das bereitete mir extreme Sorgen, weil ich glaube, dass das einfach erst der Anfang ist. Wenn diese Maschinen lernen – die Künstliche Intelligenz hat ja massenhaft Videos von uns im Inter-net, die sie sich ziehen kann und von unserem Stimmen massen-haft Aufnahmen - wenn die immer weiter lernt und noch ein biss-chen weiter verfeinert wird, dann ist es irgendwann vom echten Menschen bald nicht mehr zu unterscheiden.“
André Schünke, Tagesschausprecher beim NDR

Vermeintliche Werbung für ein Finanzprodukt

Bis zu 21.000 Euro Gewinn im Monat, schon über 10.000 Deutsche haben investiert und ein Gesamt-Investitionsvolumen von 765 Millionen – mit diesen Versprechungen und Informationen wirbt ein Video der Anlage-Plattform „Quantum“ im Netz. Es tauchte sowohl auf Facebook, als auch auf Firmenseiten auf. Das Testimonial im Video ist der bekannte Tagesschausprecher Andrè Schünke. Er beschreibt in der bekannten Tagesschau-Studio-Optik die Vorzüge des Finanzproduktes. Das Perfide – das ganze Video ist ein Fake, André Schünke hat erst durch die Veröffentlichung der Bild-Zeitung von diesem Werbeclip erfahren und war entsetzt. Das Video wurde voraussichtlich mit Audiomaterial aus dem Netz durch eine Künstliche Intelligenz produziert, die Bilder entstammen einer echten Tagesschau-Sendung

Bitte an die Community

Andrè Schünke hat inzwischen Ausschnitte aus dem Video als Fake markiert auf seinem Instagram-Account hinterlegt. Seine Bitte: „Diese Werbevideo von mir ist eine KI-Fake. Bitte meldet es mir und @meta, wenn es Euch angezeigt wird????.“ Die Reaktionen seiner Follower in den Kommentaren auf das Video schwanken zwischen Mitgefühl und Sorge.

@stephanwestphalhh regt gleich an: „Vielleicht kannst du berichten, wie erfolgreich du dabei bist, dich dagegen zu wehren. Zumindest in der EU sollte die Rechtslage dank DSGVO und Urheberrecht ja eigentlich klar sein. Heißt aber nicht, dass man auch mehr als eine teilweise Löschung (das Netz vergisst nie) auch durchsetzen kann.“

Forderung nach Aufklärung und Kennzeichnung

„Für technisch versierte Laien ist es bereits heute möglich, qualitativ hochwertige Fälschungen zu erstellen,“ schreibt das Bundesamt für Sicherheit (BSI) in der Informationstechnik auf einer speziellen Website zu Deepfakes. Es unterstreicht damit die Entwicklung, die das Fake-Werbevideo mit dem Tagesschausprecher anschaulich belegt. Die Forderung des Bundesamtes gehen in zwei Richtungen. Zum einen sollten „potentiell betroffene Personen“ vorsorglich zum Beispiel über Artefakte aufgeklärt werden. Artefakte sind kleine, unnatürliche Veränderungen in den KI-erstellten Bildern wie z.B. sechs Finger, eine unnatürliche Haltung oder seltsame leere Blicke. Zum anderen fordert das BSI, Deepfake automatisch erkennbar zu machen.  

Selber Deep Fakes identifizieren

Mit genauem Hinschauen können wir Deepfakes aktuell häufig (noch) selbst erkennen. Besonders Gesicht und Hände sind oft Bildorte, die typische Produktions-Merkmale einer KI erkennbar werden lassen. Ein leer wirkender Blick, eine teils unnatürliche Mimik oder seltsame Übergänge zwischen Gesicht und Hals bzw. zwischen Gesicht und Haar können Deepfake-Merkmale sein. Fehlendes Blinzeln ist zudem bei Videos ein sicheres Anzeichen für eine Fälschung. Ebenso hat die KI oft Probleme mit der Darstellung von Händen – zu viele bzw. zu wenige Finger oder eine Haut, die nicht zum Alter der Person passt, können hier erkennbare Indizien sein. Allerdings behauptet der amerikanische Informatiker und ehemalige Director of Machine Learning bei Apple Ian Goodfellow schon länger, dass es „ein Glücksfall“ gewesen war, dass sich die Menschheit auf Videos als Wahrheitsbeleg verlassen konnten. Er warnt, diese Zeit neige sich durch KI dem Ende zu. Menschen müssten zunehmend im Umgang mit Bildern und Videos im Netz skeptischer werden und dem Gezeigten nicht mehr automatisch glauben.


Der wöchentliche Blick ins Web

Eine Person die eine Computertastertur mit Maus bedient


Das Internet schläft nicht - ständig gibt es neue Trends, neue Plattformen, neue Apps und täglich Veränderungen. Mit uns behaltet ihr den Überblick - denn wir präsentieren Ihnen hier jede Woche was es Neues gibt in der digitalen Welt.