Deepfakes – der Manipulation ausgeliefert? (2024)

Prof. Matthias Niessner forscht an der TU München an Methoden, mit denen sich Deepfakes enttarnen lassen – ebenfalls mithilfe einer KI. Anhand von Hunderten Fake-Videos haben sein Team und er eine Software darauf trainiert, Fälschungen zu erkennen. Sie sucht dabei nach Artefakten im Bild, die für das menschliche Auge unsichtbar sind.

Oben ist das Ergebnis eines Mensch-Maschine-Vergleichs zu sehen: Bei Videos mit hoher Auflösung entlarven Probanden in 67 Prozent der Fälle das Fake. Die Software liegt in 96 Prozent der Fälle richtig. Bei Videos von geringer Qualität, wie in sozialen Medien üblich, sinkt jedoch die Treffsicherheit: bei den Probanden auf 59 Prozent und bei der Software auf 81 Prozent. Dennoch, betont Prof. Niessner, kann die KI keineswegs menschliche Expert*innen bei der Echtheitsanalyse von Videos ersetzen, sie sei nur eines der Tools, die etwa in der Multimediaforensik zur Überprüfung von digitalen Mediendaten genutzt werden.

Unsere Augen wandeln einfallendes Licht um in Nervenimpulse. Doch unser eigentliches Sehorgan ist das Gehirn. Es macht „Plausibilitätskontrollen“, filtert aus der Unmenge an Lichtsignalen das vermeintlich Wichtige heraus und ignoriert den Rest. Das Ganze ist ein komplexer Prozess: Die Sehnerven leiten die Reize zum Thalamus, der Zentrale für Sinneseindrücke. Von dort gelangen sie zum visuellen Cortex, unserem Sehzentrum. Dieses triggert eine Signalflut in die Gegenrichtung und füttert seinerseits den Thalamus mit verknüpften Erinnerungen. Der Signalfluss „rückwärts“ ist bis zu sechsmal intensiver. Was wir am Ende wahrnehmen, ist eine Mischung aus dem, was das Auge aufnimmt, und dem, was das Gehirn kombiniert.

Öffnet ein Neugeborenes zum ersten Mal seine Augen, stürzt eine Lichtflut hinein, die für das Baby noch keinen Sinn ergibt. Es erkennt keine Farbe und kann nicht fokussieren. Dennoch ist es in der Lage, schon nach wenigen Stunden Gesichter zu erkennen. Von da an sind Gesichter sein liebster Anblick. Das Gehirn lernt schnell, das zunächst chaotische Feuerwerk der Nervenimpulse mit Erfahrungen zu verknüpfen. So entstehen immer mehr Nervenbahnen, die sich allmählich festigen. Auf diese Verbindungen wird das Gehirn ein Leben lang zurückgreifen. Nach etwa einem halben Jahr ist der Sehsinn ausgereift. Eine Fähigkeit aus unseren ersten Lebensstunden wird dabei perfektioniert: Wir werden immer besser darin, Gesichter zu erkennen. Weil wir so stark auf Gesichter geprägt wurden, sind wir aber auch anfällig für Täuschungen, besonders wenn sie per Video von einem Menschen vorgetragen werden. Hinzu kommt, dass Bilder, vor allem bewegte, uns stärker und emotionaler ansprechen als Texte. Die Informationen wirken glaubwürdiger – wir haben es schließlich „mit eigenen Augen gesehen“. Immerhin: Unser Gehirn ist sehr lernfähig. Schon haben wir uns dran gewöhnt, dass Fotos nicht immer Beweise sind. Nun werden wir auch lernen müssen, Videos anzuzweifeln.