Was ist eigentlich ein Deepfake?

Hallo, mein Name ist Becky Sanders. Ich habe an der Freien Universität in Berlin, Deutschland studiert, interessiere mich für das Menschsein und möchte sehr gern Ihr Freund auf LinkedIn sein. Das ist mein Profilbild. Sieht man nicht, dass ich echt bin?

Leider bin ich nicht Becky. In Wirklichkeit existiert Becky Sanders gar nicht. Ihr Profilfoto ist ein Deepfake. Dabei handelt es sich um künstlich erstellte Medien, z. B. Fotos oder Videos. Manchmal zeigt ein Deepfake-Video eine Person, die etwas tut, was sie nie getan hat; manchmal werden Fotos von Personen erstellt, die es nie gegeben hat, indem viele echte Gesichter miteinander vermischt werden. Neuere Deepfakes können sogar die Stimme einer Person nachahmen, um sie etwas sagen zu lassen, was sie in der Realität nie sagen würde. 

Die Endprodukte können oft sehr realistisch aussehen, da die Technologie dahinter von hochmodernen Deep Learning-Algorithmen namens GAN (Generative Adversarial Network) gestützt wird. Tatsächlich ist der Begriff "Deepfake" ein Kofferwort aus "Deep Learning" und "Fake". Die Technologie ist jedoch noch längst nicht perfekt. Vor allem bei Videos weisen die meisten Deepfakes subtile Mängel auf, die man erkennen kann, wenn man weiß, worauf man achten muss.

So erkennen Sie Deepfakes

Wenn Sie sich Sorgen machen, dass ein Foto oder Video ein Deepfake sein könnte, gibt es einige leicht erkennbare Anzeichen dafür. Insbesondere sollten Sie nach digitalen Unstimmigkeiten suchen: Bereiche, die aussehen, als ob sie nicht zusammengehören. Dies ist vergleichbar mit Rätseln für Kinder wie "Finde den Fehler in diesem Bild" – zum Beispiel eine Schaukel mit nur einem Seil oder ein Spiegelbild, das in die falsche Richtung zeigt. Bei Deepfakes könnten die Unstimmigkeiten eine Brille sein, die nicht ganz bis zum Ohr reicht, oder ein Bart, der sich nicht mit dem Gesicht mitbewegt, wenn die Person spricht. Eine weitere häufige Fehlerstelle sind die Lippen: Oft haben Deepfakes Lippen, die nicht natürlich aussehen oder nicht zu den anderen Gesichtszügen der Person passen. 

Sie können auch nach digitalen Artefakten suchen – Elemente, die für Computer derzeit nur schwer korrekt zu generieren sind. Das können z. B. Gesichtstexturen sein (das Gesicht, insbesondere die Stirn, könnte zu glatt sein), Schatten (an der falschen Stelle) oder unrealistisch wirkende Augenbrauen.

Photo Credit: AP Photo

Achten Sie bei animierten Videos auch auf das Blinzeln. Blinzelt die Person zu wenig oder zu viel? 

Welche Arten von Deepfakes gibt es?

Frühe Deepfakes konzentrierten sich auf das Ändern von Gesichtern in Videos, zum Beispiel das Ersetzen des Gesichts eines Schauspielers durch das einer anderen Person in einem Film. Diese Deepfakes waren zwar nicht sehr überzeugend, hatten aber schwerwiegende negative Folgen, wenn sie ohne die Zustimmung der betroffenen Personen veröffentlicht wurden. Dies gilt insbesondere deshalb, weil sich viele Menschen immer noch nicht bewusst sind, dass Deepfakes möglich sind.

Die KI-Forscher erkannten sofort, dass diese Technologie genutzt werden könnte, um sich als Staatsoberhaupt und andere einflussreiche Persönlichkeiten auszugeben. Deshalb haben sie 2018 einen Machbarkeitsnachweis vorgelegt: ein gefälschtes Video des früheren Präsidenten Obama, der vor den Gefahren von Deepfakes warnt!

In diesem Video spricht jedoch der Komiker Jordan Peele die Stimme Obamas. Der  Grund dafür ist, dass ein realistisch klingender Ton noch Zukunftsmusik ist. Selbst bei fortschrittlichen Technologien wie Lyrebird kann die generierte Stimme metallisch klingen, wenn man genau hinhört. 

Anhand der oben aufgeführten Tipps können Sie erkennen, dass dieses Video gefälscht  ist. So ist zum Beispiel die Stirn von Obama ungewöhnlich glatt. Außerdem  bewegen sich die Falten um seinen Mund nicht natürlich, wenn er spricht. Und drittens wirken die Schatten auf seinen Wangenknochen unnatürlich im Vergleich zur Richtung  des Lichts im übrigen Teil des Videos. 

Ein weiterer Verwendungszweck von Deepfakes ist die Erstellung von gefälschten  Profilbildern für Fake-Konten in sozialen Medien. So wurde zum Beispiel ein LinkedIn-Profilbild für Katie Jones erstellt, die nicht existiert. Die gleiche Technik wurde auch bei  Twitter und YouTube für eine Armee von gefälschten Accounts verwendet.

Photo Credit: PC Magazine

In jüngster Zeit wurden Deepfakes bei der russischen Invasion in der Ukraine eingesetzt, etwa bei einem Video, in dem sich der ukrainische Präsident Selenskyj ergibt. Dieser Deepfake wurde auf einer gehackten ukrainischen Nachrichten-Website veröffentlicht und von dort aus weit verbreitet. Wenn Sie wissen, worauf Sie achten müssen, ist es offensichtlich, dass es sich bei diesem Video um eine Fälschung handelt: Der Bart bewegt sich nicht einheitlich mit dem Gesicht und der Hautton des Halses stimmt nicht mit dem des Gesichts überein. Sie können auch sehen, dass das Gesicht merkwürdig abgeschnitten ist, um den Blick auf die Stirn und den Haaransatz zu verhindern, wo Fälschungen am leichtesten zu erkennen sind. Facebook hat dieses Video als Fake identifiziert und gelöscht. 

In diesem Konflikt wurden auch andere Deepfakes eingesetzt, z. B. einer von Präsident Putin, der den Frieden mit der Ukraine verkündet. Auch hier ist zu erkennen, dass die Stirn unnatürlich glatt ist und die Bewegungen von Wangen und Mund seltsam aussehen. Der Haaransatz sieht ebenfalls nicht realistisch aus. 

Die Zukunft der Deepfakes

In Zukunft ist damit zu rechnen, dass Deepfakes für die breitere Informationskriegsführung und zum Ziel der Desinformation eingesetzt werden. Insbesondere das Selenskyj-Video steht für die Einheit aus Hacking, der Erstellung des Deepfake und der Verbreitung des Videos durch staatlich geförderte Propagandakanäle sowie durch verschiedene Social-Media-Bots. 

Wir können auch mit dem Einsatz von Deepfakes für Zwecke wie Catfishing, Phishing und andere Bedrohungen rechnen, die traditionelle Cyberkriminalität mit menschlichen Gefühlen kombinieren. 

Um diesen Bedrohungen zu begegnen, müssen wir einen ebenso ganzheitlichen Ansatz verfolgen: unsere Endpunkte und Server mit modernster Cybersicherheit sichern, Deepfakes sowohl mit computergestützten als auch mit manuellen Methoden aufspüren und die Verbreitung von Desinformationen durch Bots und gefälschte Konten in den sozialen Medien stoppen.