Was sind Deepfakes und wie erkennt man sie?

Was sind Deepfakes?

Deepfakes sind KI-generierte Inhalte, die das Gesicht, die Mimik oder die Stimme einer echten Person überzeugend imitieren. Einige Beispiele finden sich als Videos, Bilder oder Audioclips. Sie werden mit Deep-Learning-Techniken erstellt und verwenden oft ausgetauschte Gesichter, synthetisierte Sprache und modifiziertes Filmmaterial. Deepfakes werden so nahtlos erstellt, dass sie praktisch identisch mit echten Inhalten sind.

Während die zugrunde liegende Technologie ursprünglich für Unterhaltung und akademische Forschung entwickelt wurde, werden Deepfakes und andere KI-Tools zunehmend für schädliche Zwecke missbraucht, wie z. B. KI-gestützter Betrug, Nachahmung, Desinformationskampagnen und sogar Identitätsdiebstahl. Da die Technologie immer fortschrittlicher und zugänglicher wird, stellen Deepfakes ernsthafte Bedrohungen für die persönliche Privatsphäre, das öffentliche Vertrauen und die digitale Sicherheit dar. Sie zu erkennen und sich dagegen zu verteidigen, ist heute ein entscheidender Teil der Online-Sicherheit.

Wie funktionieren Deepfakes?

Deepfakes kombinieren vorhandene Bilder, Videos oder Audiodateien einer Person in einer KI-gestützten Deep-Learning-Software, die es Kriminellen ermöglicht, anhand der gesammelten Informationen gefälschte Bilder, Videos und Audioaufnahmen zu fabrizieren.

Die Software wird mit Bildern, Videos und Sprachclips von Personen „gefüttert“ oder trainiert. Auf diese Weise „lernen“ sie, was eine Person einzigartig macht (ähnlich wie beim Trainieren von Gesichtserkennungssoftware). Die Deepfake-Technologie wendet diese Informationen dann auf andere Clips an (indem sie eine Person durch eine andere ersetzt) oder als Grundlage für völlig neue Clips.

Was wird benötigt, um einen Deepfake zu erstellen?

Die Deepfake-Technologie ist eine Kombination aus zwei Algorithmen – Generatoren und Diskriminatoren. Generatoren nehmen den anfänglichen Datensatz, um neue Bilder zu erstellen (oder zu generieren), die auf den aus dem anfänglichen Satz gesammelten Daten basieren. Dann bewertet der Diskriminator den Inhalt auf Realismus und gibt seine Ergebnisse zur weiteren Verfeinerung an den Generator zurück.

Die Kombination dieser Algorithmen wird als Generative Adversarial Networks (GANs) bezeichnet. Sie lernen voneinander, indem sie Ein- und Ausgaben verfeinern, sodass der Diskriminator den Unterschied zwischen einem authentischen Bild, Soundclip oder Video und einem von einem Generator erstellten nicht erkennen kann.

Um einen Deepfake zu erstellen, benötigt die spezialisierte Software eine große Menge Videos, Audiodaten und Fotos. Die Stichprobengröße dieser Daten ist wichtig, da eine direkte Korrelation zur Qualität des Deepfakes besteht. Wenn die Deepfake-Software nur wenige Bilder oder Clips zur Verfügung hat, kann sie kein überzeugendes Resultat generieren. Ein größeres Repertoire an Bild- und Tonmaterial hilft der Software, ein realistisch wirkendes Deepfake zu erstellen.

Zu Beginn der Deepfake-KI-Technologie brauchte man für die Erstellung realistischer Fotos oder Videos noch teure Software, leistungsstarke Hardware und fortgeschrittene technische Fähigkeiten. Aber diese Hürde ist gefallen. Heute sind Deepfake-Tools weithin zugänglich – einige sogar kostenlos – und lassen sich auf Geräten für Endverbraucher oder über cloudbasierte Plattformen ausführen.

Wer macht Deepfakes?

Filmstudios nutzen die Technologie, um:

• Schauspieler zu verjüngen (Harrison Ford in Indiana Jones und das Rad des Schicksals).
• Filme nach dem Tod von Schauspielern zu vertonen (Anthony Bourdains Voiceover in Roadrunner).
• Tote Schauspieler für Rollen in neuen Filmen wiederzubeleben, indem die Darstellung eines lebenden Schauspielers mit digitalen Nachbildungen des ursprünglichen Schauspielers kombiniert wird (Peter Cushing in Star Wars: Rogue One oder Paul Walker in Fast & Furious 7).

Es gibt auch Videoeffekt-Künstler auf Amateurniveau, die dieselbe Art von Arbeit inoffiziell erbringen.

Andere Unternehmen (z, B. Face-Swapping-Apps) stellen Deepfake-Apps für Einzelpersonen her, indem sie deren Abbild auf berühmte Schauspieler in Szenen aus Filmen und Fernsehen setzen. Die für diese Apps verwendete Technologie ist natürlich weniger ausgefeilt als die von Hollywood, aber immer noch ganz erstaunlich.

Pädagogen arbeiten daran, neue Lehrmaterialien zu erstellen, bei denen historische Persönlichkeiten direkt mit Schülern kommunizieren, um eine direktere Verbindung zwischen Vergangenheit und Gegenwart zu ermöglichen. Andere Gruppen nutzen diese Technologie, um verstorbene Angehörige durch Videobotschaften und Bilder wieder zum Leben zu erwecken.

Aber nicht alle Verwendungen der Deepfake-Technologie sind gutartig oder harmlos. Zunehmend werden Deepfakes von Kriminellen für Zwecke missbraucht, die von unethisch bis zu illegal reichen. Mit der Fähigkeit, öffentliche Persönlichkeiten scheinbar alles sagen oder tun zu lassen, können Deepfakes als Waffe eingesetzt werden, um Fehlinformationen zu verbreiten, Wahlen zu beeinflussen, die öffentliche Meinung zu manipulieren und das Vertrauen in Institutionen zu untergraben.

Wofür werden Deepfakes verwendet?

Die Unterhaltungsindustrie stellt Deepfakes für Filme und Fernsehsendungen her, App-Unternehmen bieten Face-Swapping von Bildern und Videoclips an, Einzelpersonen und Organisationen mit politischen Motiven erstellen sie, um Fake News zu verbreiten, und Kriminelle nutzen die Technologie für Betrug und Erpressung.

Ein aufkommender Trend in der Cyberkriminalität verwendet gefälschte Videos von Prominenten, um für gefälschte Produkte zu werben. Skrupellose Personen stellen gefälschte Pornografie, Rachepornos und Sextortion-Videos her, die die Privatsphäre von Menschen verletzen. Dabei verdienen sie Geld, indem sie das Material verkaufen oder damit drohen, die Videos zu veröffentlichen, wenn kein „Lösegeld“ gezahlt wird.

So erkennen Sie ein Deepfake

Jetzt, da Sie wissen, was Deepfakes sind und wie sie entstehen, sollten Sie auch wissen, woran man sie erkennt.“ Um ein Deepfake zu erkennen, gibt es ein paar einfache Dinge, auf die Sie achten sollten:

• Unnatürliche Augenbewegungen: Augenbewegungen, die nicht natürlich aussehen – oder ein Mangel an Augenbewegungen, wie das Fehlen von Blinzeln – sind Warnsignale. Blinzeln auf natürliche Weise nachzubilden, ist schwierig. Dasselbe gilt für die Augenbewegungen. Das liegt daran, dass die Augen eines Menschen im Allgemeinen dem Gesprächspartner folgen.
• Unnatürliche Gesichtsausdrücke: Wenn etwas an einem Gesicht nicht stimmig wirkt, könnte dies auf Gesichts-Morphing hindeuten. Dies passiert beim einfachen Zusammenfügen eines Bildes über ein anderes.
• Ungeschickte Positionierung der Gesichtsmerkmale: Wenn das Gesicht einer Person in eine Richtung zeigt und die Nase in eine andere, sollte das Zweifel an der Echtheit aufkommen lassen.
• Mangel an Emotionen: Gesichts-Morphing oder Bildzusammenfügungen sind auch daran erkennbar, dass das Gesicht einer Person nicht die Emotion zeigt, die zu dem Gesagten passt.
• Unnatürliche Körperhaltung: Ein weiteres Anzeichen ist, wenn die Körperform einer Person nicht natürlich aussieht oder die Position von Kopf und Körper unbeholfen oder inkonsistent ist. Dies könnte eines der am leichtesten zu erkennenden Merkmale sein, da sich die Deepfake-Technologie meist auf Gesichtsmerkmale und nicht auf den gesamten Körper konzentriert.
• Unbeholfene Bewegungen: Wenn jemand verzerrt oder seltsam aussieht, wenn er sich zur Seite dreht oder den Kopf bewegt, oder seine Bewegungen von einem Bild zum nächsten ruckartig und unzusammenhängend sind, können Sie zu Recht vermuten, dass ein Fake vorliegt.
• Unnatürliche Färbung, Schatten usw.: Abnormale Hauttöne, Verfärbungen, seltsame Beleuchtung und falsch platzierte Schatten sind alles Anzeichen dafür, dass das, was Sie sehen, wahrscheinlich gefälscht ist.
• Unecht aussehendes Haar: In Deepfake-Bildern fehlen oft feine Details wie abstehende oder fliegende Haare – sie lassen sich kaum realistisch erzeugen.
• „Falsche“ Zähne: Algorithmen sind möglicherweise nicht in der Lage, individuelle Zähne zu generieren, daher kann das Fehlen der Umrisse einzelner Zähne ein Hinweis sein.
• Unschärfe oder fehlerhafte Ausrichtung: Unscharfe Ränder und Kanten oder Fehlstellungen –  zum Beispiel dort, wo Gesicht und Hals einer Person auf ihren Körper treffen – sind ebenfalls Hinweise auf Fakes.
• Inkonsistente Audio- und Geräuschkulisse: Deepfake-Ersteller verbringen in der Regel mehr Zeit mit den Videobildern als mit dem Ton. Das Ergebnis kann schlechte Lippensynchronisation, roboterhaft klingende Stimmen, seltsame Aussprache bestimmter Wörter, digitales Hintergrundrauschen oder sogar das Ausbleiben von Ton sein.
• Bilder, die bei Verlangsamung unnatürlich aussehen: Wenn Sie ein Video auf einem größeren Bildschirm als Ihrem Smartphone ansehen oder eine Videobearbeitungssoftware haben, die die Wiedergabe eines Videos verlangsamen kann, können Sie hineinzoomen und eine genauere Inspektion vornehmen. Das Heranzoomen an die Lippen hilft Ihnen beispielsweise zu sehen, ob sie wirklich sprechen oder ob es sich um schlechte Lippensynchronisation handelt.
• Hashtag-Diskrepanzen: Es gibt einen kryptografischen Algorithmus, der Videoerstellern hilft, die Echtheit ihrer Videos nachzuweisen. Der Algorithmus wird verwendet, um Hashtags an bestimmten Stellen im Video einzufügen. Wenn sich die Hashtags ändern, ist das ein Anzeichen, dass das Video manipuliert wurde.
• Digitale Fingerabdrücke: Die Blockchain-Technologie kann auch einen digitalen Fingerabdruck für Videos erstellen. Obwohl nicht narrensicher, kann diese blockchainbasierte Überprüfung helfen, die Echtheit eines Videos festzustellen. Und das funktioniert so. Bei der Erstellung eines Videos wird der Inhalt in einem nicht veränderbaren Verzeichnis registriert. Diese Technologie kann helfen, die Echtheit eines Videos zu beweisen.
• Rückläufige Bildersuche: Eine Suche nach einem Originalbild oder eine rückläufige Bildsuche mithilfe eines Computers kann ähnliche Videos online aufdecken, um festzustellen, ob ein Bild, eine Audiodatei oder ein Video in irgendeiner Weise verändert wurde. Obwohl die Technologie zur rückläufigen Videosuche noch nicht öffentlich verfügbar ist, könnte sich die Investition in ein solches Werkzeug lohnen.
• Das Video wird von vertrauenswürdigen Nachrichtenquellen nicht erwähnt: Wenn das, was die Person im Video sagt oder tut, wirklich so schockierend oder wichtig wäre, würden die seriösen Medien darüber berichten. Finden Sie bei der Suche nach dem Video keine seriösen Berichte, spricht das dafür, dass es sich um ein Deepfake handelt.

Mit dem Fortschritt der Deepfaking-Technologie wird es auch immer schwieriger, Fakes zu erkennen. Das hat jedoch Gruppen von Wissenschaftlern und Programmierern nicht davon abgehalten, neue Mittel zur Identifizierung von Deepfakes zu entwickeln. Die Deepfake Detection Challenge (DFDC) schafft Anreize für Lösungen zur Deepfake-Erkennung, indem sie Innovation durch Zusammenarbeit fördert. Die DFDC teilt einen Datensatz von 124.000 Videos, die acht Algorithmen zur Gesichtsmodifikation enthalten.

Es gibt mehrere KI-basierte Erkennungswerkzeuge, die darauf ausgelegt sind, Deepfakes zu erkennen, darunter:

• Sensity
• Operation Minerva
• Deepfake-O-Meter

Die Social-Media-Plattformen X und Facebook haben die Verwendung von böswilligen Deepfakes verboten, und Google arbeitet an Text-zu-Sprache-Konvertierungswerkzeugen, um Sprecher zu verifizieren. Die U.S. Defense Advanced Research Projects Agency (DARPA) finanziert Forschung zur Entwicklung von automatisierten Screenings der Deepfake-Technologie durch ein Programm namens MediFor oder Media Forensics.

Mit all diesen Ressourcen, die zur Bekämpfung von Deepfakes eingesetzt werden, wird die Bekämpfung von Betrug durch KI-gestützte Betrugserkennungslösungen wie die in Norton 360 Advanced enthaltenen einfacher und schneller. Norton 360 Advanced nutzt modernste KI, um Videomanipulation und betrügerische Absichten zu erkennen und so einen schnellen, zuverlässigen Schutz vor Deepfakes und anderen Online-Betrugstechniken zu bieten.

Wie schützen Sie sich vor Deepfakes?

Sich vor Deepfakes zu schützen ist ähnlich wie sich vor anderen möglichen Bedrohungen im Internet zu schützen. Um zu verhindern, dass andere Ihr Abbild in einem Deepfake verwenden:

• Teilen Sie im Internet nur eine ganz beschränkte Anzahl von Bildern und Videos von sich selbst und Ihren Lieben.
• Machen Sie Ihre Profile in sozialen Netzwerken privat.
• Verwenden Sie ein VPN, wenn Sie das Internet nutzen.
• Verwenden Sie eine virenblockierende Software.
• Lassen Sie Familienmitglieder ein Codewort verwenden, um sich in Notfällen zu identifizieren.
• Führen Sie Ihre Geschäfte persönlich durch, besonders bei finanziellen Transaktionen.

Das Risiko, einem Deepfake aufzusitzen, lässt sich nie ganz ausschließen. Doch wer genau darauf achtet, was er von sich preisgibt, verringert die Gefahr deutlich.

Sorgen Sie dafür, Ihre Identität vor Deepfakes zu schützen

Vorsicht beim Surfen, Einkaufen oder bei sozialen Kontakten im Internet ist der Schlüssel, um Deepfakes und die von ihnen ermöglichten Betrügereien zu vermeiden. Für stärkeren Schutz melden Sie sich für Norton 360 Advanced an. Es verfügt über eine fortschrittliche KI-gestützte Deepfake- und Betrugserkennung, die Sie in Echtzeit vor Bedrohungen warnen kann. Außerdem erhalten Sie Unterstützung bei der Wiederherstellung Ihrer Identität, die Sie durch die zu ergreifenden Schritte führt, für den Fall, dass Sie Opfer eines Identitätsdiebstahls werden sollten.

Häufig gestellte Fragen

Können Deepfakes erkannt werden?

Ja, Deepfakes können erkannt werden, auch wenn es nicht immer einfach ist. Möglicherweise können Sie einen Deepfake mit bloßem Auge erkennen, indem Sie auf seltsame Gesichtsausdrücke, unrealistische Schatten oder merkwürdige Probleme bei der Audio-Video-Synchronisation achten. Und KI-gestützte Erkennungswerkzeuge können helfen, verräterische Inkonsistenzen, Deepfake-„Fingerabdrücke“ und andere Anzeichen von Manipulation zu identifizieren.

Ist ein Deepfake Identitätsdiebstahl?

Ein Deepfake ist nicht unbedingt Identitätsdiebstahl. Er kann aber Teil eines Phishing-Angriffs oder von Identitätsmissbrauch sein und Menschen dazu verleiten, persönliche Informationen preiszugeben — was schließlich Identitätsdiebstahl zur Folge haben kann.

Sind Deepfakes wirklich eine Sicherheitsbedrohung?

Potenziell ja. Da die Deepfake-Technologie immer ausgefeilter und leichter zugänglich wird, kann sie verwendet werden, um Fehlinformationen zu verbreiten, Prominente nachzuahmen, Wahlen zu beeinflussen oder Sachverhalte vorzutäuschen, was sie zu einem wachsenden Sicherheitsanliegen macht.

Wer ist von Deepfakes betroffen?

Im Prinzip ist niemand vor Deepfakes sicher. Sie stoßen unvermutet auf ein gefälschtes Video und glauben, es sei echt, oder schlimmer noch, jemand könnte ein Deepfake von Ihnen erstellen und es ohne Ihre Zustimmung im Internet teilen. Ob Prominente oder Privatpersonen, Deepfakes stellen ein Risiko für den Ruf, die Privatsphäre und das Vertrauen dar.