Deepfakes – Wie Foto-, Video- und Audioinhalte manipuliert werden! (2024)

JugendlicheInformationskompetenz

15.09.2021

Geht es um Fake News und Desinformation, taucht immer wieder der Begriff Deepfakes auf. Aber was ist das eigentlich und wie kann man Deepfakes entlarven?

Deepfakes sind Fotos, Videos oder Audio-Dateien, die mit Hilfe von Künstlicher Intelligenz absichtlich verändert werden. Der Begriff setzt sich aus „Deep Learning“ (eine Methode, durch die eine Künstliche Intelligenz lernt) und „Fake“ zusammen. In diesen Videos, Bildern oder Sprachdateien sieht oder hört man Personen, die Sachen tun oder sagen, die sie tatsächlich gar nie getan oder gesagt haben.

Die Manipulation von Medieninhalten ist kein neues Phänomen und wurde bereits sehr früh eingesetzt, vor allem in Zusammenhang mit politischer Propaganda. Im Unterschied zu früher wird heute jedoch auf künstliche Intelligenz und die Rechenleistung von Computern gesetzt.

Eines der ersten Videos, das viel Aufmerksamkeit erregt hat, war ein Deepfake des ehemaligen US-Präsidenten Barack Obama. In diesem Video zeigt das Online-Medium BuzzFeed, wie Deepfakes funktionieren und wieso sie gefährlich sein können:

Mittlerweile hat sich viel rund um Deepfakes getan: So wird es immer einfacher, selbst Deepfakes zu erstellen. Durch verschiedenste Apps oder durch integrierte Filter in Sozialen Netzwerken kann man sein Gesicht in bekannte Filmszenen einsetzen lassen, sich selbst oder andere altern lassen oder das Geschlecht wechseln. Das alles geht mit nur wenigen Klicks.

Doch nicht nur datenschutzrechtlich können Deepfakes problematisch sein: Manipulierte Videos werden auch gerne für Fake News eingesetzt. Denn Falschinformationen lassen sich ohne Bilder oder Videos als Beweis nur halb so gut verbreiten, da visuellen Medien mehr Glauben geschenkt wird. ExpertInnen sorgen sich davor, dass Deepfakes die öffentliche Meinung in Zukunft stark beeinflussen könnten.

Deepfakes zielen immer wieder auf PolitikerInnen ab: So wurde in einem Video das Gesicht der deutschen Bundeskanzlerin Angela Merkel mit dem Gesicht des damaligen US-Präsidenten Donald Trump getauscht. In den meisten Fällen – so wie auch hier – sind solche Deepfakes harmlos. Doch Deepfakes können missbraucht werden, um gezielt Stimmung gegen politische Entscheidungen, gegen Bevölkerungsgruppen oder gegen einzelne Persönlichkeiten zu machen.

Nicht zu vernachlässigen ist außerdem der Missbrauch von Deepfakes im p*rnografischen Bereich. Die Sensity-Studie „The State of Deepfakes“ aus dem Jahr 2020 zeigt, dass es sich bei 93 Prozent aller Deepfake Videos, die online zu finden sind, um p*rnografische Inhalte handelt.

Medial besonders bekannt wurde der „DeepNude Bot“ für den Messenger-Dienst Telegram. NutzerInnen müssen diesem Chatbot nur ein einziges Foto eines Opfers schicken und erhalten prompt das Foto mit der „ausgezogenen“ Person zurück. Betroffen von p*rnographischen Deepfakes sind fast zu 100 Prozent Frauen, wie die Sensity-Studie zeigt.

Derzeit sind viele Deepfake-Videos noch mit dem bloßen Auge erkennbar. Es gibt dabei typische Merkmale, an denen Sie Deepfakes erkennen können:

• Unnatürliches Gesicht: Eine unnatürliche Mimik oder ein leerer Blick können ein Hinweis darauf sein, dass es sich um ein Fake handelt. Auch unlogische Schatten im Gesicht oder komisch aussehende Haare können entlarvend sein.
• Unscharfe Übergänge: Achten Sie auf Übergänge wie jenem zwischen Gesicht und Haaren oder Gesicht und Hals. Diese Übergänge sind bei Deepfakes oftmals unscharf.
• Fehlendes Blinzeln: Menschen blinzeln ganz automatisch, ohne sich dessen bewusst zu sein und zwar alle paar Sekunden. Blinzeln Personen in einem Video nicht, ist das ein Alarmsignal!
• Unterschiedliche Qualität: Hat das Gesicht eine andere Qualität als das restliche Video oder Bild, handelt es sich wohl um ein Deepfake.
• Unlogischer Hintergrund: Sehen Sie sich den Hintergrund sowie den Übergang von Gesicht zum Hintergrund an, oftmals zeigen sich erst beim genaureen Anschauen Fehler!
• Tools verwenden: Außerdem arbeiten unterschiedliche Unternehmen sowie Universitäten bereits an Tools, um Deepfakes zu erkennen. So gibt es zum Beispiel den Deepware Scanner, den DeepFake-o-meter oder die Deepfake Detection von DuckDuckGoose.

Doch Deepfakes werden immer besser und so wird es gleichzeitig schwieriger diese zu erkennen. Wie bei anderen Informationen aus dem Internet auch, sollten Sie den Kontext überprüfen:

• Unseriöse Quelle: Wo sind Sie auf das Video oder auf das Bild gestoßen? Ist die Quelle vertrauenswürdig oder eher dubios?
• Umgekehrte Suche: Auf TinEye.com oder berify.com können Sie Videos sowie Bilder hochladen, um im Internet danach zu suchen und so ihre Echtheit zu überprüfen.
• Skeptisch sein: Wenn die Aussagen oder das Verhalten der gezeigten Person sehr ungewöhnlich für die Person sind, können Sie ruhig skeptisch sein!

Zurück