Deepfakes: Die nächste Evolutionsstufe in politischer Manipulation.

Die wunderbare Welt des digitalen Wandels bedeutet einen kontinuierlichen Wandel für uns. Das gilt für Unternehmen und politische Institutionen. Und das gilt vor allem für alle die, die politische Desinformation verstehen wollen. Die vielen kleinen und großen Innovationen unserer Tage haben zunehmenden Einfluss auf unsere Möglichkeiten real von nicht real zu unterscheiden. Dabei scheint gerade mit einer neuen Technologie, die unter dem Namen Deepfakes gerade Furore macht, ein wirklich neues Kapitel begonnen zu sein.

Deepfakes sind eine verhältnismäßig junge Technologie, die privat getrieben ist und mit Deep-Learning-Algorithmen arbeiten. Im Kern produzieren Deepfakes einen Effekt, der mit den bekannten Faceswap-Fotos aus Snapchat vergleichbar ist – nur eben im Video, wie diese verhältnismäßig einfache Compilation aus Deepfakes mit Nicolas Cage, The Rock und Donald Trump gut zeigt.

Auch wenn es Varianten des Faceswapping schon eine Weile gibt, sind deepfakes für jedermann immer noch ein relativ neues Phänomen. Im Kern dreht es sich dabei um einen Algorithmus, der aus einer Vielzahl von Fotos einer Person (zum Beispiel durch Google Images) lernt, wie sich ein Gesicht in einem Video verhalten würde. Mappt man nun den künstlichen Nicolas Cage auf ein beliebiges anderes Video, wirkt es als ob Nicolas Cage in einem Film mitgespielt hat, in dem er nie aufgetreten ist.

Dieses Prinzip war auch die Methode der sog. FakeApp, die Ende Januar 2018 auf Reddit die Runde machte. Ein Algorithmus berechnet bei dieser App mithilfe eines künstliches neuronalen Netzes und der Leistung des Grafikprozessors sowie mit drei bis vier Gigabyte Festplattenspeicher ein zu erzeugendes Fake-Video. Damit kann praktisch jeder Kopf, für den genug Bildmaterial vorliegt, sehr überzeugend digital transplantiert werden. Wohlgemerkt: Noch ist das Ergebnis nicht ganz perfekt. Das dürfte aber nicht mehr lange ein Problem darstellen.

Eine besonders unangenehme Variante organisierter Desinformation zeigte sich schnell. Reddit User DeepFakes stellte nämlich künstlich erstellte Porno-Filme mit Emma Watson, Katy Perry, Taylor Swift oder Scarlett Johansson in der Hauptrolle ins Netz. Natürlich hatte keine der Schauspielerinnen je in einem dieser Filme mitgespielt. Anfang Februar 2018 löschte Reddit – sehr untypisch für Reddit – das Forum Deepfakes, weil User dort begonnen hatten, künstlich produzierte, AI-montierte Pornofilme zu tauschen. Pornhub und Twitter folgten umgehend und verbannten offiziell Videos, bei denen bekannte Stars auf Erotik-Darsteller/innen montiert werden, von ihren Plattformen.

Was aber, wenn es nicht um Pornos geht, bei denen relativ offensichtlich ist, dass hier zwei Menschen zusammenmontiert wurden, die nicht in den selben Film gehören?

Dass das harmlose Faceswap-Prinzip in seiner gruseligen deepfake-Variante für politische Desinformation wie gemacht ist, scheint offensichtlich. Dass deepfake-Apps fast perfekte Videomanipulation für jedermann einfach möglich macht, wird die Wahrscheinlichkeit des Missbrauchs noch wahrscheinlicher machen. Es dürfte nicht mehr lange dauern, bis wir das erste deepfake-Video viral gehen sehen, bei denen EU-Politiker in Hinterzimmergesprächen die “Umvolkung” der EU besprechen oder Angela Merkel das Ende des deutschen Volkes beschließt. Desinformation wird damit als Tool noch mächtiger. Gekoppelt mit der Echtzeit-Dynamik sozialer Netzwerke werden Lügen noch undurchschaubarer für den Einzelnen.

Fearless Democracy ist ein gemeinnütziger Verein, der sich gegen digitalen Hass und Desinformationskampagnen einsetzt. Wir kommen aus der Kommunikations- und Digitalbranche und versuchen dort Wissen zu schaffen, wo die Zivilgesellschaft inhaltlich hinterherhinkt. Wenn Sie uns dabei unterstützen wollen, wäre das fantastisch. Übrigens:
Wir sind steuerbegünstigt.

Photo by Frank Okay on Unsplash

Leave Comment

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.