Angesprochen auf die "schrecklichen Ereignisse im Nahen Osten" sagt Ricarda Lang: "Die Menschen im Nahen Osten sind - meiner Meinung nach – auf dem politischen Holzweg, und wir müssen das verhindern mit starker grüner Politik". Das Setting, in dem die Bundesvorsitzende von Bündnis 90/Die Grünen interviewt wird, ist das der ARD Tagesschau, es gehört zur Interview-Serie "Frag selbst": So scheint es zumindest auf den ersten Blick.
Unter dem Deckmantel der Satire
Rechts unten im Video steht "Satire" und ein Hinweis auf "Snicklink" das Portal, das dieses Video hochgeladen hat: Das Interview ist ein Fake, es gilt als ein sogenanntes Shallow Fake. Es handelt sich um die Manipulation eines Interviews mit Ricarda Lang, das Tagesschau am 30. Juli 2023 hochgeladen hat – also gut zwei Monate vor dem Hamas-Terrorangriff auf Israel vom 7. Oktober. In dem echten ARD-Interview ging es um den Umgang mit Hasspostings – und natürlich noch nicht um den Nahost-Konflikt.
Das gefakte Interview führt unter dem Label "Satire" die vermeintlich bodenlose Dummheit der Politikerin vor, einer Politikerin, die den Osten unserer Republik verwechselt mit dem Nahen Osten, die zwar keine Ahnung von dem zwischen Israel und der Hamas tobenden Krieg hat, aber dafür ein irres Selbstbewusstsein, was "starke grüne Politik" alles richten kann.
Shallow oder Deepfake? Eine Frage der Tools
Manipulierte Videos, Fotos und Audios dieser Art fluten gerade die sozialen Medien, besonders Grünenpolitiker, Umweltschützer oder Frauenrechtlerinnen sind beliebte Ziele des Spotts. Dabei ist es gar nicht immer gleich zu erkennen, ob man es mit Shallow Fakes oder mit Deepfakes zu tun hat, unter dem Label "Satire" firmieren beide gern.
Shallow Fakes, oder wie sie auch genannt werden, Cheap Fakes sind in der Regel mit einfachen - eben "billigen" - Mitteln hergestellt: manipulierte Tonspuren, Fotos oder Videos, die mit leicht zugänglichen Tools und daher auch potenziell massenhaft hergestellt werden können. Deepfakes brauchen im Unterschied dazu viel technologisches Knowhow und Equipment: Die Technologie der Deepfakes basiert auf Künstlicher Intelligenz und Machine Learning.
Video: Selbstversuch: Wie macht man ein Deepfake-Video?
Rekontextualisierung vorhandener Elemente?
Der Unterschied der beiden Medienarten ergibt sich aus der "Komplexität der Herstellung", wie Lea Frühwirth von CeMAS (Center für Monitoring, Analyse und Strategie) sagt. Wie aufwändig allerdings ein Fake hergestellt wurde, das bereits in den Sozialen Medien kursiert, ist nicht ohne weiteres ersichtlich. Es muss "von Fall zu Fall geprüft werden", was die Sache für JournalistInnen und ExpertInnen sehr aufwändig mache, so Frühwirth. Manchmal werde auch ein Fake zunächst als Deepfake eingeschätzt und stellt sich dann doch eher als Shallow Fake heraus. Etwa bei dem Klitschko-Anruf bei Franziska Giffey habe die nähere Prüfung ergeben, dass es doch eher "oberflächlich gemacht worden" sei, nicht mit der Nutzung von KI, so Frühwirth. Es hätten sich dann in der Tat russische Comedians dazu bekannt.
Beim Shallow-Fake wird die Aussage einer Tonspur, eines Fotos oder Videos etwa dadurch manipuliert, dass sie aus ihrem ursprünglichen Kontext herausgerissen und in einen anderen Kontext hineingestellt werden, was mit herkömmlichen Bild- und Videobearbeitungstools verhältnismäßig leicht machbar ist. Im Fall des gefakten Nahost-Interviews mit Ricarda Lang wäre also zu prüfen, ob sich das Video allein einer solchen Rekontextualisierung aus herausgerissenen früheren Interview-Partien verdankt, oder ob ihre Stimme mit KI gefakt wurde.
Bloße Satire? Vorsicht!
Obwohl das Label Satire signalisieren soll, dass man das Gezeigte nicht so ernst nehmen soll, dass es ein Witz ist, ist bei Shallow Fakes genauso Vorsicht geboten wie bei Deepfakes. "Grundsätzlich handelt es sich bei beiden um Medienformate. Ich kann sowohl ein Shallow, oder auch ein Deepfake nutzen, um alles Mögliche zu vermitteln: Ich kann das zur Unterhaltung machen, ich kann das zur Satire machen, ich kann das zur politischen Kommunikation nutzen, für Manipulation oder auch für Gewaltaufrufe", so Lea Frühwirth. Im Endeffekt komme es darauf an, was die Message ist, die da vermittelt wird.
Dass problematische oder unbequeme Inhalte mit dem Label der Satire gekoppelt werden, ist - so Frühwirth - schon lange Usus, nicht erst in Kombination mit Deep- oder Shallow Fakes. Wird etwas Problematisches (z. B. Gewaltverherrlichung) Satire genannt, stelle man "so eine Art Schutzbehauptung damit auf". Das Label Satire solle dann vermitteln: "Haha, ist ja nur Spaß, bitte nicht ernst nehmen, bitte nicht löschen, sperren oder mich sogar anzeigen". Damit werde das gefakte Medium aber nicht weniger schädlich. Wenn zum Beispiel eine rechtsextreme Gruppierung ein Video verbreite, in dem zu Gewalt gegen jemanden aufgerufen wird, bediene es – auch wenn Satire darüber steht – ihre eigene Anhängerschaft. "Und die weiß, dass das Label in dem Fall gar nichts bedeutet, sondern dass das durchaus ernst gemeint ist und die Appelle darin auch ernst gemeint sind. Und so entsteht für die bedrohte Person oder Gruppe genauso ein Schaden."
Dasselbe gilt wohl auch für all den Spott und die Häme, die unter dem Deckmäntelchen Satire als Deep- oder Shallow Fakes im Netz gegen Politiker kursieren. Wer den Spott hat, braucht für den Schaden nicht zu sorgen. Es könnte eher das Durchschauen solcher manipulativen Machenschaften als Humorlosigkeit sein, was Annalena Baerbock dazu veranlasste, gegen Satire-Portale vorzugehen.
Beitrag zum Hören: Der KI-Podcast
KI überall?
Verpassen war gestern, der BR Kultur-Newsletter ist heute: Einmal die Woche mit Kultur-Sendungen und -Podcasts, aktuellen Debatten und großen Kulturdokumentationen. Hier geht's zur Anmeldung!
Das ist die Europäische Perspektive bei BR24.