Darum geht’s:
- Der SPD-Bundestagsabgeordnete Bengt Bergt teilte ein mithilfe von künstlicher Intelligenz manipuliertes Video von Friedrich Merz auf Instagram. Dafür erntete er viel Kritik, auch aus der eigenen Partei.
- Deepfakes verbreiten sich besonders dann, wenn politische Eliten sie teilen.
- Dass ein Wahlkampfvideo authentisch ist und von einem Politiker selbst stammt, erkennt man unter anderem daran, dass er oder seine Partei es über offizielle Kanäle veröffentlichen.
Der SPD-Bundestagsabgeordnete Bengt Bergt teilte Anfang der Woche ein Deepfake von CDU-Kanzlerkandidat Friedrich Merz – der erste solche Fall im noch jungen Bundestagswahlkampf. Bergt löschte das Video nach einigen Stunden wieder aus seiner Instagram-Story.
Deepfakes von Friedrich Merz
Merz wirkt in dem Fake-Video auf den ersten Blick täuschend echt, auch seine Stimme ist eindeutig zu erkennen, im Hintergrund läuft die Nationalhymne. Doch was er sagt, lässt schnell vermuten: Irgendetwas stimmt hier nicht. Würde Merz tatsächlich an die Zuschauenden gerichtet sagen: "Die CDU/CSU verachtet Sie"? Nein, diese Worte hat ihm der Ersteller des KI-Videos in den Mund gelegt. Auch das Banner "Achtung: Künstliche Inkompetenz" auf dem Video deutet darauf hin, dass es sich hierbei um Satire handelt.
Screenshot eines Deepfakes von Friedrich Merz, das zum Gegenstand in einer Bundestagsdebatte wurde.
Originalvideo von Merz diente als Vorlage für den Fake
Auf den zweiten Blick fällt außerdem auf: Merz’ Mundbewegungen passen teilweise nicht mit dem Gesagten zusammen, auch seine Mimik wirkt unnatürlich. Gibt man einen Screenshot des Fake-Videos in eine Bilder-Rückwärtssuche ein, findet man ein Originalvideo von Merz, das er auf seinem X-Kanal gepostet hatte. Am Hintergrund – ein Fenster mit halb heruntergelassenen Markisen – lässt sich eindeutig erkennen: Dieses Video diente als Ausgangsmaterial für das kursierende Deepfake.
Philipp Lorenz-Spreen ist Computational Social Scientist am Max-Planck-Institut für Bildungsforschung in Berlin und an der Technischen Universität Dresden. Er sagt: "Deepfakes werden immer besser. Bestimmte Hinweise, die dabei helfen, so etwas zu erkennen, werden sehr schnell wieder überholt."
Auch Kontextinformationen können daher dabei helfen, Deepfakes zu erkennen, so Lorenz-Spreen. Das sagt auch Andreas Jungherr. Er erforscht die Auswirkungen der Digitalisierung auf Politik und Gesellschaft an der Uni Bamberg. Jungherr sagt: "Woran man sehr klar erkennt, dass es kein offizielles CDU-Video ist, ist, dass es nicht auf CDU-Kanälen veröffentlicht wurde." Jungherr empfiehlt, auch im weiteren Verlauf des Bundestagswahlkampfs auf die Quellen von Inhalten zu achten: "Kommt das von offiziellen Accounts? Wird das in offiziellen Parteinetzwerken geteilt?"
Der Merz-Fake – eine Ausnahme?
Nachdem der SPD-Abgeordnete Bergt das Deepfake geteilt hatte, empörten sich schnell Nutzer auf der Plattform "X". Die Diskussion darum schaffte es sogar bis in die Bundestagssitzung vom 13. November – und zwar durch Friedrich Merz selbst. Er sagte in seiner Rede in Richtung der SPD: "Das gibt einen Vorgeschmack auf die Art und Weise des Wahlkampfes, den sie hier in Deutschland offensichtlich bereit sind zu führen." SPD-Fraktionsführer Rolf Mützenich versprach daraufhin in seiner Rede, er werde dafür sorgen, dass der Abgeordnete sich bei Merz entschuldige.
War es tatsächlich nur ein Vorgeschmack, wie Merz mutmaßt? Werden nun mehr Politiker im Bundestagswahlkampf Deepfakes teilen?
Andreas Jungherr denkt zwar, dass wir in den nächsten Monaten auch in Deutschland noch weitere Deepfakes sehen werden. Allerdings sagt er: "Ich erwarte, dass diese Inhalte eher aus dem Unterstützerumfeld von Parteien kommen".
Verhalten der politischen Elite ist entscheidend
Unter bestimmten Umständen sieht Jungherr darin keine große Gefahr: "Wenn die Öffentlichkeit damit humoristisch spielt und es klar ist, was die Quelle ist, dann ist das ein Element in einem modernen Wahlkampf."
Ziel solcher Beiträge sei nicht, andere zu überzeugen, so Jungherr, sondern: "Damit signalisiere ich meine Abgrenzung zu ihm und meine eigene Gruppenzugehörigkeit." Auch den Merz-Fake hat ursprünglich nicht der SPD-Abgeordnete veröffentlicht, sondern ein Account, der eindeutig als humoristischer Account zu erkennen ist.
Philipp Lorenz-Spreen sagt: "Das hat etwas von einer Karikatur. Es verfestigt Gedanken und Eindrücke, die man von bestimmten Leuten hat." Mitunter werde mit Deepfakes aber noch ein weiteres Ziel verfolgt: "Es werden die Grenzen verwischt zwischen dem, was Menschen gesagt haben und dem, was Menschen nicht gesagt haben", so Lorenz-Spreen.
Eine Partei hat in der Vergangenheit bereits Deepfakes von politischen Gegnern verbreitet: die AfD. Ende 2023 beispielsweise veröffentlichte die Partei auf ihrer Website in einem Advents-"Ampelkalender" jeden Tag einen Audio-Fake eines anderen Politikers.
Jungherr sagt: "Wenn gewählte Politiker sowas aufgreifen, legitimieren sie diese Art von Wahlkampf und diese Art von Unterstellungen. Das ist eine Gefahr für das politische System."
Kein rechtlicher Rahmen für Deepfakes im politischen Raum
Im Bundestagswahlkampf hat laut Jungherr nun die politische Elite in Deutschland einen großen Einfluss auf die (Nicht-)Verbreitung von Deepfakes: "Wir sehen in den USA, dass Fälschungen und Desinformation die größte Reichweite erreichen, wenn politische Eliten sie aufgreifen, legitimieren und weiterverbreiten." Im Präsidentschaftswahlkampf in den USA hatte zum Beispiel der designierte Präsident Donald Trump selbst ein Fake-Bild verbreitet, das die Kandidatin der Demokraten, Kamala Harris, als kommunistische Diktatorin darstellte.
Rechtlich gesehen gibt es bisher noch keine speziellen Regeln für Deepfakes im politischen Raum, sagt Lennart Laude, Rechtsanwalt und Autor des "Verfassungsblog". Das müsste sich seiner Ansicht nach aber ändern. Im Moment gebe es nur allgemeine Regeln, die unterschiedslos für Deepfakes unabhängig von ihrem etwaigen politischen Kontext gelten. Danach müssten Deepfakes eindeutig als solche gekennzeichnet werden. Ob der Merz-Fake mit dem Banner "künstliche Inkompetenz" ausreichend gekennzeichnet ist, sei ein Grenzfall. "Es ist rechtlich ein ganz neuer Bereich. Es gibt keine Urteile dazu", so Laude.
Bengt Bergt entschuldigte sich inzwischen in einem Brief an Merz für das Teilen des Videos, wie die dpa berichtet. In dem Brief schreibt Bergt: "Ich kann verstehen, dass Satire – geteilt von einem Politiker – als politische Aussage gewertet werden kann", und weiter: "Außerdem räume ich ein, dass der Inhalt des Videos sehr überspitzt, teilweise hart, zum Teil vielleicht auch zu hart formuliert war – und dass der Inhalt als ehrenrührig empfunden wird." Er würde das Video nicht nochmal teilen, so Bergt.
Fazit
Ein SPD-Abgeordneter teilte ein Deepfake-Video von Friedrich Merz und erhielt dafür im Netz und im Bundestag Kritik. Deepfakes verbreiten sich Experte Andreas Jungherr zufolge besonders dann, wenn politische Eliten sie teilen. Inzwischen löschte Bergt das Video und entschuldigte sich bei Merz.
Deepfakes können Experten zufolge zwei Funktionen erfüllen: Erstens können sie eine neue Form der Satire sein, die Menschen in ihren politischen Positionen bestätigt. Zweitens können sie gezielt eingesetzt werden, um die Grenze zwischen Gesagtem und nicht Gesagtem zu verwischen.
Wenn ein Wahlkampfvideo eines Politikers von offiziellen Kanälen eines Politikers oder seiner Partei geteilt wird, ist das ein eindeutiger Hinweis darauf, dass dieses Video den Politiker selbst zeigt und nicht gefälscht ist.
Quellen
Interview mit Prof. Dr. Andreas Jungherr, Politikwissenschaftler an der Universität Bamberg
Interview mit Dr. Lennart Laude, Rechtsanwalt bei Noerr und Autor des "Verfassungsblog"
Interview mit Dr. Philipp Lorenz-Spreen, Computational Social Scientist am Max-Planck-Institut für Bildungsforschung in Berlin und an der Technischen Universität Dresden
BR24live: Ampel-Aus – Regierungserklärung von Kanzler Scholz
Süddeutsche Zeitung: Bengt Bergt entschuldigt sich
The Guardian: Trump posts deepfakes of Switf, Harris and Musk in effort to shore up support
Verfassungsblog: KI als neues Wahlkampfinstrument
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!