- Prorussische Kampagnen streuen vor der Bundestagswahl massenhaft KI-generierte Propaganda und Desinformation auf sozialen Netzwerken wie X.
- Oft sind die genauen Urheber unbekannt. Das erschwert es, illegale Inhalte zu entfernen.
- Expertinnen zufolge ist das Ziel der Kampagnen, die deutsche Bevölkerung zu verunsichern und ihre Unterstützung für die Ukraine zu untergraben.
Es wäre ein Korruptionsskandal, der Wahlentscheidungen beeinflussen könnte. Aber er ist frei erfunden: Robert Habeck und Claudia Roth von den Grünen sollen dabei geholfen haben, Gemälde zu entwenden, damit die ukrainische Regierung damit Geld verdienen kann. Veröffentlicht wurde die Falschbehauptung auf einer Fake-Nachrichtenseite. Dazu gibt es ein Video, das einen angeblichen Mitarbeiter einer Berliner Gemäldegalerie zeigen soll. Er erzählt, dass der Galerie mehr als 50 Werke von Künstlern wie Botticelli und Rubens fehlen würden. Klar ist jedoch: Der Mann aus dem Video arbeitet nicht für die Berliner Gemäldegalerie. Das antwortet die Stiftung Preußischer Kulturbesitz auf eine #Faktenfuchs-Anfrage.
Und auch sonst ist an der Geschichte laut Stiftung nichts dran. Ob der Mann aus dem Video überhaupt existiert, ist unklar. Es gibt mehrere Indizien, dass der Video-Ausschnitt, in dem der Fake-Mitarbeiter interviewt wird, mittels Künstlicher Intelligenz generiert oder manipuliert wurde. Darauf deuten die unnatürlich wirkende Mimik und unnatürliche Bewegungen im Bereich der Augenlider und der Mund-Zahn-Partie hin. Anatol Maier, CEO des bayerischen Start-ups Neuraforge, das sich auf die forensische Verifizierung von Deepfakes spezialisiert hat, schreibt auf #Faktenfuchs-Anfrage, bei dem Video handele es sich "mit an Sicherheit grenzender Wahrscheinlichkeit um einen Deepfake."
Ein Artikel behauptete, Robert Habeck (Grüne) habe dabei geholfen, Gemälde aus einer Galerie zu entwenden. Das ist prorussische Desinformation.
Eine gemeinsame Recherche von BR24 #Faktenfuchs und Deutsche Welle Faktencheck zu prorussischer Desinformation vor der Bundestagswahl zeigt: Dieses Beispiel ist Teil eines größeren, koordinierten Versuchs, die deutsche Bundestagswahl mit Propagandakampagnen zu beeinflussen.
Fast alle deutschen Wähler befürchten ausländische Beeinflussung
Die Webseite mit der Falschbehauptung über Habeck und Roth gehört mutmaßlich zu einer russischen Kampagne mit dem Namen "Storm-1516". Sie lief bereits vor der Präsidentschaftswahl in den USA. Das Portal "Newsguard", das Recherchenetzwerk "Correctiv" und das Rechercheprojekt "gnida" hatten im Januar aufgedeckt, dass "Storm-1516" nun wohl auch Deutschland ins Visier nimmt.
Viele deutsche Wähler sind sich dieser Gefahr bereits bewusst: 88 Prozent von ihnen glauben, dass ausländische Akteure versuchen, die deutsche Bundestagswahl per Social Media zu beeinflussen. Das ergab eine repräsentative Befragung von Bitkom, dem Branchenverband der Informations- und Telekommunikationsbranche in Deutschland.
Kampagne Storm-1516: Trojanische Pferde für Desinformation
Leonie Pfaller von Newsguard war daran beteiligt, Storm-1516 in Deutschland aufzudecken. Sie und ihr Rechercheteam haben mehr als einhundert Websites identifiziert, die sie dem Netzwerk zuordnen. Die Seiten sind auf drei unterschiedlichen Hosting-Anbietern untergebracht, also Dienstleistern für die Server-Infrastruktur von Webseiten, und tragen Namen wie "tagesnews-24", "de-nachrichtenseite" oder "top-news-munchen". Pfaller sagt im Interview mit dem #Faktenfuchs, die Inhalte der Seiten seien zum Großteil mithilfe Künstlicher Intelligenz generiert worden.
Grundlage der KI-generierten Texte seien häufig Beiträge deutscher "Alternativmedien" – beispielsweise die "Nachdenkseiten" oder "Philosophia Perennis", sagte Pfaller. Das konnte sie unter anderem dadurch herausfinden, "dass teilweise auch die Klarnamen von Autoren beziehungsweise von Nachrichten-Webseiten in den Text eingeflossen sind". Diese Texte bildeten häufig die "Hintergrundmusik" für gezielt platzierte Falschinformationen, so Pfaller. Die Fake-Nachrichtenseiten von Storm-1516 bezeichnet sie als "trojanische Pferde" für Falschinformationen.
Verbreitungspotenzial von Storm-1516 ist groß
Viele der Domains, die Pfaller und das restliche Rechercheteam aufdeckten, seien nicht aktiv. Pfaller sagt dennoch: "Wir schätzen das Verbreitungspotenzial als groß ein." Denn inaktive Domains könnten jederzeit aktiviert werden. Dazu komme, dass prorussische Influencer die Nachrichten von den aktiven Webseiten häufig auf Sozialen Netzwerken wie X oder Telegram weiterverbreiten.
Beweise dafür, dass die Kampagne von russischen staatlichen Institutionen koordiniert wird, haben Pfaller und ihr Team nicht. Allerdings gibt es einige Indizien, die in Richtung Russland deuten – neben den Inhalten, die häufig prorussisch, anti-ukrainisch und anti-westlich sind. Die Webseiten ähneln auch stark den gefälschten Nachrichtenseiten, die vor der US-Wahl im vergangenen Jahr Desinformation in den USA verbreiteten. Unter Berufung auf Geheimdienstdokumente berichtete die Washington Post, dass hinter der US-amerikanischen Storm-1516-Kampagne ein Mann namens John Mark Dougan steckte. Dougan werde dafür vom russischen Militärgeheimdienst GRU bezahlt.
Kampagne Doppelgänger: Weiterhin aktiv auf X
Es gibt noch eine zweite russische Kampagne. Die sogenannte "Doppelgänger-Kampagne", die bereits 2022 erstmals aufgedeckt wurde, ist weiterhin vor der Bundestagswahl aktiv. Das russische Unternehmen "Social Design Agency" fälscht dafür Websites etablierter deutscher Medien. Auf diesen gefälschten "Doppelgänger-Seiten" wird prorussische Propaganda und Desinformation platziert. Hunderttausende Bots verbreiten die Inhalte wiederum auf Sozialen Netzwerken – zum Beispiel auf X (früher Twitter).
Die Psychologin Lea Frühwirth beobachtet die Doppelgänger-Kampagne für das Center für Monitoring, Analyse und Strategie (CeMAS). Auch in den Monaten Dezember und Januar wurden Posts nach dem "Doppelgänger"-Muster auf X abgesetzt.
Um solche Posts zu finden, sucht Frühwirth mit Tools nach einem bestimmten Muster: X-Beiträge, die über 300-mal geteilt, aber nur unter 100-mal gelikt wurden, von anderen Accounts, die wiederum weniger als 100 Follower haben. "Es ist wie ein Container. Der Container ist gleich und das, was reingefüllt wird, variiert", sagt sie. Diese Posts enthalten Bildmaterial, Links auf existierende deutsche Medien oder Links auf die "Doppelgänger"-Webseiten.
Von Mitte Dezember bis Mitte Januar fand Frühwirth so mehr als 600 solcher Posts. Die Themen waren ähnlich wie in den vergangenen Jahren: Negative Aussagen über die Grünen, Olaf Scholz oder die CDU, lobende Beiträge über die AfD. Sorgenvolle Beiträge zu Energie, Wirtschaft oder der Ukraine. Die Hauptthemen der Doppelgänger-Kampagne seien, so Frühwirth: Stimmungsmache gegen die Ukraine-Unterstützung und die ehemalige Ampel-Bundesregierung.
Kampagnen machen Stimmung gegen Merz
Bei diesen Themen könne sie nicht sagen, ob die Kampagne direkt Bezug auf die Bundestagswahl nehme, sagt Frühwirth. Nun kam aber seit Ende Dezember noch ein neues Thema dazu: Die "Doppelgänger"-Posts scheinen sich auf Friedrich Merz (CDU) zu fokussieren. Frühwirth fand im Zeitraum Ende Dezember bis Anfang Februar 119 Beiträge nach dem beschriebenen Muster, die sich mit dem Unions-Kandidaten beschäftigten.
"Jetzt, wo es Richtung Friedrich Merz geht, habe ich das Gefühl, das wird das erste Mal deutlich greifbarer", sagt Frühwirth. Die Beiträge versuchen, Merz mit verschiedenen Argumentationen anzugreifen: Er sei wegen seiner Blackrock-Vergangenheit wirtschaftsnah, gefährde die soziale Sicherheit oder sein politischer Stil sei schlecht.
Die "Doppelgänger"-Kampagne postet vor der Bundestagswahl massenweise KI-generierte Inhalte, der Friedrich Merz (CDU) diskreditieren sollen.
Auch die Storm-1516-Kampagne hat es vor der Bundestagswahl auf Friedrich Merz abgesehen. Ein Fake-Artikel auf einer Website der Kampagne unterstellt Merz eine labile Psyche. Doch der Psychotherapeut, der Merz angeblich behandelt haben soll und im Artikel zitiert wird, existiert nicht. Es sei "kein Kammermitglied mit dem Namen (…) registriert", teilt die Bundespsychotherapeutenkammer auf Anfrage von Deutsche Welle Faktencheck mit.
Was will Russland mit den Kampagnen erreichen?
Leonie Pfaller von Newsguard sagt über Storm-1516: "Das Ziel der Kampagne ist es vor allem, Unsicherheit zu streuen, Wähler zu polarisieren und grundsätzlich das politische Klima zu destabilisieren." Die Inhalte der Webseiten seien eindeutig prorussisch. Die Unterstützung bestimmter Parteien schätzt Pfaller nicht als Hauptziel der Kampagne ein.
Bei solchen Kampagnen gehe es ebenso um langfristige Ziele, die nichts mit einem speziellen Thema oder einer Bundestagswahl zu tun haben müssen, sagt Frühwirth. Die Masse an Posts über einen langen Zeitraum könne Menschen verunsichern, Vertrauen in die Politik, die Demokratie und die Medien untergraben. "Man sagt ja immer: Russland spielt ein ‘long game’."
Dass prorussische Desinformation die Bevölkerung verunsichern soll, bringt auch Faktencheck-Redaktionen wie den #Faktenfuchs in ein Dilemma. Experten sagen nämlich: Desinformation kann wirksamer sein, wenn etablierte Medien darüber berichten oder bekannte Politiker sie verbreiten.
Der #Faktenfuchs berichtet daher nur über solche Kampagnen, wenn sie bereits eine bestimmte Relevanz – wie jetzt, unmittelbar vor der Bundestagswahl – erreicht haben.
Das Bundesamt für Verfassungsschutz (BfV) schreibt auf #Faktenfuchs-Anfrage: "Das BfV beobachtet eine Zunahme der Desinformationsaktivitäten mit näher rückendem Wahltermin." Der Erfolg und die Verbreitung der Aktivitäten sei schwer zu messen, schreibt das BfV, aber: "Nach Einschätzung des BfV verbleiben die Inhalte häufig eher in der eigenen Informationsblase und erreichen das Ziel eines Verfangens der Desinformation in der breiteren Öffentlichkeit nur selten."
BMI: Besonders Spitzenpolitiker im Visier
Die Nichtregierungsorganisation "Alliance for Europe" fand heraus, dass auch auf dem sozialen Netzwerk "Bluesky" inzwischen viele Accounts aktiv sind, die dem "Doppelgänger"-Muster entsprechend posten. Allein zwischen dem 17. und dem 23. Januar identifizierte Alliance for Europe 4900 solcher Posts. Möglicherweise zeigt sich hier, dass sich die "Doppelgänger"-Kampagne an sich verändernde Bedingungen anpasst. Bluesky wuchs in den vergangenen Monaten stetig – auch, weil viele Nutzer X den Rücken kehrten. Seit Ende Januar hat Bluesky eigenen Angaben zufolge mehr als 30 Millionen Nutzer.
Sowohl das Bundesinnenministerium (BMI) als auch das Auswärtige Amt (AA) bestätigen auf #Faktenfuchs-Anfrage, dass sie Kenntnis von Desinformationskampagnen vor der Bundestagswahl haben. Das BMI schreibt: "Besonders im Visier sind einzelne Spitzenpolitikerinnen und -politiker; sie werden gezielt diskreditiert. Auch Äußerungen zu einer angeblichen Annullierung der Bundestagswahl werden über prorussische Kanäle absichtlich verbreitet."
Laut Peter Ptassek, dem Beauftragten des Auswärtigen Amtes für strategische Kommunikation und Public Diplomacy, sei die Aktivität russischer Desinformationskampagnen weiterhin sehr hoch, wenngleich keine grundsätzliche Neuausrichtung der Kampagnen zu beobachten sei. Grund zur Entwarnung sei das nicht: "Wir nehmen das sehr ernst und haben alles auf höchstes Aufmerksamkeitsniveau geschaltet. Wir arbeiten eng in der Bundesregierung zusammen. Denn wir können nicht ausschließen, dass vor der Bundestagswahl noch etwas kommt."
Laut Ralf Beste, Abteilungsleiter des Auswärtigen Amtes für Kultur und Gesellschaft, prüfe das Ministerium, "wie wir unsere Erkenntnisse nutzen können, um die Kosten für die Verbreitung von Desinformation zu erhöhen, zum Beispiel durch Sanktionsmaßnahmen oder indem wir die Urheber klar attribuieren". Mitte 2023 und Ende 2024 verhängte die Europäische Union bereits Sanktionen gegen Organisationen und Menschen hinter der "Doppelgänger"-Kampagne.
Bislang keine chinesischen Aktivitäten zu beobachten
Russland ist laut Behörden der ausländische Akteur, der offenbar am intensivsten versucht, Einfluss auf die Bundestagswahl zu nehmen. Das BMI schreibt: "Im Gegensatz dazu sind beispielsweise chinesische Aktivitäten mit dem Ziel der Beeinflussung der Bundestagswahl bisher nicht zu beobachten, obgleich China grundsätzlich über ein breites Spektrum unterschiedlicher Instrumente der Einflussnahme verfügt."
Felix Kartte, Experte für Technologie- und Europapolitik bei der Mercator-Stiftung, sagt im Gespräch mit Deutsche Welle Faktencheck: "Ich glaube, dass diese verdeckten Operationen gerade nicht mehr das Hauptproblem sind." Vielmehr seien es Narrative, die es inzwischen bis in den Mainstream geschafft hätten: "Diese Erzählung zum Beispiel, dass Regierungen in Europa alle korrupt wären, dass sie normale Bürger zensieren und die Meinungsfreiheit unterdrücken." Diese Narrative verbreite der Kreml schon lange, aber auch rechtsextreme Parteien in Europa und zu einem gewissen Grad die neue US-Regierung.
Gibt es Gesetze gegen Desinformation?
Grundsätzlich sind Falschbehauptungen und Lügen allgemeiner Natur in Deutschland nicht strafbar, erklärt Fay Carathanassis im Gespräch mit dem #Faktenfuchs. Die Juristin forscht am Bayerischen Forschungsinstitut für Digitale Transformation (bidt) zu den Regulierungen digitaler Kommunikationsplattformen. Aussagen wie "die Erde ist eine Scheibe" sind erlaubt, erklärt sie.
Es gibt vor allem zwei Rechtswerke, die bestimmte Arten von Desinformation unter Strafe stellen: das deutsche Strafgesetzbuch und die EU-Verordnung "Digital Services Act" (DSA). Das Strafgesetzbuch betrifft vor allem "Tatsachenbehauptungen über Personen, die gegenüber der Person oder gegenüber Dritten geäußert werden", sagt Carathanassis. So wie die Falschbehauptung, Claudia Roth und Robert Habeck hätten Gemälde in die Ukraine geschafft. Das könnte üble Nachrede oder Verleumdung sein. Weil die Verursacher schwer zu ermitteln sind, ist es allerdings in der Praxis schwierig, diese Inhalte zu löschen, sagt Carathanassis.
Der Digital Services Act (DSA) schreibt in der EU unter anderem Pflichten für sehr große Online-Plattformen wie X, Facebook oder Instagram vor. Die Plattformen müssen es den Nutzern ermöglichen, dass sie Inhalte melden können, die sie als "rechtswidrig" ansehen. Als "rechtswidrig" gilt, was das nationale und europäische Recht verbietet, zum Beispiel die genannten Straftaten wie üble Nachrede oder Volksverhetzung.
"Awful but lawful" – eine rechtliche Grauzone
Juristin Fay Carathanassis sagt: Expertinnen und Experten diskutieren darüber, ob die Plattformen solche Inhalte löschen müssen, falls sie nach der Meldung zu dem Schluss kommen, dass sie rechtswidrig sind. Denn der DSA mache dazu keine genaue Vorgabe.
Der DSA geht aber über das deutsche StGB hinaus, denn er enthält auch Regeln für nicht-rechtswidrige Desinformation, die in die Kategorie "awful but lawful" (deutsch: schrecklich, aber legal) fällt. Im DSA ist allerdings Desinformation nicht definiert. Stattdessen verpflichtet der DSA die Plattformen, sogenannte "systemische Risiken" zu ermitteln und zu bewerten. Ein systemisches Risiko wären zum Beispiel "nachteilige Auswirkungen auf die gesellschaftliche Debatte und auf Wahlprozesse".
Falls eine Plattform zum Schluss kommt, dass ein systemisches Risiko vorliegt, muss sie Maßnahmen dagegen ergreifen, um das Risiko zu "mindern": Beispielsweise den Algorithmus ändern, Inhalte anders moderieren oder Falschinformationen kennzeichnen.
EU-Kommission im Konflikt mit X
Überwacht wird die Einhaltung des DSA von der EU-Kommission. Die Juristin Fay Carathanassis weist noch auf eine andere, schärfere Verpflichtung hin. Seit kurzem ist nämlich im DSA auch ein Verhaltenskodex enthalten. Vereinfacht gesagt: Falls Unternehmen diesen Kodex einhalten, halten sie auch die DSA-Regeln ein. Sie verpflichten sich damit beispielsweise, Werbeeinnahmen für die Verbreiter von Desinformation zu vermeiden oder professionelles Fact-Checking auf ihren Seiten zu ermöglichen.
Google, Meta, Microsoft und TikTok hatten diesen Kodex zuvor schon freiwillig unterschrieben. X stieg aus dem Verhaltenskodex aus, nachdem Elon Musk das Unternehmen gekauft hatte. X muss sich nicht an den Kodex halten, sofern es die Verpflichtungen aus dem DSA auf anderem Wege einhält, sagt Fay Carathanassis.
Die EU-Kommission leitete mehrere Verfahren gegen X ein und verlangte deswegen interne Dokumente. Sie will prüfen: Hält X die DSA-Vorschriften zu Desinformation ein? Die Kommission kann Bußgelder verhängen, die bis zu sechs Prozent des Jahresumsatzes eines Unternehmens ausmachen.
Fazit
Die prorussischen Kampagnen "Storm-1516" und "Doppelgänger" veröffentlichen vor der Bundestagswahl Desinformation auf Fake-Nachrichtenseiten und auf sozialen Netzwerken wie X und Bluesky. Ihre Inhalte zielen Expertinnen zufolge darauf ab, die deutsche Bevölkerung zu verunsichern und ihre Unterstützung für die Ukraine zu untergraben.
Auch Spitzenpolitiker wie Robert Habeck und Friedrich Merz gerieten ins Visier der Kampagnen. Besonders Falschinformationen über Einzelpersonen sind nach deutschem Recht strafbar. Falls sie gelöscht werden sollen, gibt es aber für Strafverfolgungsbehörden praktische Hürden, da die Urheber oft nicht ausfindig zu machen sind. Der Digital Services Act verpflichtet sehr große Plattformen dazu, gegen strafbare und schädliche Inhalte vorzugehen – lässt ihnen aber viel Spielraum für die Umsetzung.
Quellen
Alliance4Europe: Russian influence operation Doppelgänger expands to Bluesky
Auswärtiges Amt: Deutschland im Fokus der pro-russischen Desinformationskampagne "Doppelgänger"
Bitkom: Große Mehrheit fürchtet Einflussnahme aus dem Ausland
Bundesinnenministerium: FAQ - Schutz der Bundestagswahl vor hybriden Bedrohungen einschließlich Desinformation
Bundesinnenministerium: Schutz der Bundestagswahl 2025 vor hybriden Bedrohungen und Desinformation
Bundesverfassungsschutz: Gefährdung der Bundestagswahl durch unzulässige ausländische Einflussnahme
CeMAS: Doppelgänger gegen Merz
CeMAS: Doppelgänger-Kampagne macht Stimmung gegen Parteien
Correctiv: Russland greift in deutschen Wahlkampf ein
Europäische Kommission: Verhaltenskodex 2022 zur Bekämpfung von Desinformation
Europäische Kommission: Gesetz über digitale Dienste: Kommission leitet zusätzliche Untersuchungen gegen X im laufenden Verfahren ein
Europäischer Rat: Manipulation von Informationen in Russlands Angriffskrieg gegen die Ukraine: EU setzt sieben Personen und fünf Organisationen auf die Sanktionsliste
Europäischer Rat: Russische hybride Bedrohungen: EU einigt sich auf erste Benennungen als Reaktion auf destabilisierende Aktivitäten gegen die EU, ihre Mitgliedstaaten und Partner
Europäische Union: Gesetz über digitale Dienste
European Union: Regulation (EU) 2022/2065 of the European Parliament and of the Council
NewsGuard: Kreml-Propagandist nimmt die Bundestagswahl ins Visier
Rat der Europäischen Union: Manipulation von Informationen in Russlands Angriffskrieg gegen die Ukraine: EU setzt sieben Personen und fünf Organisationen auf die Sanktionsliste
Süddeutsche Zeitung: Massiver Ärger über Musk
Tagesschau: Tiefe Einblicke in Putins Lügenmaschine
Washington Post: American creating Deep Fakes targeting Harris works with Russian intel, documents show
Disclaimer, 20.02.2025 8.50: In einer früheren Version des Texts stand unter “Darum geht’s” noch: “Bundesinnenministerin Nancy Faeser sieht auch in Elon Musks Einmischung in den Wahlkampf einen Angriff auf die Demokratie.”. Das ist zwar richtig, kommt im Artikel aber nicht vor, deshalb haben wir diesen Punkt durch folgenden Satz ersetzt: "Expertinnen zufolge ist das Ziel der Kampagnen, die deutsche Bevölkerung zu verunsichern und ihre Unterstützung für die Ukraine zu untergraben."
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!