Hinweis: Dieser Artikel ist im ARD-Faktencheck-Netzwerk in Zusammenarbeit von BR24 #Faktenfuchs, ARD Faktenfinder und DW Fact check entstanden.
Mitarbeit: Joscha Weber (DW Fact check), Katrin Wesolowski (DW Fact check)
Darum geht’s:
- KI-generierte Profile auf X und Instagram machen Wahlkampf für die AfD
- Sie verkörpern klassische Schönheitsideale und äußern sich ausländerfeindlich
- Häufig sind die KI-generierten Personen noch als solche zu erkennen, in Zukunft könnte sich das laut Experten aber ändern
Ein typisches Influencer-Video auf Instagram – so wirkt es zumindest auf den ersten Blick. Eine junge braunhaarige Frau sitzt auf einem Sofa und spricht in die Kamera. Sie stellt sich als Larissa vor, 22 Jahre alt, angeblich aus dem brandenburgischen Senftenberg. Auf X, ehemals Twitter, hat Larissa mehr als 4.000 Follower, bei Instagram sind es knapp 500. Auch ein Tiktok-Profil hat sie.
Doch die Frau, die sich als Larissa vorstellt – sie ist nicht echt. Ihre Fotos, Videos und Stimme sind durch Programme erschaffen worden, die Künstliche Intelligenz nutzen. Künstlich generierte Charaktere in den sozialen Medien sind nicht neu, sie haben in den letzten Jahren mit der technologischen Weiterentwicklung von Künstlicher Intelligenz immer weiter zugenommen. Doch die Inhalte von KI-Larissa wurden nicht nur für Werbezwecke oder zum Spaß erstellt - sie macht Wahlkampf für die AfD.
KI-erstelle Frau macht auf Social Media Wahlkampf für die AfD
In einem Video von Mitte Januar freut sich Larissa über die Umfragewerte der Partei, sagt über die Spitzenkandidatin der Partei: "Alice Weidel zeigt sich aktuell in Topform. Ihre starken Statements auf dem Bundesparteitag haben viele beeindruckt. Die anstehenden Wahlen sehe ich sehr optimistisch."
Auch wenn sich Larissa in ihrem Profil wörtlich als "KI Maus" beschreibt – in ihren Beiträgen gibt sie vor, ein echter Mensch zu sein. Kurz nach dem Anschlag auf den Magdeburger Weihnachtsmarkt am 20. Dezember 2024 zeigt sich Larissa trauernd auf einem KI generierten Bild. Dazu schreibt sie: "Magdeburg ist die Heimatstadt meiner Mutter". Und: "Alle Syrer müssen gehen."
Rund 50.000 Nutzern wurde dieser Tweet angezeigt. Und KI-Larissa ist nicht die einzige ihrer Art. Ein blondes Mädchen, das sich als 16-jährige Lara vorstellt, ist ein weiterer Instagram-Account eines KI-generierten Charakters mit derzeit rund 700 Followern, der sich vor der Wahl für die AfD ausspricht. "Früher war Deutschland ein Ort voller unbeschwerter Kindheitserinnerungen, doch jetzt fühlt es sich so an, als wenn wir die letzte Generation Deutscher wären", sagt ihre KI-Stimme in einem ihrer Instagram-Videos.
Klassische Schönheitsideale und ausländerfeindliche Aussagen
Häufig geht es in den Posts der erwähnten KI-Influencerinnen um angebliche Überfremdung und den Wunsch nach konsequentem Abschieben, eines der Kern-Wahlkampfthemen der AfD. Außerdem haben die im Rahmen dieser Recherche beobachteten Fake-Influencerinnen noch etwas gemein: sie entsprechen klassischen Schönheitsidealen. Das sei häufig zu beobachten, so Anna Hiller, die KI-Influencer für den Thinktank Institute for Strategic Dialogie (ISD) Germany, der sich mit Desinformation und Extremismus befasst, beobachtet. Sie sagt im Interview mit DW Fact check, "dass KI benutzt wird von Rechtsextremen, um ein Bild von den arischen, blonden, blauäugigen, starken Deutschen zu kreieren".
Es entspricht einem Frauenbild, das die AfD medial häufig verwendet. Die KI-Influencerinnen könnten ganz bestimmte Themen aus einer vermeintlich weiblichen Perspektive ansprechen, wie etwa Gender- oder Familienpolitik, sagt Hiller. Dass Frauen, wenn auch in diesem Fall durch KI generiert, für den Wahlkampf eingesetzt werden, sei eine altbekannte Strategie.
"In den 2010er Jahren konnten wir beobachten, dass die NPD gezielt Frauen eingesetzt hat, um Mitglieder zu gewinnen. Da jetzt auch der Bundestagswahlkampf vor allem auf sozialen Medien stattfindet, ist es sehr naheliegend, dass diese KI-Influencerinnen gezielt eingesetzt werden, um neue Mitglieder und Wähler zu gewinnen", sagt Hiller.
KI-generierte Personen häufig noch als solche zu erkennen
Auf den Bildern und Videos von KI-Influencerinnen wie Larissa erkennt man meistens relativ schnell, dass sie künstlich generiert ist: Die Haut ist weichgezeichnet, die Augen schauen ins Leere, sie wirkt wie eine Wachsfigur. Manchmal hat sie sechs Finger – und beim Reden wirkt sie roboterhaft (hören Sie für einen Eindruck den Radiobeitrag in diesem Artikel). Aber: Einige Nutzer interagieren mit Larissa, als wäre sie eine echte Person, sagt Anna Hiller vom ISD Germany.
"Wenn wir uns da zum Beispiel die Likes und die Nutzerkommentare anschauen, dann können wir sehen, dass es den meisten Nutzern relativ egal ist, ob das KI-generiert ist oder nicht, sondern dass es den Nutzern halt wirklich eher auf die Message ankommt."
KI-Personen sind häufig noch an der starken Weichzeichnung und unnatürlicher Mimik in Videos zu erkennen. Aber die Bilder werden realistischer.
KI-Influencerin tritt bei rechtsextremem Magazin auf
Wer sich hinter dem Profil von Larissa verbirgt, ist nicht kenntlich gemacht. In verschiedenen Beiträgen erscheint sie immer wieder als "virtuelle Praktikantin" des rechtsextremen Magazins Compact. Auch in Videos auf den eigenen Kanälen von Compact tritt Larissa auf. Man mache keinen Hehl daraus, dass Larissa mit einer KI erstellt wurde, schreibt das Magazin auf seiner Website. Eine Anfrage von DW Fact check zu Larissa ließ Compact unbeantwortet.
Deborah Schnabel, Direktorin der Bildungsstätte Anne Frank, sagt gegenüber DW Fact check: "Wir wissen, dass rechtsextreme Akteure, aber auch die AfD sehr gezielt auch Agenturen einsetzen. Gleichzeitig sind es aber häufig auch Einzelpersonen, die nicht klar zu identifizieren sind."
Expertinnen: Verbreitung noch gering, Potential für die Zukunft
Die Verbreitung der Posts von den KI-Influencerinnen ist insgesamt eher überschaubar, häufig sind es lediglich einige Dutzend bis hunderte Interaktionen. "Wenn wir uns die Anzahl der Follower, die Likes, die Kommentare anschauen, würde ich sagen, dass es im Moment noch nicht erfolgreich ist. Allgemein birgt es aber sehr viel Potenzial, dass das vielleicht in der Zukunft erfolgreich sein kann", sagt Hiller. "Für die Bundestagswahl mache ich mir im Moment noch keine Sorgen über die KI-Influencer".
Für Deborah Schnabel von der Bildungsstätte Anne Frank sind die KI-Influencerinnen eine Weiterentwicklung eines klassischen Bot- oder Troll-Netzwerks: "Wir lesen daraus definitiv eine Strategie. Dass rechtsextreme Akteure auf den sozialen Plattformen durchaus auch sehr genau hinschauen, was gut ankommt, welche Trends können aufgegriffen werden."
- Alle aktuellen #Faktenfuchs-Artikel finden Sie hier.
Fazit
Auf Social Media gibt es KI-Influencerinnen, also Profile, deren Bild- und Videoinhalte komplett mittels künstlicher Intelligenz geschaffen wurden, die Wahlkampf für die AfD machen. Ihre Reichweite ist meist überschaubar - und Expertinnen bezweifeln einen größeren Einfluss auf die Bundestagswahl. Noch sind die KI-Profile häufig recht schnell als solche zu erkennen. Mit einer Weiterentwicklung der KI-Technologie könnte sich das jedoch in Zukunft ändern.
Weitere Hintergrund- und Service-Artikel zur Bundestagswahl 2025
- Zum Artikel: Bundestagswahl – welche Termine und Fristen Sie beachten müssen
- Zum Artikel: Neues Wahlrecht: So funktioniert die Bundestagswahl 2025
- Zum Überblick: Erst- und Zweitstimme – so wählen Sie richtig
- Zum FAQ: Briefwahl zur Bundestagswahl – so geht's
- Bundestagswahl: Ist die Bundestagswahl jetzt immer im Winter?
Quellen:
Interview von DW Fact check mit Deborah Schnabel, Direktorin Bildungsstätte Anne Frank
Interview von DW Fact check mit Anna Hiller vom Institute for Strategic Dialogue (ISD) Germany
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!