Zwei Situationen in der jüngsten Vergangenheit verdeutlichen besonders gut, wie generative KI gerade den Umgang mit politischen Bildern in den sozialen Medien verändert. Einmal ist da das Video, das Elon Musk vor ein paar Tagen auf Twitter gepostet hat: Die demokratische Präsidentschaftsbewerberin Kamala Harris erzählt darin fröhlich, dass sie selbst eigentlich gar keine wirklichen Qualifikationen habe und lediglich ein "Diversity Hire" sei, also nur aufgrund Ihrer Hautfarbe an ihren Job gekommen sei. Die Stimme in dem Video ist eindeutig als die von Harris zu erkennen – und natürlich KI-generiert.
KI oder nicht? Kaum noch zu unterscheiden
Der zweite Moment: Kurz nach dem versuchten Attentat auf Donald Trump, als sich das Bild des republikanischen Präsidentschaftskandidaten mit in den Himmel gestreckter Faust und umringt von Bodyguards in Windeseile im Internet verbreitet: Auf Twitter kommentiert unter mehreren Posts mit dem Foto die grüne Bundestagsabgeordnete Renate Künast: "Ist das echt?".
🎧Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast der ARD.
Ganz absurd ist Künasts Skepsis gegenüber dem aufsehenerregenden Bild nicht. Denn die KI-generierten Bilder und Videos, die seit Monaten die sozialen Medien fluten, sind schon länger quasi nicht mehr unterscheidbar von authentischem Material. Besonders beliebt im Superwahljahr 2024, in dem in mehr als 50 Ländern insgesamt 2 Milliarden Menschen zu den Wahlurnen gehen: KI-Deepfakes von Politikern.
Platte Bilder und perfide Manipulationsversuche
So begegnen einem dieser Tage zum Beispiel besonders viele Bilder von Donald Trump mit breit grinsenden Afroamerikanern, etwa beim gemeinsamen Barbecue. Oft verbunden mit der Frage, warum denn "die Medien" nicht über die Beliebtheit Trumps in der afroamerikanischen Community berichten würde. Der Grund könnte sein, dass die allermeisten dieser Bilder nicht echt sind, sondern aus einem KI-Bildgenerator wie Dall-E, Midjourney oder Stable Diffusion stammen.
Wie viele Internetnutzer auf die Deepfakes hereinfallen, lässt sich schwer mit Sicherheit sagen. Doch die Manipulationsversuche werden immer heimtückischer und aufwendiger. So tauchte kurz vor den Präsidentschaftswahlen in der Slowakei im Jahr 2023 eine KI-generierte Tonaufnahme auf, in der Präsidentschaftsbewerber Michal Šimečka scheinbar mit einer bekannten Journalistin den Kauf von Wählerstimmen ausheckte. Besonders perfide: Das Video wurde zwei Tage vor der Wahl in Umlauf gebracht – pünktlich zur traditionellen Nachrichtenpause, während der die Medien in der Slowakei auf politische Berichterstattung zwei Tage vor der Stimmenabgabe verzichten. Šimečka verlor die Wahl.
Auch politische Parteien nutzen Technologie
Nicht alle politischen KI-Deepfakes haben einen derartig sinistren Hintergrund. Zunehmend greifen auch Parteien und Politiker selbst in ihren Wahlkampagnen auf die neue Technologie zurück, wie etwa der künftige indonesische Präsident Prabowo Subianto. Dieser begegnete Vorwürfen, in seiner Vergangenheit als General Menschenrechtsverletzungen begangen zu haben, indem er in Wahlkampfvideos als knuffiger KI-Avatar auftrat. Auch ein Video, in dem ein KI-Klon des verstorbenen indonesischen Präsidenten Suharto zur Wahl von Subianto aufrief, sorgte im selben Wahlkampf für Aufsehen.
Experten bezeichnen solche KI-Videos als "Softfakes" – im Gegensatz zu Deepfakes sind diese oft mit einem Hinweis versehen, der klarmachen soll, dass es sich um KI-generierte Inhalte handelt. Wie viele Nutzer aber trotzdem die Videos für bare Münze nehmen, ist unklar.
- Zum Artikel: "So erkennen Sie KI-generierte Fakes"
Einfluss ist nur schwer empirisch erforschbar
Ob und wie KI-Fakes tatsächlich auch Wahlergebnisse verändern, ist nur sehr schwer feststellbar. Die Technologie ist noch neu und es gibt noch kaum Forschung zu deren Auswirkungen auf den politischen Prozess. Schon länger wird der Einfluss von Desinformationen und "Fake News" allgemein auf Wahlen untersucht. Hier zumindest deutet einiges darauf hin, dass der tatsächliche Einfluss geringer sein könnte, als oft befürchtet. Ob eine Person auf Desinformation im Internet hereinfällt, scheint nur eine untergeordnete Rolle dafür zu spielen, bei welcher Partei sie am Ende ihr Kreuzchen macht. Doch wirklich belastbare empirische Ergebnisse sind schwer zu kriegen.
Es kann also gut sein, dass die unmittelbaren Auswirkungen der neuen Technologie KI auf Wahlergebnisse und Demokratie geringer ausfällt, als oft befürchtet wurde. Möglicherweise sind KI-generierte Deepfakes am Ende einfach ein weiteres Werkzeug im Arsenal derer, die gezielt manipulieren wollen – und gegen die sich die offene demokratische Gesellschaft im Internetzeitalter immer besser lernt, sich zu verteidigen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!