Realistische, aber gefälschte Bilder, Videos oder Tonaufnahmen zu erstellen, ist dank künstlicher Intelligenz einfacher denn je. Deepfakes werden mittlerweile auch im Wahlkampf eingesetzt, um Wählerinnen und Wähler zu irritieren und Falschinformationen in Umlauf zu bringen. Wie zum Beispiel vor wenigen Wochen bei den Vorwahlen in den USA.
Deepfake mit der Stimme von Joe Biden
Er klingt wie US-Präsident Joe Biden, ist es aber nicht, sondern eine KI-generierte Stimme: "So ein Quatsch. Die Wahl wird im November entschieden, nicht an diesem Dienstag."_
Die Stimme forderte vor einigen Wochen in New Hampshire demokratische Wähler auf, nicht an den Vorwahlen teilzunehmen. Sogenannte Robo-Calls, automatisierte Anrufe, sind im US-Wahlkampf gang und gäbe. Allerdings nicht mit Hilfe von KI. Das ist in den USA verboten. Bis zu 25.000 Anrufe soll eine Marketing-Agent aus Texas mit der falschen Biden-Stimme getätigt haben.
KI ist realistisch und billig
KI mache die Fälschung nicht nur extrem einfach und billig, sondern auch besonders realistisch und damit überzeugend, sagt Dan Weiner vom Brennan Center for Justice in New York, einem überparteilichen juristischen Think Tank: "Wir sehen sie nicht wirklich als eigenständige Bedrohung, sondern eher als Verstärkung der Bedrohung."
Weiner befürchtet, dass solche Stimmen-Deepfakes vor allem kurz vor Wahlen auftauchen könnten. Wenn wenig Zeit bleibt, die Fakten zu prüfen, und die Wählerinnen und Wähler verunsichert oder entmutigt werden sollen.
Nächste Stufe könnte schon in den kommenden Wochen auftauchen
Josh Lawson, Wahlrechtler am Aspen Institute in Washington, glaubt, dass die nächste Stufe der KI-Deepfakes schon in wenigen Wochen erreicht sein wird. Im Radiosender NPR sagte er, dass KI schon bald einen Punkt erreicht haben werde, an dem KI authentische Telefonate mit Menschen führen könne. "Das wird in Echtzeit gehen. Und vermutlich sogar noch vor den Wahlen passieren".
Tech-Industrie im Silicon Valley ist alarmiert
Das heißt: KI wird wahrscheinlich bald in der Lage sein, echte Telefongespräche mit Menschen zu führen. Dass die Stimme am anderen Ende ein Computer ist, wird kaum noch zu erkennen sein. Lawson fürchtet Fake-Anrufe: Zum Beispiel, dass sich die Adresse des Wahllokals geändert hat.
Auch die Tech-Firmen im Silicon Valley sind alarmiert. YouTube, Meta und TikTok haben vor wenigen Wochen eine Kennzeichnungspflicht für KI-Inhalte eingeführt. Wahlrechtsexperte Lawson glaubt, dass sich kriminelle Akteure damit aber nicht stoppen lassen. Es brauche nicht nur neue Gesetze, sondern auch ein allgemeines gesellschaftliches Verständnis, dass Deepfakes nicht in Ordnung sind:
"Wir müssen einen Punkt erreichen, an dem Dinge wie Deepfakes fast wie Spam angesehen werden. Sie sind lästig, sie kommen vor, aber sie verderben einem nicht den Tag."
Zum Hören: BR24 Thema des Tages – KI im Wahlkampf
Präsidentschaftswahl 2024 in den USA (Symbolbild)
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!