Ein Deepfake-Video von Olaf Scholz macht die Runde. Der mit KI gefälschte Bundeskanzler ist darin in einer täuschend echt aussehenden Fernsehansprache zu sehen. Doch die Worte, die darin zum Thema AfD-Verbot fallen, hat Scholz nie gesagt.
- Zum Artikel: Wie Mensch und Maschine Fake-Inhalte erkennen können
Falscher Scholz zum Thema AfD
Eine Gruppe von linken Aktivisten erstellte die Fake-Ansprache und lud sie zusammen mit einer falschen Website im Netz hoch.
Wer genau hinschaut, erkennt zwar, dass die Lippenbewegungen im Video nicht genau zum Ton passen. Dennoch ist der falsche Kanzler verblüffend realistisch – und die Technologie dahinter entwickelt sich schnell weiter.
Regierungssprecher Steffen Hebestreit fand auch deshalb klare Worte: "Solche Deepfakes sind kein Spaß", schreibt er in einer Stellungnahme. "Sie schüren Verunsicherung und sind manipulativ."
Deepfakes und Persönlichkeitsrecht
Doch wie sieht eine solche Aktion rechtlich aus? Darf man einfach so Deepfake-Aufnahmen von anderen Menschen erstellen und diese ins Internet stellen? Die Rechtsanwältin Kerstin Bäcker stellt klar: "Natürlich könnte jetzt die Person Olaf Scholz, der ja hier falsche Worte in den Mund gelegt worden sind, dagegen vorgehen."
Dass es noch keine Gesetze speziell für KI-generierte Inhalte gibt, spielt dabei keine große Rolle. "Natürlich wird das Persönlichkeitsrecht in so einem Kontext geschützt. Man durfte ja bislang auch nicht zum Beispiel eine Fotomontage von einem Treffen zwischen Politikern verbreiten, das nie stattgefunden hat."
Weitere Schritte unklar
Bereits heute gibt es erste Fälle, in denen Behörden gegen die Ersteller KI-generierter Fälschungen vorgehen. In Spanien wird etwa gegen eine Gruppe von Teenagern ermittelt, die in einem WhatsApp-Chat gefälschte Nacktbilder von Mitschülerinnen verbreitet haben.
Ob es auch im Fall Scholz zu rechtlichen Schritten kommen wird, ist laut Rechtsanwältin Kerstin Bäcker in erster Linie eine strategische Frage. "Man muss sich fragen: Lässt man einfach Staub drüber rieseln, indem man nicht dagegen vorgeht? Oder wird das Ganze weiter in der Presse aufrecht halten, indem dann von einem möglichen Verfahren berichtet wird?"
AI Act verspricht Klarheit
Weitere Klarheit könnte in Zukunft der "AI Act" bringen. Das ist die große Gesetzgebung der Europäischen Union, die Künstliche Intelligenz regulieren soll. Hier werden Deepfakes konkret erwähnt – ein aktueller Entwurf sieht vor, dass Deepfakes klar sichtbar als Fälschung gekennzeichnet werden müssen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!