Der kleine Junge sieht überglücklich aus. Mit Winterkleidung und breitem Grinsen sitzt er im Schnee auf einer Art Hightech-Schlitten – ein komplett aus Holz gebautes Schneemobil-Imitat. "Opa hat für seinen Enkel einen [sic] Schneemobil gebaut!" steht in der Bildunterschrift.
Falscher Schlitten, echte Reaktionen
Auf Facebook kommt der Post gut an. Fast 16.000 Accounts haben schon auf das Bild reagiert – vorwiegend mit "Daumen Hoch-" und Wow-Emoji. "Ganz lieber Opa, einmalig was er da fuer seinen Enkel entworfen und gebaut hat [sic]", kommentiert eine Nutzerin. "Wahnsinn, wie cool ist das denn", schreibt eine andere.
Das einzige Problem: Das Bild ist nicht echt. Weder das hölzerne Schneemobil noch der Junge darauf existieren wirklich – das gesamte Bild ist KI-generiert. Tatsächlich muss man das Bild nicht einmal besonders genau untersuchen, um offensichtliche Fehler zu erkennen: So scheint etwa der kleine Finger des Jungen durch den Lenker hindurch zuwachsen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
KI-Bild: Ein Junge auf einem Holz-Schneemobil
Dennoch – zahlreiche Menschen halten das Bild offensichtlich für echt. Als Reaktion auf einige Kommentare, in denen der Fake als solcher aufgedeckt wird, kommentiert sogar eine Nutzerin: "Warum müssen manche einen blöden Kommentar abgeben, lasst es, der kleine hat sich sehr gefreut, macht es besser ansonsten lasst es bleiben [sic]."
KI-Trend auf Facebook
Schon seit etwa eineinhalb Jahren sorgen KI-Bilder immer wieder für Aufruhr im Netz – etwa als ein KI-Bild von Papst Franziskus im weißen Daunenmantel jede Menge Menschen täuschte. Doch nun entstehen in den sozialen Medien ganze Social Media-Fabriken rund um KI-generierte Fake-Bilder.
Im englischsprachigen Raum sind Bilder dieser Art schon länger sehr erfolgreich – teils gehen dort sogar bizarre KI-Bilder viral, die etwa Jesus Christus als Shrimp zeigen, angefeuert von tausenden Nutzern, die "Amen!" kommentieren.
KI-Bild: Jesus Christus als Garnele
Deutsche Facebook-Seiten posten falsche Bilder
Nun ist dieser Trend auch endgültig bei Facebook-Feeds in Deutschland angekommen. Anonyme Facebook-Seiten mit Namen wie "Praktische Tipps", "Küche und Tipps" oder "Tipps & Rezept" posten im Stundentakt KI-generierte Bilder für zehntausende Follower – die Zahl der Likes und Kommentare geht in die Hunderttausende.
Die Bilder sind in der Regel weniger bizarr als ein Garnelen-Christus, dennoch zeigen sie oft beeindruckende künstlerische Leistungen. Komplexe Holzschnitzereien oder Skulpturen aus Lebensmitteln sind beliebte Motive - manchmal tut es auch einfach ein schön gemaltes Bild oder eine appetitlich aussehende Torte.
Was aber nicht fehlen darf ist, dass die Schöpferin oder der Schöpfer neben dem Werk steht – und sich scheinbar damit fotografieren lässt – besonders oft handelt es sich dabei um ein Kind. Sowohl die Person als auch das Kunstwerk sind aber mit der KI künstlich generiert.
KI-Bild: Junges Mädchen mit Hasenskulptur aus Kartoffeln
Seiten setzen auf emotionale Manipulation
Unter den Kommentaren der kuriosen KI-Fakes wird immer wieder von Nutzern darauf hingewiesen, dass es sich hierbei um Fakes handelt. Dennoch ist klar: Eine große Zahl von Menschen hält die Bilder für echt – und kommentiert und liked fleißig.
Das hat wohl auch damit zu tun, dass fast jedes Bild von einem kurzen emotional-rührigen Text begleitet wird. "Ich bin ein bisschen traurig, weil niemand jemals ein nettes Wort über meine Arbeit gesagt hat oder sogar Hallo gesagt hat", steht unter dem Bild eines falschen Holzschnitzers. "Ich habe es mit so viel Liebe gemacht, aber ich bin traurig, weil es niemandem gefallen hat", heißt es gleich unter mehreren Bildern.
Wer generiert diese Bilder?
Wer hinter den KI-Schleudern steckt, ist meist unklar. Fast immer scheinen die Betreiber im Ausland zu sitzen: Eine der Seiten lässt sich nach Algerien zurückverfolgen, eine andere nach Pakistan. Die Inhalte werden maschinell erstellt und übersetzt – viel Arbeit ist dafür nicht notwendig.
Für die Betreiber der Seiten sind KI-Generatoren eine billige Methode, in kurzer Zeit sehr viele erfolgreiche Inhalte zu generieren und sich dadurch eine große Reichweite auf Social Media aufzubauen. Sobald diese einmal da ist, kann die Seite für Werbung genutzt oder verkauft werden.
KI-Bild: Kleiner Junge mit Wasserfarbenbild
Ist KI auf Facebook verboten?
Meta, der Konzern hinter Facebook und Instagram, hat für KI-generierte Inhalte eigentlich eine Kennzeichnung vorgesehen. Ob die Betreiber der Seiten diese nutzen, ist ihnen in der Praxis aber in der Regel freigestellt. Und da die Bilder keine politischen Inhalte oder Personen des öffentlichen Lebens beinhalten, verstoßen sie wohl nicht gegen die Nutzungsrichtlinien der Plattform. Grundsätzlich verboten ist KI-Content auf Facebook jedenfalls nicht.
Dieser Artikel ist erstmals am 18. Dezember auf BR24 erschienen. Das Thema ist weiterhin aktuell. Daher haben wir diesen Artikel erneut publiziert.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!