Unter Nachrichten-Videos auf TikTok, Instagram und anderen Social Media-Plattformen wird immer wieder fleißig diskutiert. Dabei geht es durchaus auch mal ruppig zu.
Grüße von "Alise"
Gut, dass es auch "Alise" gibt: Eine Nutzerin, die unter fast jedem Video etwas Positives beizutragen hat. "Klingt spannend! Ein Job in der Straßenbahn hätte seinen Reiz", schreibt sie unter einem Video über einen Tram-Fahrer. "Die Lichter und der Duft von Glühwein – einfach magisch! ✨🎄" unter einer Weihnachtsreportage. Und "Ein wichtiges Thema! Es bleibt abzuwarten, wie es politisch weitergeht." unter einem Update zum Ampel-Aus.
In den Kommentarspalten stechen diese Kommentare praktisch gar nicht hervor, sie wirken wie die einer ganz normalen Userin. Bis man etwas tiefer eintaucht und feststellt: "Alise" kommentiert auch auf zahlreichen englischsprachigen Accounts – und dort auf Englisch. Ihr Profilbild zeigt ein wohl aus dem Internet kopiertes Bild eines Webcam-Models. Und: Auf ihrer Profilseite führt ein gut platzierter Link zu einer OnlyFans-ähnlichen Spam-Website.
Neue Art von Bots
"Alise" ist ein Beispiel für eine neue Art von Spam-Account. Unscheinbare Kommentare und ein unschuldiges Profilbild sollen Nutzer neugierig machen und sie dazu bringen, auf das Profil zu klicken – wo der Link zu ihrer angeblichen Website sie in eine Abofalle locken soll.
Möglich machen das moderne KI-Systeme wie ChatGPT & Co. Anders als primitivere Bots der Vergangenheit können die nämlich auf ihren Kontext reagieren und antworten. "Alise" zum Beispiel scheint immer auf die Videobeschreibung des Videos zu reagieren – in der oft eine Frage gestellt wird.
Das geht oft lange gut – hat aber oft trotzdem ein Haltbarkeitsdatum. Der Account von "Alise" ist auf TikTok mittlerweile nicht mehr aufrufbar. Vermutlich wurde er von der Plattform gesperrt.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast von BR24 und SWR.
Was verfolgen die Bots damit?
Meist sind KI-gestützte Bots dieser Art im Netz auf der Suche nach Aufmerksamkeit – also wie menschliche Influencer auch. Und wie "Alise" und zahlreiche Accounts auf X.com zeigen, sind deren Beweggründe nicht immer schnell erkennbar.
Anders sieht es bei koordinierten Aktionen aus, wie sie vor allem im Krypto-Bereich oft auftreten. Hier werden immer wieder YouTube-Kommentare mit oberflächlichen Kommentaren zum Thema geflutet, gefolgt mit dem Aufruf, nach einer Kryptowährung zu suchen. Manche dieser Aufrufe sind bewusst kryptisch formuliert, um Leser zum Googlen zu motivieren.
Wie fake ist das Internet?
Doch wie groß ist der Einfluss von Fake-Accounts im Netz wirklich? Dazu gibt es leider fast keine belastbaren Zahlen. Die Forschung nach den sogenannten "Social Bots" gestaltet sich schwierig, und war in der Vergangenheit oft von Unstimmigkeiten geprägt.
Gigantische automatisierte Netzwerke, wie sie auf Social Media schon in den vergangenen Jahren oft befürchtet wurden, waren oft schwer nachzuweisen – und wurden in einigen Fällen vielleicht eher herbeigeredet, meinen Experten wie der Informatik-Professor Florian Gallwitz. Nun aber meint auch Gallwitz auf X (externer Link): Synthetische Accounts mit KI-Texten scheinen immer häufiger im Netz aufzutreten.
Bots überall?
Bereits letztes Jahr zeigte eine Untersuchung (externer Link), dass immer mehr Tweets eine verräterische Formulierung enthalten: "Als ein KI-Sprachmodell". In diesen Posts wurden KI-Antworten entweder direkt an einen X-Account angeschlossen, oder die Antworten händisch hineinkopiert.
Das Problem: Wenn die Bots es nicht selbst verraten, gibt es keine gesicherte Methode, KI-generierte Texte technisch als solche zu identifizieren. Sollte das so bleiben, könnten wir uns an ein neues Netz gewöhnen: Eins, in dem die Roboter unter uns weilen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!