Darum geht's:
- Experten sagen: Die Plattform TikTok eigne sich aus verschiedenen Gründen gut dafür, Desinformation zu verbreiten.
- TikToks Wirkweise basiert nicht auf dem Social-Circle-Prinzip: Usern werden Videos von allen möglichen Accounts angezeigt - basierend auf den eigenen Interessen. Auch neue Accounts können sofort viral gehen - ein Einfallstor für Desinformations-Akteure.
- Dass sich Falschinformationen auf TikTok stärker oder schneller verbreiten als in anderen Social-Media-Netzwerken, lässt sich aber nicht belegen.
Russische Influencer, die behaupten, dass die ukrainische Regierung im Donbass einen Genozid verübe - alle in fast wortgleichen Sätzen und mit denselben Hashtags. Videos aus ganz Deutschland, in denen angeblich Schießereien zu hören sind - nur dass die Schüsse immer genau gleich klingen. User, die ein NASA-Video aus dem All teilen, in dem angeblich eine Fliege durchs Bild fliegt - als Beleg dafür, dass die NASA alle Videos gefälscht hat und die Erde eigentlich flach ist.
Solche und andere Propaganda und Falschbehauptungen finden sich auf TikTok - der Social-Media-Plattform, auf der vor allem die "Generation Z" unterwegs ist - also junge Menschen zwischen 16 und 25 Jahren. Nicht immer ist sofort zu erkennen, ob es sich dabei um bewusste Täuschungsversuche handelt.
Die NASA-Fake-Videos etwa werden auch von Privatpersonen verbreitet, die zumindest dem Anschein nach wirklich daran glauben. In anderen Fällen wird die Desinformation bewusst gestreut: Die oben erwähnten russischen Influencer etwa sind nach Recherchen des Online-Magazins "Vice" im Rahmen einer koordinierten Desinformations-Kampagne angeworben worden, um vorgefertigte Skripte vorzutragen.
Verbreiten sich auf TikTok mehr Fakes als anderswo?
Doch stimmt es, was etwa das "Handelsblatt" im März 2022 schreibt: Dass sich Desinformationen auf keiner Plattform so schnell verbreite wie auf Tiktok? Repräsentative Studien zu der Anzahl der Falschinformationen oder gar der Geschwindigkeit, mit der sie sich auf Social-Media-Plattformen verbreiten, gebe es nicht, sagen zwei TikTok-Experten, mit denen der #Faktenfuchs gesprochen hat.
Unbestritten sei aber, sagt Marcus Bösch von der Hochschule für Angewandte Wissenschaften Hamburg, dass bestimmte Features der Plattform sich besonders gut dafür eignen, Falschinformationen zu verbreiten. Bösch gibt den wöchentlichen Newsletter "Understanding TikTok" heraus.
Experiment: TikTok schlecht darin, Desinformation zu erkennen
Dass TikTok Desinformation nicht unbedingt als solche erkennt, belegen verschiedene wissenschaftliche Experimente: Forscher der New York University platzierten im vergangenen Jahr auf drei Plattformen 20 verschiedene politische Wahlwerbespots. Alle der eigens für den Versuch erstellten Anzeigen enthielten Falschinformationen. Während Facebook zumindest einen Teil und Youtube sogar alle der Spots als falsch erkannte und daraufhin sperrte, ließ TikTok 90 Prozent zur Veröffentlichung zu. Und das, obwohl ausgerechnet TikTok Wahlwerbung explizit verbietet, Youtube und Facebook sie hingegen nur regulieren.
Eine Recherche des US-Medien-Startups NewsGuard, das die Glaubwürdigkeit von Nachrichten-Webseiten anhand verschiedener Kriterien bewertet, ergab außerdem, dass Suchanfragen auf TikTok sehr viel häufiger zu Desinformation führen als etwa auf Google. Im Verlauf einer Stichproben-Suche zu aktuellen Themen enthielten fast 20 Prozent der angezeigten Ergebnisse Fehlinformationen.
Auf eine #Faktenfuchs-Anfrage schreibt eine Sprecherin von TikTok: "Unsere Community-Richtlinien machen deutlich, dass wir schädliche Falschinformationen (...) nicht zulassen und sie von der Plattform entfernen werden." Man arbeite sorgfältig daran, gegen Fehlinformationen vorzugehen und würde auch mit unabhängigen Fact-Checkern zusammenarbeiten, die Inhalte bewerten.
Ist TikTok das neue Google?
Relevant sind diese Ergebnisse vor allem deshalb, weil TikTok von jungen Menschen zunehmend auch als Suchmaschine benutzt wird. Aktuellen Zahlen zufolge sind knapp 40 Prozent der mehr als eine Milliarde monatlichen Nutzer weltweit zwischen 18 und 25 Jahren alt.
Laut dem Internetsicherheits-Unternehmen Cloudflare hat TikTok im Jahr 2021 Google als beliebteste Domain weltweit überholt. Das Wall Street Journal bezeichnete TikTok im August 2022 daher als das "neue Google".
Algorithmen befördern emotionale Inhalte
Doch woran liegt es, dass sich gerade TikTok so gut dafür eignet, Verschwörungstheorien und Desinformation zu verbreiten? Erklären lässt sich das zum einen mit allgemeinen Mechanismen, die auch auf andere Plattformen zutreffen. Dazu gehört etwa, dass Menschen emotionale Nachrichten eher wahrnehmen und teilen. Die Algorithmen der meisten Social-Media-Plattformen wiederum befördern ebensolche Inhalte, die von vielen Nutzern geliked oder geteilt werden.
Zu diesen allgemeinen Wirkweisen von sozialen Netzwerken kommen Faktoren hinzu, die TikTok-spezifisch sind. Anbei eine unvollständige Auflistung:
1) Empfehlungs-Algorithmus statt Social Circle
Der vielleicht wichtigste Punkt laut TikTok-Forscher Marcus Bösch: Die Plattform funktioniert, anders als andere soziale Netzwerke, nicht nach dem Social-Circle-Prinzip. Während man sich bei Facebook oder Instagram erst ein Profil anlegen und dann reale oder virtuelle Bekanntschaften aktiv hinzufügen muss, schlägt einem TikTok von der ersten Sekunde an alle möglichen Videos vor - auch von Profilen, mit denen man nicht verbunden ist.
Der TikTok-Algorithmus versucht stattdessen anhand des Nutzungsverhaltens herauszufinden, was einen interessiert - um dann mehr von diesen Videos auszuspielen, erklärt Bösch: "Und wenn ich mir jedes Katzenvideo dreimal angucke, das like und kommentiere, wird mir der Algorithmus noch mehr Katzen-Content geben, weil ich ganz offensichtlich Interesse daran habe."
Dieser Mechanismus ist offensichtlich erfolgreich: Der "MIT Technology Review", ein Magazin des Massachusetts Institute of Technology, nominierte den TikTok-Algorithmus 2021 als eine der "Top 10 Global Breakthrough Technologies".
Doch der Algorithmus ist nicht nur sehr gut darin zu erkennen, was Nutzer sehen wollen. Er macht es auch einfacher, Desinformationen zu verbreiten. Denn jeder neue TikTok-Account kann - zumindest in der Theorie - direkt mit dem ersten Video viral gehen. Sich mühsam ein Netzwerk von Followern aufzubauen, um die eigene Reichweite zu erhöhen, ist auf TikTok nicht nötig. Das bedeutet aber auch: Nutzer kennen die Person, die eine Information teilt, häufig gar nicht. Sie können daher schlechter einschätzen, wie vertrauenswürdig sie ist.
Der #Faktenfuchs hat TikTok Fragen zu diesem Problem gestellt. Eine TikTok-Sprecherin antwortet per Mail, dass man in der App zuletzt eine neue Funktion eingeführt habe. Mit dieser könnten Nutzer und Nutzerinnen sehen, warum ihnen bestimmte Inhalte vorgeschlagen werden. Dafür müssten sie in einem Untermenü auf das Icon "Warum dieses Video?" klicken.
2) Kontext kann schnell verloren gehen
Ein weiteres Problem ist, dass bei TikTok-Videos wichtiger Kontext fehlt. Wenn Nutzer den eigens für sie vom Algorithmus erstellten "For You"-Stream durchscrollen, sehen sie nur das jeweilige Video, eine kurze Beschreibung, die verwendeten Hashtags und die Anzahl der Likes und Kommentare. Infos etwa zum Profil des Urhebers oder zum Upload-Datum lassen sich zwar herausfinden, sind aber nicht gleich ersichtlich.
Eine durchschnittliche TikTok-Session bestehe darin, "Hunderte Videos in sehr kurzer Zeit" zu konsumieren, erklärt Bösch. Binnen weniger Sekunden müssten die User deshalb entscheiden, ob sie ein konkretes Video für glaubwürdig halten oder nicht. "Und ich würde behaupten, dass man eher erstmal eine zugewandte Art und Weise hat, weil auf dieser Plattform auch sehr viele Inhalte sind, die unterhaltsam, überraschend und glaubwürdig sind."
Auf anderen Plattformen liefern etwa das User-Profil oder die Upload-Zeit des Videos wichtige Informationen, um die Glaubwürdigkeit eines Posts einschätzen zu können. Wie wichtig das sein kann, zeigen Fälle von Desinformation aus den letzten Jahren: So teilten Menschen in sozialen Netzwerken gerade in Krisenzeiten immer wieder veraltete Fotos und Videos - etwa zu Beginn des Krieges in der Ukraine oder bei Buschbränden in Australien. Desinformations-Akteure wiederum nutzen solche Fälle irreführender Informationen dann, um Misstrauen in die mediale Berichterstattung zu schüren.
Tiktok verweist darauf, dass es bei Videos mit bereits von Faktencheckern geprüften Falschinformationen Hinweise gebe. Authentische Nutzerprofile würden zudem durch einen blauen Haken verifiziert. Seit 2023 habe man auch damit begonnen, staatlich kontrollierte Medien in bestimmten Weltregionen als solche zu kennzeichnen.
3) Sounds lassen sich für Desinformation nutzen
Was an TikTok außerdem anders ist als auf anderen Plattformen: Audio spielt hier eine viel größere Rolle als etwa auf Facebook, Twitter oder Instagram, wo vor allem Text, Bilder und Videos geteilt werden. Wer dort beispielsweise die Audiospur eines Videos verfälschen möchte, braucht ein gewisses technisches Grundwissen. Nicht so auf TikTok: Das eigene Video mit einer fremden Tonspur zu kombinieren, ist hier mit ein paar Klicks machbar.
Dieses eigentlich harmlose Feature machen sich User inzwischen auch zunutze, um Fakes zu verbreiten. So kursierten etwa im Februar dieses Jahres auf TikTok Videos von vermeintlichen Schießereien aus ganz Deutschland. User aus Mannheim oder München filmten Polizeieinsätze oder Krankenwagen mit Sirenengeheul auf der Straße. Sie kombinierten das Bildmaterial mit der Soundspur eines anderen Videos, sodass am Ende der Eindruck entsteht, bei ihnen vor Ort hätte eine Schießerei stattgefunden.
In den Kommentaren unter den so bearbeiteten Videos kommentierten ungläubige Anwohner: "Also hier in München war das nicht." Oder: "Wo wohne ich eigentlich in München?" Ein anderer User wies in den Kommentaren darauf hin, dass es sich um einen bereits existierenden Sound handle.
Sounds werden bei TikTok unter anderes Videomaterial gelegt - damit entstehen Falschinformationen.
Marcus Bösch nennt noch ein weiteres Beispiel, in dem ein Audio für die Verbreitung von russischer Propaganda genutzt wurde. Im Oktober 2021 verbreitete sich auf TikTok ein Sound-Mix der malaysischen DJ-Künstlerin "Jovynn".
Eine andere bekannte TikTok-Influencerin griff den Sound auf und entwickelte einen Tanz dazu, den bald Tausende Jugendliche nachtanzten. Da sich TikTok gezielt nach Videos durchsuchen lässt, die eben diesen Sound nutzen, können Desinformations-Akteure diese Audio-Hashtags kapern, um Reichweite für ihre eigenen Inhalte zu generieren.
Eben das passierte in diesem Fall: Mehrere Monate nach der eigentlichen Tanz-Challenge griffen russische Propagandistinnen den Sound noch einmal auf. Sie kombinierten ihn diesmal mit einer bestimmten Art von Handschlag, der zeigen sollte, wie sich echte russische Frauen begrüßen, sagt Marcus Bösch. Am Ende des Handschlags zeigten sie das Z-Zeichen - in den ersten Wochen der Invasion ein viel genutztes russisches Kriegssymbol. Zu den Möglichkeiten, Videos durch Sounds zu manipulieren sowie zum Beispiel der angeblichen Schießerei äußerte sich TikTok auf #Faktenfuchs-Anfrage nicht.
4) Duett- und Stitch-Funktion animieren zur Weiterverbreitung
Ein weiterer Faktor ist laut Experte Marcus Bösch, dass TikTok "ganz stark auf dem Prinzip des Mitmachens basiert": Die Plattform bietet verschiedene Funktionen, um Videos - oder Teile von Videos - ohne viel Aufwand von anderen zu übernehmen, sie nachzuahmen oder darauf zu reagieren. Beim sogenannten "Stitchen" können Nutzer Teile eines anderen Videos in ihr eigenes Video einbinden und damit interagieren. Da die Original-Videos so unterbrochen, zerstückelt oder verkürzt werden, können auch die ursprünglichen Aussagen verkürzt werden oder es kann wichtiger Kontext verloren gehen.
Bei der "Duett"-Funktion können Nutzer - wie bei einem echten Musik-Duett - das Video eines anderen Nutzers begleitend kommentieren oder begleitend mitsingen. Der Bildschirm wird dabei in zwei Hälften geteilt, die Videos laufen parallel ab. Wie im oben erwähnten Fall des Z-Handschlags übernehmen dann also andere Nutzer die Verbreitung der Propaganda, ob wissentlich oder unwissentlich. Dass insbesondere das ursprüngliche Upload-Datum dabei auf Anhieb nicht immer ersichtlich ist, macht es noch einfacher, Informationen in einem falschen Kontext weiterzuverbreiten.
5) Kritische Inhalte schwer zu erkennen?
Erschwerend kommt hinzu, dass TikTok - ebenso wie viele andere Social-Media-Plattformen - mit der schieren Masse an Inhalten, die tagtäglich hochgeladen werden, schlicht überfordert zu sein scheint, sagt Marcus Bösch. Community Management - also das konsequente Sichten, Markieren oder Löschen von gefährlichen oder strafbaren Inhalten und Kommentaren - findet zwar statt, oft bleiben solche Inhalte aber trotzdem lange unerkannt. Warum, ist im Einzelfall nicht immer nachzuvollziehen.
Tiktok setzt nach eigenen Angaben auf eine Kombination aus Technologie und Moderationsteams. Mehr als 40.000 Sicherheitsexperten und -expertinnen arbeiteten daran, TikTok sicher zu machen, schrieb das Unternehmen dem #Faktenfuchs. Im letzten Quartal 2022 seien weltweit rund 770.000 Videos gelöscht worden, weil sie gegen die "Richtlinie zu Integrität und Authentizität" verstießen, unter die auch Fehlinformationen fallen.
Aus Sicht der Kommunikationswissenschaftlerin Jing Zeng, die an der Universität Utrecht zu Desinformation auf TikTok forscht, hängt dieses Problem beim Community Management unter anderem damit zusammen, dass TikTok sich bei der Erkennung von Desinformation stark auf Algorithmen verlasse. Fake News automatisiert zu erkennen, sei auf TikTok schwieriger als auf anderen Plattformen. Denn die meisten KI-gestützten Systeme könnten gut mit Text umgehen und etwa Tweets nach Schlüsselwörtern durchsuchen. Eine propagandistische Handgeste in einem Video oder beispielsweise einen einschlägigen Buchtitel zu erkennen, den jemand in die Kamera hält, sei ungleich schwieriger.
Hinzu komme die ganz besondere TikTok-Kultur: In dem schnelllebigen Netzwerk lösen sich neue Trends gegenseitig ab. Vieles, das auf den ersten Blick nach Verschwörungstheorie aussehe, sei Satire. So machten sich Nutzer in kleinen Video-Sketchen zum Beispiel über Impfgegner lustig. Gerade wenn sie dabei die entsprechenden verschwörungstheoretischen Hashtags nutzen, sei das aber nicht immer auf Anhieb als Parodie zu erkennen.
Wissenschaftler widersprechen Falschbehauptungen mit eigenen Inhalten
Auch wenn Desinformation auf TikTok auf einen fruchtbaren Boden zu fallen scheint: Es gibt inzwischen auch auf der Plattform Gegenstrategien. Gerade weil die Plattform-Betreiber das Problem nicht schnell genug in den Griff zu bekommen scheinen, hätten User angefangen, den vielen kursierenden Fakes etwas entgegenzusetzen, beobachtet Tiktok-Forscherin Zeng. So gebe es inzwischen zum Beispiel viele Hautärzte, die regelmäßig die unzähligen Hautpflege-Routinen und Schönheits-Tipps von Beauty-Influencern unter die Lupe nehmen.
Inzwischen zeichne sich sogar so etwas wie ein Lerneffekt ab: Einige Nutzer würden die Experten in den Kommentaren unter den Beauty-Tipps aktiv um Überprüfung dubios erscheinender Inhalte bitten. "Das ist sehr ermutigend zu sehen", sagt Jing.
Fazit
Wie auf vielen anderen Social-Media-Plattformen verbreitet sich auch auf TikTok Desinformation. Experten zufolge lässt sich nicht eindeutig belegen, ob sich auf TikTok mehr Fake News verbreiten als auf anderen Plattformen. Einige Funktionen der App würden sich aber sehr gut dazu eignen, falsche oder irreführende Inhalte weiterzuverbreiten.
Dazu zählten etwa der spezielle TikTok-Algorithmus, dank dem auch völlig unbekannte Accounts viral gehen können. Auch, dass Nutzer in kurzer Zeit viele Videos mit wenig Kontext präsentiert bekämen und die Tatsache, dass sich bei Videos die Tonspur leicht austauschen ließe, erleichterten die Verbreitung von Desinformation.
Hinzu komme, dass TikTok sehr auf Interaktivität setzt: User können Videoinhalte von anderen Nutzern aufgreifen und - teilweise auch ohne Quellenangabe - in eigene Videos einbetten. Community Management finde zwar statt, werde aber dadurch erschwert, dass KI-gestützte Kontrollsystem Falschinformationen oder Propaganda weniger gut erkennen können, wenn sie nicht in Textform präsentiert wird.
Hinweis der Redaktion: Wir haben die Überschrift des Artikels angepasst. (15.06.2023, 08.31 Uhr)
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!