Der radikale TikTok-Selbstversuch: Push it to the extreme!

Illuminaten, Antisemitismus und Q-Anon: Wie schnell lande ich auf TikTok in einer radikalen Fake News Bubble? Wieso TikTok von davon profitiert und wie der Algorithmus tickt.

Von René Froschmayer

„Was wohl passiert, wenn die Menschheit herausfindet, dass Princess Diana die Frau von Donald Trump ist?“ Fragen wie dieser soll ich noch häufiger begegnen. Ich begebe mich in die eigenartigsten und vielleicht auf schrägsten Ecken der Social Media-Plattform TikTok. Reptiloide haben die Weltregierungen übernommen, die Erde ist flach, Hexerei sehr real und Schuld an all dem hat die Rothschild-Dynastie. In einem Selbstversuch habe ich die digitale Büchse der Pandora geöffnet – sie ist voll von Fake News, Verschwörungstheorien und radikalen Weltanschauungen.

Social Media-Plattformen spielen bei der Verbreitung von Falschinformationen eine beachtliche Rolle. Seit Ausbruch der Covid-19-Pandemie konnten wir diesen Umstand beobachten. Neue Prediger wurden geboren und sind tief gefallen. Die Inflation und der Ukraine-Russland-Krieg liefern den glühenden Verschwörungsmaschinerien reichlich frisches Material. Wahrscheinlich kennt jede*r von uns Menschen, die für diese Narrative anfällig waren oder eventuell nach wie vor auch noch sind. Auch in meinem Umfeld gibt es diese Person(en). Deshalb habe ich mir die Frage gestellt: Wie lange dauert es, bis in meiner maßgeschneiderte for you page (= der TikTok-Feed) radikale Inhalte und Fake News die Überhand gewinnen? Gefragt, getan!

Mercedes, Mächte, Magie

Schnurstracks war das neue TikTok-Konto erstellt. Vorweg: mein „normaler“, privat genutzter TikTok-Feed beschränkt sich zur Zeit auf teils seltsame Horrorfilm-Empfehlungen, Post-Punk-Neuentdeckungen und Zimmerpflanzentipps (#planttok). Ab und an sehe ich aber auch auf diesem Konto Content, der Falschinformationen beinhaltet.

Die ersten, mir vom Algorithmus präsentierten, Videos waren von radikalen und falschen Inhalten so weit entfernt wie Wien von Texas. Situationen aus dem Schulalltag, schnelle Autos und die stereotypischen TikTok-Tänze poppten auf meiner Bildschirmoberfläche auf. Wer die Plattform und die Feinfühligkeit des Algorithmus kennt weiß: Das kann sich sehr schnell ändern. Von radikalen Veganen-Aktivist*innen bewegte mich die digitale Sortiermaschine rüber ins #witchtok. Ich werde vor dunkler Magie und okkulten Mächten gewarnt. „Keine Geschenke von Menschen annehmen, die du nicht kennst“, meint eine User*in und erinnert mich an den Stranger-Danger-Vortrag meiner Mutter in der Kindheit. Ich lerne: Bibel, Torah und Koran - überall gibt es Dämonen oder etwas ähnliches.

Von hier an wird der religiöse Content konservativer und zunehmend auch radikaler. Und dann steht schon der wiedergewählte Bundepräsident Alexander Van der Bellen im Fadenkreuz von Hass und Polemik. Jörg Haider taucht auf – und das fast auf den Tag genau 14 Jahre nach seinem Ableben.

Ein krasser thematischer Parkour. Hauptverantwortliche dahinter: mein Nutzungsverhalten und der TikTok-Algorithmus.

Der talentierte Mr. Algorithmus

„Algorithmen sind dafür gebaut, um Nutzer*innen möglichst lange in der App zu halten. Dadurch wird ein attraktives Werbeumfeld geschaffen“, erklärt Matthias Jax im FM4-Gespräch. Er ist Projektleiter der EU-Internetinitiative SaferInternet.at. Den Werbewert der Plattform hält der Algorithmus durch seine Selektionsfähigkeit hoch. Er präsentiert uns Inhalte, die uns interessieren könnten. Woher weiß dieses Programm jedoch was mir gefällt? Warum werden mir im Selbstversuch magische Rituale gezeigt? Ganz einfach: Weil ich absichtlich mit diesen Inhalten interagiert habe. Like, Comment, Share – aber nicht nur diese Aktionen sind dafür zuständig.

„Der Algorithmus erkennt sehr schnell wer vor dem Handy sitzt. Da reicht es auch schon aus ein paar Sekunden an einem Video dranzubleiben“, meint Jax. Im Gegensatz zu anderen Social Media-Plattformen ist der Content, der in meinem TikTok-Feed präsentiert wird, nicht unbedingt von meinen Kanal-Abonnements beeinflusst. Einen ganzheitlichen und öffentlichen Einblick in den TikTok-Algorithmus gibt es bisher nicht. Dafür will sich die Europäische Union zusammen mit Initiativen wie SaferInternet.at in Zukunft verstärkt einsetzen. Ein anderer, treibender Faktor von Algorithmen Emotionen. Sie sind der Schlüssel zur Reichweite.

Down the rabbit hole

„Wir beschäftigen uns mit Inhalten die emotional sind. Das nutzen die Algorithmen aus – ähnliche oder noch emotionalere Videos folgen den vorherigen“, so Matthias Jax. Dadurch rutschen User*innen durch die Vorschläge der Selektionsmaschinerie in eine Abwärtsspirale. Einmal in ihr geht es stetig weiter. Immer munter, weiter runter - bis zum rabbit hole.

Rabbit hole, so wird der Zustand genannt in dem User*innen besonders intensiv zu einem Thema recherchieren. Oft springen sie in der Recherche vom Ursprungsinteresse zu schlussendlich völlig unverwandten Themen.

Ein Beispiel: Ich suche nach den innovativsten Indie-Bands 2022. Bemerke, dass ein Großteil von ihnen aus Großbritannien stammt, recherchiere über eine spezifische Region, lese über deren historische Vergangenheit. Schlussendlich lande ich bei den merkwürdigen Wirtschaftszweigen dieser Region im Mittelalter.

Bei heikleren Themen wie Migration, Corona und Krieg können so Positionen extremer werden. „Je aufregender die Inhalte sind, je stärker und einfacher eine Botschaft ist, desto eher schau ich mir das an“, legt SaferInternet.at Projektleiter Matthias Jax dar. Dieser Umstand wird durch einen Blick auf meinen TikTok-Feed bestätigt. Die Magier*innen haben sich scheinbar in Luft aufgelöst. Jetzt steht die Existenz der Covid-19-Pandemie im Mittelpunkt. Die LGBTIQ+-Community wird mit Kinderschändern gleichgesetzt. Der ehemalige US-Präsident Donald Trump soll Jesus Christus‘ Blutlinie entspringen. Humbug!

Doch einige/viele Nutzer*innen scheinen den Botschaften Glauben zu schenken. „Je intensiver ich diese Inhalte konsumiere, desto eher glaube ich die dort dargestellten Dinge“, meint Jax. Eine Radikalisierung ist aber keine fixe Folgeerscheinung. Rückhalt vor dem Abdriften kann das Umfeld und ein halbwegs reflektierter Umgang mit den Inhalten bieten. „Je sicherer und sicherer das Umfeld ist, umso unwahrscheinlicher ist es sich zu radikalisieren“, erklärt Jax.

TikTok statt Google

TikTok-Videos sind nicht chronologisch geordnet. Eine Wahrheitsgarantie gibt’s es ebenfalls keine. Wenig überraschend aber durchaus besorgniserregend – immerhin nutzt Gen Z die Plattform immer intensiver als Google Alternative. Kein Wunder, denn Suchergebnisse werden oft niederschwelliger und verständlicher dargestellt. Selbst wenn Suchmaschinen ebenfalls keine Wahrheitsgarantie leisten, wird angenommen, dass durch TikTok Falschinformationen einen Verbreitungsboost erleben. Auf Seiten außerhalb der App werden Nutzer*innen nur selten geleitet. In weiten Teilen Asiens testet der chinesische Konzern hinter Tiktok ByteDance neue Funktionen um lokalen Content zu filtern. Der Hintergedanke: für regionale Webetreiber*innen relevanter zu werden.

Back to normality

Die Monetarisierungsmaschine rollt. Genau so auch Panzer und andere Kriegsgeräte in meinem TikTok-Feed. Das russische Narrativ eines ukrainischen Nazi-Regimes wird unterstrichen. Barack Obama soll ein Zeitreisender sein. Die Reichen und Mächtigen, vom Teufel gesandt - der lebt sowieso in Hollywood, wo sonst. Dort verdirbt er durch Musik, Film und Popkultur die Jugend. Pädophile und Kinderfresser hier, Antisemitismus da. Q-Anon-Jünger versprühen ihre radikale Ideologie. Schuld an allem haben die Rothschilds und DMT (der Wirkstoff im psychedelischen Pflanzensud Ayahuasca) soll das dritte Auge öffnen.

Ich würde mittlerweile am liebsten alle Augen schließen und beende an dieser Stelle das Experiment. Ein paar Scroller in meinem „normalen Feed: Videos aus der Wiener Lugner City, Tattoonadeln in Slow-Motion und ein Ausschnitt eines Mitski-Konzerts.

Willkommen zurück, Normalität. I’m home again (baby)!