Innert weniger Minuten haben wir ein fiktives Profil auf Tiktok erstellt, wir nennen den Charakter «Remo» und legen sein Alter auf 16 Jahre fest. Und schon kann es losgehen mit dem vermeintlich harmlosen «Swipen» auf dem sozialen Netzwerk. Anfangs sind die Inhalte, die uns vom Algorithmus vorgeschlagen werden, auch genau das – absolut harmlos. Man zeigt uns einen Boxkampf, inspirierende Zitate aus verschiedenen Büchern und bald auch christliche Verse.
Dem Boxkampf geben wir einen Like. Ansonsten sehen wir bewusst davon ab, Inhalte zu liken oder gar zu kommentieren. Denn wir möchten sehen, wohin uns der Algorithmus führt, ohne dass wir ihn mit kritischen oder gar fragwürdigen Inhalten füttern und ihn so möglicherweise beeinflussen. Wir versuchen uns wie ein typischer 16-Jähriger zu verhalten und verweilen auf gewissen Inhalten, wie Kampfsport, Spielen oder sogenannte «Prank-Videos».
Von wilden Verfolgungsjagden zu feurigen Diktator-Ansprachen
Bereits nach etwa fünf Minuten merken wir, wie sich die uns gezeigten Inhalte anfangen zu verändern. Der von künstlicher Intelligenz geführte Algorithmus zeigt uns vermehrt gewalttätige Inhalte. Wir sehen das Video eines Tramunfalls in Zürich, dann Menschen, die von der Polizei verhaftet werden und wilde Verfolgungsjagden. Kurz darauf sehen wir erstmals arabisch-sprachige Inhalte, Verse aus dem Koran oder auch Luftaufnahmen von Moscheen mit arabischer Musik unterlegt. Wir schauen uns diese Inhalte an, liken oder kommentieren aber nichts.
Unser Selbstversuch dauert erst 15 Minuten und die Videos werden emotional aufgeladener. Wir sehen Aufnahmen von Begräbnissen, weinenden Menschen und immer mehr religiöse und teilweise apokalyptisch anmutende Bilder. Nach einer halben Stunde erklärt uns dann ein Mann in einem Video, welche Handlungen sich für einen «guten Muslim» gehören und welche nicht.
Nach nicht einmal einer Stunde Swipen und Wischen sind die Videos dann bereits sehr politisch. Tiktok zeigt uns feurige Ansprachen vom ehemaligen lybischen Diktator Muammar al-Ghaddafi und auch Sadam Hussein erscheint auf dem Handybildschirm. Zwischendurch immer wieder verstörende Bilder von traumatisierten Menschen und Kindern in Kriegsgebieten. Wir haben genug gesehen und brechen den Versuch nach gut einer Stunde ab.
Ein schockierendes Ergebnis
Wir hatten zwar damit gerechnet, früher oder später auf fragwürdige Inhalte zu stossen, dennoch sind wir geschockt darüber, wie schnell das alles ging. Unsere Erwartungen wurden bei weitem übertroffen – leider. Als Journalisten sind wir doch einigermassen abgehärtet, was gewalttätige Inhalte und schwere Themen angehen und dennoch überwältigen uns die Ergebnisse dieses kurzen Selbstexperiments.
Junge Erwachsene und Kinder verbringen aber nicht nur eine Stunde auf Tiktok oder Instagram, oft sind es regelmässig mehrere Stunden am Tag. «Wir wissen inzwischen, dass bei unter 30-Jährigen, das Internet der Hauptradikalisierungsort ist – bei unter 20-Jährigen nochmals mehr», bestätigt Constantin Winkler. Er ist wissenschaftlicher Mitarbeiter am Peace Research Institute Frankfurt und forscht zur Radikalisierung von Jugendlichen im Internet.