„Geheimplan gegen Deutschland“ – so lautet der Titel der kürzlich veröffentlichten Correctiv-Recherche, die ein Treffen von hochrangigen AfD-Politiker*innen, Rechtsextremen und Unternehmer*innen aufdeckte. Unter anderem planten und prüften die Teilnehmenden bei ihrem Treffen in einem Landhotel nahe Potsdam die rechtmäßige Vertreibung von Millionen Menschen aus Deutschland. Menschen, die nicht ihren rassistischen Reinheitsvorstellungen entsprechen. Mit dabei: Ulrich Siegmund, AfD-Landesvorstand Sachsen-Anhalt und TikToks erfolgreichster deutscher Politiker.

Die Terroranschläge der Hamas auf Israel am 7. Oktober stellen das größte Pogrom an jüdischen Menschen seit der Shoah dar. Der damit einhergehende Anstieg von Antisemitismus in Deutschland sowie die Auseinandersetzungen über den Krieg machen auch vor Schulen nicht Halt. Gleichzeitig sind viele Jugendliche durch familiäre Bezüge von der humanitären Katastrophe in Gaza stark betroffen. Hoch emotionalisierte Inhalte und Desinformation auf TikTok und Co. bergen die Gefahr, einen Radikalisierungsprozess anzustoßen und Antisemitismus Vorschub zu leisten. Wie kann ein pädagogischer Umgang aussehen?

Künstliche Intelligenz, Deepfakes und Dekontextualisierungen: Manipulierte oder aus dem Zusammenhang gerissene Videos und Bilder werden gezielt genutzt, um Desinformationen zu verbreiten. Die Flut an Desinformationen und ihre Folgen, die unlängst wieder am Beispiel des Terrors der Hamas gegen Israel am 7. Oktober und dem danach aufkommenden Antisemitismus deutlich wurde, zeigt den immensen Handlungsbedarf im Kampf gegen Desinformationen und wirft die konkrete Frage auf, wie Nutzer*innen Falschmeldungen erkennen können.

Heute widmen wir uns einer der drängendsten Herausforderungen der digitalen Ära: Dem Einfluss von künstlich generierten Desinformationen auf TikTok. Die rasant wachsende Popularität der Plattform hat sie zum perfekten Nährboden für durch Algorithmen erzeugte Falschinformationen gemacht. Wir werfen einen kritischen Blick auf die komplexen Mechanismen hinter diesen Phänomenen und bieten Ansätze, wie wir als Gemeinschaft besser darauf reagieren können.

Weltweit erstarken antifeministische Bewegungen und Strömungen, bei denen die Akteure einer neuen Rechten zuzuordnen sind, die sich in digitalen Räumen vernetzt. Ihr Ziel: Organisierter Frauenhass und die Verbreitung ihrer menschenfeindlichen Ideologie durch “Männlichkeit”. Die Präsenz dieser sogenannten “Manosphere” wird oft in isolierten und obskuren Online-Foren, sogenannten Imageboards, verortet und mit einem Nischen-Dasein assoziiert. Doch digitaler und organisierter Antifeminismus existiert längst nicht mehr nur in abgelegenen Ecken des Internets, sondern ist mittlerweile auf allen populären sozialen Plattformen vertreten und generiert eine enorme Reichweite. Besonders junge Männer zieht es in die männerbündische Gemeinschaft.

Selbsternannte Männlichkeits- und Dating-Coaches werden auf TikTok millionenfach geklickt. In kurzen Videos klären sie Männer darüber auf, was Frauen angeblich denken, brauchen und begehren. Das sei für die Männer selbst häufig ein Rätsel. Aber die Coaches wüssten es genau: Alle Frauen wollten dominante Alpha-Männer. Dieses Ideal könnten auch die Follower erreichen, indem sie die Ratschläge der Coaches befolgten, hart an sich arbeiteten und alles über Frauen lernten, was die Coaches ihnen vermitteln. Doch was für eine Ideologie steckt da eigentlich hinter - und wie gefährlich ist sie?

Ein Schuh, der neben einer Israel-Fahne abgebildet ist: Das ist keine willkürliche Aneinanderreihung von Emojis, sondern bewusst genutzte Codes zur Verbreitung antisemitischer Ansichten auf TikTok. Doch warum wird Hass und Hetze codiert? Und wie verbreitet ist Antisemitismus auf TikTok?

Die Gen Z ist politisch. Zumindest politischer als ihre Eltern-Generation gerne behauptet. Auch in der Auseinandersetzung mit der NS-Zeit fehlt es nicht an Interesse. Die Zugänge der jüngeren Generation sind jedoch anders. Wir haben mit Tobias Ebbrecht-Hartmann über Selfies an Gedenkstätten, Profile von NS-Opfern auf Instagram und Erinnerungsarbeit auf TikTok gesprochen.

Smartphones an Schulen – noch immer ist die Nutzung des Handys und sozialer Netzwerke durch Jugendliche auf dem Schulgelände ein heikles Thema. Lehrer*innen sorgen sich um Datenschutz und abgelenkte Jugendliche im Unterricht. Schüler*innen wollen in der Schule nicht auf ihre digitalen Kommunikationsräume verzichten. Wir beleuchten heute praxisnahe Ansätze, wie TikTok an Schulen nicht verboten werden muss, sondern im Unterricht genutzt werden kann, um Lehrinhalte effektiv zu vermitteln.

Desinformation und Misinformation verbreiten sich auf TikTok auch deshalb so erfolgreich, weil wir den Creator*innen denen wir folgen, einen Vertrauensvorschuss geben oder auf unserer ForYou-Seite nur wahrnehmen, was unsere Meinungen und Einstellungen bestätigt. Hat man Falschinformationen erstmal verinnerlicht, ist es gar nicht so einfach sich dies einzugestehen. Unser Gehirn hat kognitiv Schwierigkeiten, eingeprägte Informationen zu überschreiben. Das sogenannte „Prebunking“ ist eine Strategie, die diesem Effekt zuvorkommen soll, indem präventiv die notwendigen Werkzeuge und Informationen zur Verfügung gestellt werden, um Desinformationen und ihre Wirkmechanismen zu identifizieren.

Eine junge Zielgruppe, ein aufmerksamkeitsbindender Algorithmus, der polarisierende, teils radikale Inhalte belohnt und das alles unter dem Deckmantel einer Lifestyle-Ästhetik: Mit TikTok haben rechtsextreme und andere demokratiefeindliche Akteur*innen eine neue Möglichkeit zur Radikalisierung und Verbreitung ihres menschenfeindlichen Weltbilds gefunden.

Trotz ausgeprägter Wissenslücken hat die Generation Z ein großes Interesse an der Auseinandersetzung mit der NS-Zeit. Jedoch muss die Wissensvermittlung an die Lebensrealität der Jugendlichen anknüpfen. Auf Instagram und TikTok existieren bereits neue innovative Formate.

Informationen auf TikTok werden in den meisten Fällen nach ihrem Unterhaltungswert beurteilt. und erfahren demnach Verbreitung. Die Formel ist einfach, je höher der Unterhaltungswert, desto höher die Reichweite. Entertainment ist nach wie vor das entscheidende Element auf der Plattform. So überrascht es nicht, dass vor allem jene politischen Inhalte vom Algorithmus belohnt werden, die polarisieren. Davon profitieren gerade die Akteur*innen, die einfach kommunizieren und Politik unkompliziert erscheinen lassen. Wir nehmen heute das Umfragehoch der AfD zum Anlass und beleuchten ihre Kommunikationsstrategien auf einer der wichtigsten Sozialen Plattformen, die von anderen Parteien noch massiv vernachlässigt wird: TikTok.

Russell Brand, der britische Komiker, Moderator, Schauspieler und Autor, der in den letzten Jahren immer mehr zu einem Verfechter von Verschwörungsideologien geworden ist, scheint mit TikTok einen neuen Weg gefunden zu haben, seine gefährlichen Überzeugungen zu teilen.

Beige Farben, Tutorials für dezentes Make-Up, verträumte Inneneinrichtung. Der Hashtag #vanillagirl zählt auf TikTok mittlerweile 939.9 Mio. Aufrufe. Besonders junge Menschen lassen sich von solchen Trends beeinflussen. Welche Gefahren damit einhergehen und warum dem Trend Rassismus vorgeworfen wird, erfahrt ihr hier.

Im Jahr 2014 entwickeln Luyu Yang und Alex Zhu die chinesische Musik-App „musical.ly“. Die App fokussiert sich damals auf junge Nutzer*innen, die Songs mitsingen oder dazu tanzen. Einige Jahre später wird die Plattform dann zu „TikTok“ – der Fokus auf Unterhaltung bleibt erhalten. Spätestens mit der antirassistischen „Black Lives Matter“-Bewegung wird jedoch deutlich: Auf TikTok geht es nicht mehr nur um Tanzen und Singen. Über die App werden wichtige gesellschaftliche Debatten geführt, Polizeigewalt dokumentiert und millionenfach geklickt. Die Gen Z vernetzt sich. Was ist seitdem geschehen? Und wie politisch ist die Plattform tatsächlich?

Der Papst in modischen Sneakers und hipper Steppjacke? Angela Merkel und Barack Obama verbringen als Paar ihren Ruhestand zusammen am Strand? Realität oder doch nur Fälschungen? Die Welle neuer Programme und Filter auf Basis Künstlicher Intelligenz (KI) stellt uns vor neue Herausforderungen.

TikTok ist gerade Gegenstand einer aufgeheizten Debatte um Datenschutz und Spionage. Am 23. März musste sich der TikTok-CEO Shou Zi Chew den Fragen republikanischer und demokratischer Abgeordneter im US-Kongress stellen. Die Debatte ließ wenig Raum für eine sachliche Auseinandersetzung mit Datensicherheit auf der Plattform. Die Diskussion um ein Verbot veranschaulicht die Probleme im Umgang mit TikTok. Aber wie steht es tatsächlich um den Datenschutz und wo fehlt es an der nötigen Sachlichkeit?

Im heutigen Newsletter widmen wir uns aktuellen Themen auf der Plattform. TikTok ist gerade Schauplatz von einer modernen „Hetzjagd“ auf die vermutlichen Täterinnen des Mordes an Luise aus Freudenberg. Gleichzeitig werden sensible Informationen verbreitet, die die Polizei bewusst versucht unter Verschluss zu halten – zum Schutz der Angehörigen und der minderjährigen Beschuldigten. Zur selben Zeit geht ein rassistischer Esoteriker auf TikTok viral. Er leitet Jugendliche bei einer bestimmten Art der Tanz-Meditation an – gegen Geld. Er ist ein alter Bekannter.

Wie können wir in der Arbeit mit Jugendlichen TikTok thematisieren und Medienkompetenz fördern? Beim Thema Wissensvermittlung zu sozialen Medien wird häufig nach Anleitungen und Optionen gesucht, die einem das vermeintlich richtige und falsche Verhalten erklären oder vor welchen Gefahren geschützt werden muss. Im Vordergrund sollte jedoch die mündige und souveräne Teilhabe in digitalen Räumen stehen, die durch Kompetenzen und Verständnis erworben wird.

Stell dir vor, du stellst ein Urlaubsvideo von dir und deinen Freund*innen auf eine soziale Plattform – und in der Kommentarspalte sammeln sich sexistische Äußerungen und Hass. Dein Entschluss steht fest: Du willst etwas dagegen tun. Doch was gibt es für Handlungsmöglichkeiten gegen Hate Speech?

Hass und Hetze als Erfolgskonzept: Rechtsaußen-Akteur*innen tarnen sich als unterhaltsame Lifestyle-Influencer*innen und erreichen mit Rassismus und Desinformation täglich Tausende. Für viele sind die sogenannten „Hatefluencer*innen“ ein erster Kontaktpunkt mit extremen Inhalten in sozialen Medien. Aber wieso sind sie so erfolgreich?

ideos mit frauenfeindlichen und rassistischen Aussagen, veröffentlicht mit dem Hashtag #AndrewTate, wurden bis Ende 2022 12,7 Milliarden Mal auf TikTok aufgerufen. Eine folgende Sperrung der Inhalte des ebenso misogynen wie von jugendlichen Männern bewunderten Ex-Kickboxers Tate mit eigener Social Media-„University“ brachte online Begeisterung und Empörung hervor. Die Inhalte sind weiterhin da. Das zeigt: Hate Speech (deutsch: Hassrede) ist mehr als ein Randphänomen auf sozialen Plattformen. Und gar nicht so leicht zu bearbeiten.

Was kannst du Desinformation entgegensetzen? Studien zeigen, dass bloße Fakten oftmals nicht ausreichen. Denn meist sind die Debatten und Glaubenssätze von Emotionen bestimmt und nicht von rationalem Denken. Deshalb sind hier einige Handlungsstrategien, die Dir helfen, richtig aufzuklären.

In unserem letzten Newsletter haben wir uns bereits ausführlich mit den Auswirkungen des Algorithmus-basierten Feeds auf die Verbreitung von Desinformationen auf TikTok beschäftigt. In der heutigen Ausgabe gehen wir näher darauf ein, wie weitere Plattformfunktionen von TikTok die Verbreitung von Falschinformationen befördern und was wir dagegen tun können.

Die Meldung klingt dramatisch: Die Ukraine baut eine „dreckige Bombe“ und will damit radioaktive Waffen gegen Russland im Krieg einsetzen. Der Westen provoziere damit eine nukleare Katastrophe. Derartigen Meldungen begegnet man auf sozialen Medien in den letzten Wochen immer wieder. Es handelt sich dabei um gezielte Desinformation, die Manipulation und Propaganda fördert und bestimmte Weltbilder festigt. Doch was ist daran gefährlich und was hat das mit TikTok zu tun?

„Das sind Fake News!“ – Es ist ein Satz, der wie kein anderer für eine undifferenzierte und knappe Medienkritik genutzt wird. Aber was sind Fake News überhaupt? Wir sprechen in unserem Projekt konkret davon, Desinformation in sozialen Medien zu bekämpfen. Gehören „Fake News“ dazu oder wie unterscheiden sie sich von „Desinformation“ und „Misinformation“? In dieser Ausgabe beleuchten wir, welche Begriffe wir verwenden und wieso – denn bereits die Begrifflichkeiten können irreführend sein. Aber der Reihe nach.