Weiter zum Inhalt Skip to table of contents

Podcast

Podcast #11 Dark Social

Alle Podcastfolgen

Telegram ist zu einer der wichtigsten Plattformen von Rechtsextremen und Verschwörungsideolog*innen geworden. In Zeiten der Corona-Pandemie hat sich die Reichweite ihrer Kanäle und Gruppen dramatisch gesteigert. Warum ist das so? Welche Inhalte werden dort geteilt? Und wieso ist gerade Telegram so attraktiv für rechtsradikale Akteur*innen? In der 11. Folge des de:hate-Podcasts befassen wir uns mit diesen Fragen und sprechen mit der Faktencheckerin und Journalistin Karolin Schwarz (IDZ Jena), dem Monitoring-Experte Miro Dittrich (Projekt de:hate) und dem Politikwissenschaftler Josef Holnburger.

Miro Dittrich: Für Rechtsterrorismus ist Dark Social, vor allem Telegram, die wichtigste Plattform. Hier kann man Bombenanleitungen teilen, hier kann man zum Genozid aufrufen, hier kann man Bilder und Adressen von Menschen teilen mit dem Aufruf, diese umzubringen.

Karolin Schwarz: Und letztendlich ist es schon so, dass es bei Telegram, anders als bei Facebook, und das sehen wir ja in Studien zum Thema Filterblasen und Co., dass es da keinen Widerspruch gibt. Das heißt, man bekommt dann eben genau das, was man abonniert und bekommt es einfach durchgängig.

Josef Holnburger: Da werden Sharepics mit “Guten Morgen” geteilt und da singt Xavier Naidoo dann einfach mal ein Liedchen damit rein. Neben dem findet man aber auch ganz viele geteilte Informationen von Martin Sellner, von Eva Herman, von Leuten, die eindeutig dem rechtsextremen Spektrum zugeordnet werden können.

Was ist Dark Social?

Jeder kennt es, alle nutzen es – und doch ist der Begriff vielen nicht geläufig: Dark Social. Dark Social – das klingt nach der düsteren Seite des Internets, nach etwas Verbotenem, vielleicht Kriminellem, manche denken vielleicht ans Dark Net, – jenem versteckten Teil des Internets, der unsichtbar für alle ist, die mit einem Standard-Browser unterwegs sind. Doch damit hat Dark Social nichts zu tun.

Der Begriff kommt eigentlich aus dem Marketing und beschreibt Verbreitungswege im Internet, die nicht oder nur teilweise öffentlich sind: Das können E-Mails sein, die ohne Tracker verschickt werden, es können Messenger-Dienste wie Telegram, Whatsapp oder geschlossene Facebook-Gruppen sein. Das bedeutet, wir alle nutzen Dark Social fast täglich und – wir nutzen es immer mehr.

Auch Rechtsextreme und Verschwörungsideolog*innen haben in den letzten Jahren ihre Kommunikation verstärkt auf Kanäle im Dark Social gelegt – allen voran auf den Messenger-Dienst Telegram.

In Russland gegründet hat Telegram seinen Hauptsitz mittlerweile in Dubai. Laut Medienberichten hat die Plattform zurzeit rund 400 Millionen Nutzer*innen weltweit – Tendenz steigend. Lange Zeit hielt sich der Mythos, Telegram sei durch eine starke Verschlüsselung besonders sicher – das ist jedoch nicht der Fall. Zwar lässt sich auf Telegram eine Verschlüsselung zwischen zwei Personen erstellen – sie funktioniert aber nicht bei Gruppen und Kanälen.

Und dennoch erfreut sich der Messenger-Dienst zunehmender Beliebtheit – auch unter Rechtsextremen und Verschwörungsideolog*innen. Doch wieso nutzen rechtsextreme Akteur*innen diesen Weg der Kommunikation so intensiv? Welche Vorzüge hat er für sie? Welche Inhalte werden dort verbreitet und wieso wachsen ihre Kanäle und Gruppen seit Corona so unglaublich schnell?

Für Rechtsterrorismus ist Dark Social, vor allem Telegram, die wichtigste Plattform.“

Karolin Schwarz: In den letzten 2-3 Jahren ist Dark Social vor allem in Gestalt von Telegram sehr viel wichtiger geworden für Rechtsradikale.

Karolin Schwarz – sie arbeitet seit vielen Jahren zu den Themen Desinformation und Rechtsextremismus. Seit kurzem forscht sie auch am Institut für Demokratie und Zivilgesellschaft in Jena zu rechtsradikalen Akteur*innen auf Social Media. Die Entwicklung der jüngeren Vergangenheit schätzt sie so ein:

Karolin Schwarz: Es gibt einzelne Leute, die eigene Kanäle betreiben, die in den letzten Wochen und Monaten auf mehrere Zehntausend Nutzer angestiegen sind. Es gibt sehr sehr große Gruppen mit mehreren Tausend Leuten und es gab eine gewisse Bewegung zu Telegram hin. Einerseits, weil einzelne Akteure von den Social Media Plattformen der Masse, also Facebook, Youtube und Co. deplatformed also gesperrt wurden, und die Anhänger dann im Nachhinein aufgerufen wurden sich eben zu Telegram zu bewegen.

Deplatforming – der Begriff beschreibt, was auf Facebook und Co seit einiger Zeit häufiger passiert: Akteur*innen, die Soziale Netzwerke für Demokratiefeindlichkeit und gruppenbezogene Menschenfeindlichkeit nutzen werden gesperrt und von den Plattformen verbannt. Damit verlieren sie wichtige Verbreitungswege für ihre Propaganda und ihren Hass. Plattformen sperren Kanäle von Einzelpersonen oder Gruppen, wenn diese mehrfach schwer gegen Community Guidelines verstoßen.

In leichteren Fällen werden Kanäle zeitweise gesperrt oder der Zugang wird erschwert, indem die Kanäle durch den Algorithmus weniger sichtbar gemacht werden. Prominentestes Beispiel für Deplatforming in der rechtsextremen Szene, ist Martin Sellner, Kopf der Identitären Bewegung.

Erinnerst du dich noch als sie aus unserer Mitter verschwanden […] und als Gipfel dieses digitalen Vernichtungsschlages, dieser Vaporisierung auch mein geliebtes Instagram-Profil aus dem Netzwerk verschwand.“[1](Martin Sellner)

Miro Dittrich: Dark Social wurde schon immer viel genutzt. Die große Wendung, die wir in Deutschland gesehen haben, ist, als Martin Sellner im Sommer 2018 von Facebook und Instagram gesperrt wurde, und die Identitäre Bewegung. Und er hat danach aufgerufen, dass man ihm auch am Kanal (auf Telegram) folgen soll.

Miro Dittrich vom Projekt de:hate der Amadeu Antonio Stiftung. Er beobachtet rechtsextreme und rechtspopulistische Phänomene im Internet. Dass durch Deplatforming zentrale rechtsextreme Akteur*innen von großen Plattformen vertrieben werden, sei der wichtigste Faktor für die vermehrte Nutzung von Telegramkanälen. Aber es gibt auch noch andere Vorteile:

Miro Dittrich: Dass man zum Beispiel Kanälen folgt und nicht wie normal auf Social Media einfach runterscrollt und einfach algorithmisch etwas vorsortiert bekommt, sondern dass man sich genau auswählen kann, welchen Kanal, von wem will ich gerade etwas sehen? Wenn Desinformation widerlegt wird, die meisten Social Media-Plattformen ranken das dann runter, das kann einem auf Telegram nicht passieren. Diese geschlossene Communities – Martin Sellner zum Beispiel, nennt es seine Telegram-Elite… Für die Super-Fans quasi – das ist ein verschworener Kreis, das hat natürlich ein hohes Identitätsgefühl. Und was wir sehen ist, dass viele dieser Akteure dort auch an seinem Alltag teilnehmen. Martin Sellner geht dann irgendwie in einen Laden und kauft seinen Anzug für seine Hochzeit und macht so Stories. Das führt alles dazu, dass man eine persönliche Bindung zu den Personen aufbaut und ihnen dann nachher mehr traut. Das nennt sich parasoziale Beziehungen. Die kann man natürlich über so geschlossene Sachen sehr gut fördern.

Messenger-Dienste wie Telegram suggerieren einen höheren Grad an Privatheit. Die Abonnent*innen haben nach kurzer Zeit das Gefühl, den Absender wirklich zu kennen, es entsteht eine Bindung. Und wen ich meine zu kennen, dem glaube ich eher, wenn er Inhalte verbreitet – auch wenn diese ideologisch verzerrt oder falsch sind. Durch das Vertrauen wird die Echtheit von Inhalten viel weniger hinterfragt. Und das erhöht die Wirkungsmacht rechter Falscherzählungen enorm. Karolin Schwarz:

Karolin Schwarz: Man teilt Videos, man teilt Bilder, man teilt Artikel. Da unterscheidet sich die Kommunikation in Sachen Inhalten oft nicht so sehr, aber es hat eben andere Konsequenzen, insofern, dass man eben eher das Gefühl hat man kommuniziert privat miteinander ohne das andere Menschen eben zugreifen auf die Kommunikation.

Miro Dittrich: Was sehr deutlich wird ist, dass viele dieser Menschen keine Community außerhalb dessen haben und sich sehr alleine fühlen. Eine der Hauptmotivationen ist, dass man sich hier “Guten Morgen” und “Gute Nacht” sagt und irgendwie über private Sachen auch viel austauscht.

Der große Vorteil von Telegram im Gegensatz zu WhatsApp: Handynummern werden nicht angezeigt – das einzige was man von den anderen Gruppenmitgliedern sieht, ist das Profilbild, und das kann jeder selbst einstellen.

Miro Dittrich: Man ist dort sehr anonym, was auch ein großes Problem für die Strafverfolgungsbehörden ist, dass nicht klar ist, wer hier eigentlich unterwegs ist.

Strafverfolgungsbehörden hätten Telegram ohnehin noch nicht genug auf Schirm, sagt Karolin Schwarz. In der rechtsextremen Szene fühle man sich dort deshalb weitgehend unbehelligt:

Karolin Schwarz: Es gibt durchaus auch immer wieder Wortmeldungen, die sagen, wir müssen aufpassen, auch hier gibt es wahrscheinlich irgendwelche verdeckten Ermittler oder Journalisten, die in den Gruppen und Kanälen unterwegs sind. Aber trotzdem fühlt man sich noch einigermaßen frei in der Kommunikation, deshalb ist das definitiv ein Faktor. Also man fühlt sich weniger beobachtet, man tauscht sich einfach freier aus um das mal in Anführungszeichen zu setzen. Weil letztendlich geht das mit Gewaltphantasien einher zum Beispiel.

Anders als bei WhatsApp begrenzt Telegram die Anzahl der Empfänger*innen nicht, wenn es um die Weiterleitung von Nachrichten geht. Bereits Anfang 2019 beschränkte WhatsApp die Weiterleiten-Funktion auf maximal fünf Personen. In Zeiten von Corona ging die Plattform nun noch einen Schritt weiter: Bereits weitergeleitete Nachrichten können aktuell nur noch an einen anderen Chat geschickt werden. So soll die Verbreitung von Falschnachrichten und Verschwörungserzählungen eingedämmt werden.

Zudem beschränkt WhatsApp Gruppenchats auf maximal 256 Mitglieder – bei Telegram sind Gruppen bis zu 200.000 Mitgliedern möglich. Und bei Telegram-Kanälen können unbegrenzt viele Abonnent*innen erreicht werden. Telegram ist somit der Highway unter den Messengerdiensten, auf dem sich Nachrichten, Fake News und rechtsextreme Propaganda in Windeseile verbreiten lassen. Zudem bietet Telegram die Möglichkeit, andere Telegram-User*innen in der näheren Umgebung aufzuzeigen – auch das nutzen Rechtsextreme für ihre Vernetzung.

Die Chancen, die Telegram für die Mobilisierung der rechtsextreme Szene bietet, wurden vor allem im August 2018 sichtbar. Damals instrumentalisierten rechtsradikale Akteur*innen den Mord an Daniel H. und mobilisierten die Szene in kürzester Zeit nach Chemnitz. Miro Dittrich:

Miro Dittrich: Um den instrumentalisierten Mord in Chemnitz gab es ja sofort Ausschreitungen und Aufrufe zu weiteren Demonstrationen. Viele der rechtsextremen und rechtspopulistischen Leute dachten, es ist jetzt die große Fanfare, es ist jetzt der große neue Weg: Wir können jetzt hier beginnen mit der Revolution, die wir uns irgendwie erträumt haben. Es gab also sehr viel Hoffnung und es wurde viel zu Demos dorthin mobilisiert. Dort hat sich vor allem die Stärke von privaten Messengern gezeigt, wo man neue Nachrichten als Benachrichtigung aufs Handy bekommt und nicht erst auf Facebook gehen und dann ganz weit runter scrollen muss. Sondern diese Aufrufe zu Demos zu gehen, waren sofort da.

Einen weiteren Vorteil, den Telegram bietet, ist die Möglichkeit, Bots zu programmieren – automatisierte Computerprogramme, die z.B. automatisch jeden Artikel posten, der auf einer Website erscheint. Der Vorteil: Die Benutzer*innen werden direkt über die Neuerscheinung informiert, ohne dass man selbst etwas posten müsste – viel Content bei wenig Aufwand. Bots werden auch von der Tagesschau oder Nachrichtenmagazinen genutzt, aber auch rechtsalternative Medienangebote machen davon Gebrauch.

Telegram-Kanäle: Ein abgeriegeltes Biotop

Während Falschinformationen oder menschenverachtende Kommentare auf Facebook oder Twitter durchaus Gegenreaktionen in Form von Counter Speech und Moderation bekommen, bleiben Telegram-Gruppen und -Kanäle davon unberührt. Auch Telegram selbst löscht so gut wie keine Inhalte. Ein Eldorado für rechtsextreme Propaganda:

Karolin Schwarz: Letztendlich ist es schon so, dass es bei Telegram, anders als bei Facebook, das sehen wir in Studien zum Thema Filterblasen und Co., keinen Widerspruch gibt. Das heißt man bekommt dann eben genau das was man abonniert und bekommt es einfach durchgängig. Und wenn das eben die Identitäre Bewegung ist oder andere, dann bekommt man eben gar keinen Widerspruch. Keine anderen Informationen mehr.

Telegram-Kanäle und -Gruppen sind ein weitgehend abgeriegeltes Biotop. Hier findet keine Form der Gegenrede mehr statt, es werden keine anderen Informationen mehr ausgetauscht – man bleibt unter sich. So können sich rechtsextreme Weltbilder gut festsetzen, die Radikalisierung schreitet in der rechten Echokammer von Telegram schnell voran.

Karolin Schwarz: Dazu kommt, dass eben viele von diesen Kanälen und Gruppen sich sehr stark untereinander teilen. Das heißt, man bekommt eben neben den Informationen der Kanäle die man eh schon abonniert hat auch noch weitere aus dem gleichen Spektrum immer wieder vorgesetzt. Es gibt eigentlich keine Möglichkeit, dass Inhalte von Kanälen, die in irgendeiner Form nicht rechtsradikal sind, also weit ab von diesem politischen Spektrum unterwegs sind, in diesen Kanälen noch stattfinden.

Wie auf Social Media üblich, werden auch auf Telegram Bilder, Videos, Texte und Verlinkungen geteilt. Die konkreten Inhalte unterscheiden sich von Gruppe zu Gruppe. Aber rechtsradikale Akteur*innen nutzen Telegram besonders gerne, um ganz bestimmte Nachrichten zu verbreiten. Miro Dittrich:

Miro Dittrich: Besonders beliebt sind dabei natürlich Aufrufe zu Gewalt oder konkrete Menschenverachtung, weil das Inhalte sind, die auf anderen Plattformen nicht geteilt werden können. Auch sehr beliebt ist, wenn etwa YouTube-Videos von YouTube gelöscht werden, weil sie als Desinformation erkannt wurden oder weil sie menschenverachtende Elemente enthalten. Dann werden die nochmal auf Telegram geteilt – So „wir wurden zensiert, aber hier findet ihr sie noch“. Das ist auf jeden Fall ein starkes Alleinstellungsmerkmal von Telegram.

Telegram bietet nicht nur die Möglichkeit, verbotene Videos zu teilen. Auch rechtsextreme Musik, die indiziert wurde, wird viel auf Telegram verbreitet. Viele rechtsextreme Bands und Konzertveranstalter haben hier eigene Kanäle und Gruppen. Neben dem Teilen verbotener Musik, werden so auch Rechtsrock-Konzerte organisiert.

Miro Dittrich: Dort werden aber auch Handynummern gepostet mit “Bitte nicht öffentlich teilen, dann und dann spielt die Band in dieser Stadt. Hier könnt ihr anrufen, wo genau das ist.“ Ansonsten gibt’s natürlich auch Angebote, die es überall gibt, wie Einzelfallinfos, also Sammlungen, wo vermeintliche oder tatsächliche Straftaten von migrantisierten Personen geteilt werden.

Ziemlich einfach lassen sich auf Telegram auch eindeutig rechtsterroristische Inhalte finden. Atomwaffen-Division, Iron March, Feuerkrieg Division – unter diesen Kanal-Namen werden Videos geteilt, in denen maskierte Männer im Wald Schießübungen mit automatischen Waffen machen. Hakenkreuze, Aufrufe zum Massenmord und Anschlagspläne werden hier unbehelligt von den Sicherheitsbehörden ausgetauscht. Auch das Video des rechtsextremen Anschlags von Halle, wurde auf Telegram verbreitet. Anders als auf anderen Plattformen, die das Video schnell löschten, ist es hier immer noch in bestimmten Kanälen zu finden

Miro Dittrich: Für Rechtsterrorismus ist Dark Social, vor allem Telegram, die wichtigste Plattform. Hier kann man Bombenanleitungen teilen, hier kann man zum Genozid aufrufen, hier kann man Bilder und Adressen von Menschen teilen mit dem Aufruf, diese umzubringen. Hier kann man sehr offen über Dinge reden, die auf anderen Plattformen längst gelöscht werden. Gleichzeitig gibt es einen Schutz, dass man nicht verfolgt wird, weil nicht klar ist, wer diese Inhalte dort teilt.

Unter den Akteuren, die klar identifizierbar sind, weil sie einen Kanal mit ihrem Namen betreiben, war Martin Sellner lange Spitzenreiter unter den rechtsextremen deutschsprachigen Telegramkanälen. Das hat sich in den letzten Wochen jedoch geändert:

Miro Dittrich: Mittlerweile, dank der Corona-Verschwörung Welle, hat ein anderer Kanal, ein verschwörungstheoretischer Kanal, der aber auch immer wieder rechtsextreme Elemente bedient, Oliver Janich, ihm den Rang abgelaufen. Es gibt da schon klare Meinungsführer, aber es gibt auch sehr viele Kanäle, die nur 200 Leute haben, die entweder lokal spezifisch sind oder die ihre eigenen kleinen Communities aufgebaut haben. Also es ist ein sehr diverses Feld.

Verschwörungserzählungen und Corona

Hallo Leute, dies ist ein zweiteiliges Videos. Den zweiten Teil könnt ihr nur auf Telegram finden.“[2] (Oliver Janich)

Oliver Janich – ehemaliger Finanzjournalist, der früher auch mal für die Süddeutsche Zeitung schrieb, ist heute gut vernetzt in der rechtsextremen Szene. Auf YouTube und Telegram verbreitet er Verschwörungserzählungen – und das mit großem Erfolg: Zuletzt nahm die Zahl seiner Follower auf beiden Plattformen enorm zu – auf Telegram erreicht er zurzeit 125.000 Abonnent*innen. Mit dieser Entwicklung liegt er voll im Trend.

Denn seit dem Ausbruch der Corona-Pandemie in Deutschland, erfahren Verschwörungserzählungen sprunghaft mehr Verbreitung. Im März und April wuchs die Zahl der Abonnent*innen von verschwörungsideologischen Kanälen und Gruppen auf Telegram rasant an. Danach zeigte sich das Mobilisierungspotential der neuen Bewegung auch auf der Straße.

Mehrere Tausend Personen besuchten die Hygiene-Demos und Kundgebungen der sogenannten Corona-Rebellen überall in Deutschland. Zu hören waren dabei immer wieder Verschwörungserzählungen zur Corona-Pandemie – vielerorts mischten sich auch Rechtsradikale und Neonazis unter die Demonstrant*innen.

Einer der sich mit Verschwörungserzählungen im Kontext von Corona intensiv befasst, ist der Politikwissenschaftler Josef Holnburger. Er beobachtet diverse Kanäle und Gruppen auf Telegram.

Josef Holnburger: Im Moment ist das Hauptthema logischerweise Corona, das ist ja auch das Hauptthema in den regulären Medien. Aber was auf diesen Kanälen herumgeistert sind vor allem Verschwörungserzählungen. Dass es z.B. nur eine Erfindung wäre, der Virus gar nicht existieren würde. Andererseits wird dann erzählt, dass es eine Biowaffe wäre, die jetzt ausgebrochen ist. Dann wird es wiederum mit 5G oder Impfungen generell in Verbindung gebracht. Da gibt es sehr viele Verschwörungserzählungen, die sich teilweise gegenseitig eigentlich widersprechen würden.

Das ist eine Weltregierung über die WHO, die Vorgaben gibt für die einzelnen Länder […]“[3] (Attila Hildmann)

Zu den prominentesten Vertretern kruder Corona-Verschwörungsideologien gehört aktuell Attila Hildmann – Fernsehkoch, Autor veganer Kochbücher, und prominenter Verschwörungserzähler. Zu ihm gesellt sich Xavier Naidoo, der bereits seit vielen Jahren durch verchwörungsideologische und antisemitische Äußerungen auffällt. In Zeiten von Corona läuft auch er zu besonderer Höchstform auf:

Also wenn ich es richtig verstehe, werden in diesen Momenten in verschiedenen Ländern der Erde Kinder aus den Händen pädophiler Netzwerke befreit.“ [4] (Xavier Naidoo)

Josef Holnburger: Und bei Xavier Naidoo sieht man sehr stark, dass das eben auch nicht bei einer Verschwörung haltmacht. Xavier Naidoo teilt auf seinem Kanal, dort wo einseitige Information stattfindet, mittlerweile auch Beiträge von Kanälen, die “Flache Erde” im Titel haben. Man sagt ja oft, dass antisemitische Chiffren in Verschwörungen genutzt werden. Das heißt zum Beispiel wird dann von den Rockefellers oder von den Bilderbergern gesprochen. Mittlerweile nutzt Xavier Naidoo nicht mal mehr diese Chiffren, sondern spricht dann direkt von Jüdinnen und Juden. Bei ihm merkt man sehr schnell, wie diese Radikalisierung stattgefunden hat oder wie er zumindest mittlerweile auch kein Blatt mehr vor den Mund nimmt. Und da teilweise wirklich eindeutig antisemitische Inhalte auf seinem Kanal gepostet werden und er in den Gruppen auch noch starken Zuspruch von seinen Fans bekommt. Wenn man das ein bisschen beobachtet, dann ist das durchaus erschreckend, wie sehr der Rückhalt von einzelnen Personen gegeben wird, solche antisemitischen Geschichten und Bilder und Sprüche weiterzuverbreiten. Und wie das dann die Leute auch noch selbst tun.

QAnon – Die Superverschwörung

Eine Verschwörungserzählung, die seit der Corona-Pandemie besonders starke Verbreitung findet, und auch prominent von Xavier Naidoo aufgegriffen wurde, ist die sogenannte QAnon-Verschwörungerzählung.

Josef Holnburger: Ich habe auf Twitter mal gelesen, dass man diese Erzählung nicht beschreiben kann, ohne selbst ein bisschen wirr zu wirken. Worum geht‘s da? Es geht um einen Nutzer, der sich “Q” nennt, der angeblich ein Insider im Weißen Haus oder im US-Militär ist und der in einem anonymen Forum im Internet berichtet wie Donald Trump gegen einen geheim agierenden, unglaublich mächtigen Deep Staat vorgehen würde. Dieser Deep State wird konstruiert aus zum Beispiel Hillary Clinton oder Barack Obama, die da mitwirken würden, neben vielen anderen Menschen, die global agieren und dabei so abgrundtief böse wären, dass sie zum Beispiel Kinder in geheimen Untergrundeinrichtungen gefangen hielten und dort das Blut der Kinder abzapfen würden, um daraus Drogen zu synthetisieren und die dann zu sich zu nehmen. Letzteres ist keine neue Verschwörungserzählung, sondern eigentlich eine sehr alte. Es basiert ein bisschen auf der antisemitischen Ritualmordlegende. Dem hat man nur einen neuen Anstrich gegeben. Was diese Verschwörungserzählung so problematisch macht ist, dass sie ein abgrundtief Böses konstruiert. Das heißt, da reicht es nicht einmal mehr monetäre Gründe oder ähnliches in die Verschwörung rein zu dichten, sondern da wird es sogar so böse gemacht, dass es quasi selbst nicht vor Kindern Halt machen würde.

Wie alle Verschwörungserzählungen konstruiert auch QAnon ein Feindbild, in diesem Fall ein besonders abgrundtief böses. Gefährlich ist daran vor allem, dass mit diesem Feindbild ein Handlungsdruck erzeugt wird, denn wer weiß, woran die Welt krankt, wer Schuld ist an Krisen – und im Fall von QAnon sogar am Missbrauch unschuldiger Kinder – der muss handeln.

Josef Holnburger: Es haben sich bereits mehrere Anschläge und Gewalttaten aus dieser Erzählung ergeben. Zum Beispiel hat sich der rechtsextreme Terrorist in Hanau auf genau diese Erzählung mit den vermeintlichen Untergrund-Einrichtungen von Kindern bezogen und damit auch in seinem Manifest kundgetan, dass er sich dagegen wehren würde. Und wenn man das weiterdenkt, dann kann man mit so einer Erzählung natürlich sehr viele gewalttätige oder radikale Maßnahmen rechtfertigen gegen diese abgrundtiefen Verschwörer. Und das macht eben diese Erzählung insgesamt so kritisch und auch problematisch, weil sie einerseits antisemitische alte Verschwörungserzählungen bedient und andererseits eben auch jede Maßnahme gegen diese vermeintlichen Verschwörer rechtfertigen würde.

QAnon ist die eierlegende Wollmilchsau unter den Verschwörungserzählungen – eine Art Superverschwörung, die viele Bestandteile unterschiedlicher Verschwörungs-erzählungen vereint. Das macht sie auch so attraktiv, weil jeder und jede, die irgendwie an andere Verschwörungselemente glaubt, diese dort wiederfinden kann. Als die Maßnahmen zur Eindämmung von Covid-19 stärker wurden, beobachtete Josef Holnburger einen regelrechten Boom an QAnon-Verschwörungskanälen. Innerhalb kürzester Zeit konnten sich diese Kanäle massiv vergrößern von beispielsweise 10.000 auf mittlerweile 120.000 Abonnent*innen. Auch Miro Dittrich beobachtet diesen enormen Zuwachs in seiner Monitoring-Arbeit:

Miro Dittrich: Wenn wir uns etwa die sehr abstruse Verschwörungserzählung um QAnon anschauen, haben die Gruppen sich dort so ab 15. März innerhalb von 14 Tagen verdoppelt.

Bei der wachsenden Verbreitung von Verschwörungserzählungen während der Corona-Pandemie, spielen auch prominenten Persönlichkeiten eine wichtige Rolle, so Josef Holnburger:

Josef Holnburger: Das Problematische, wenn das gerade Bekanntheiten machen, die damit vorher vielleicht noch nicht in Verbindung standen, ist, dass sie ein neues Publikum erreichen und mit auf eine Plattform nehmen, das sich dort dann wieder stärker radikalisieren könnte. Attila Hildmann und Xavier Naidoo, auch wenn Xavier Naidoo vorher kein unbeschriebenes Blatt war, haben ein sehr großes Publikum erreicht auf anderen sozialen Medien wie zum Beispiel Facebook und Instagram und haben dort auch massiv dafür Werbung gemacht, dass man ihnen auf der neuen Plattform Telegram folgen sollte. Und höchstwahrscheinlich sind auch einige der Fans dort mit einem neuen Universum, mit neuen Erzählung konfrontiert und möglicherweise eben radikalisiert worden. Und damit erweitert sich das Spektrum von Menschen, die Verschwörungsideologien verbreiten, auf ein neues Publikum, das durchaus gefährlich werden könnte.

Über diesen Weg kommen dann Personen, die zum Beispiel Xavier Naidoo wegen seiner Musik gut finden oder aus dem Fernsehen kennen, in Kontakt mit weiteren rechtsextremen Akteur*innen. Josef Holnburger über die Vernetzung der rechten Verschwörungsszene:

Josef Holnburger: Was wir da sehen ist, dass zum Beispiel bei den Gruppen, die Attila Hildmann oder Xavier Naidoo betreiben, sehr viele Links von QAnon und von Martin Sellner nochmal gepostet werden. Da gibt es eine sehr starke Vernetzung mit Rechtsextremen und mit rechten Verschwörungsideologen, die in den Gruppen stattfindet.

Neben der Feindbildkonstruktion, liegt die Gefahr von Verschwörungserzählungen auch darin, dass sie eine Meta-Erzählung kreieren, bei der der Untergang der Welt kurz bevorsteht. In der Welt von Verschwörungsgläubigen ist es immer kurz vor 12. Ein apokalyptischer Zustand, den es mit allen Mitteln zu verhindern gilt.

Miro Dittrich: Es gibt eine Gefahr, die Deutschen werden ausgelöscht, entweder die „biologischen Deutschen oder die „kulturellen“ Deutschen. Es gibt eine geheime Elite, die etwas gegen sie plant, die die Deutschen vernichten will. Es gebe keine Meinungsfreiheit, die Presse sei gesteuert. Und vor allem gibt es eine Invasion von islamischen Barbaren, wie sie es sehen würden. Also es ist ein Bedrohungspotenzial, das natürlich genutzt wird, einen Handlungsdruck aufzubauen oder eine bestimmte Partei zu wählen. Und das ist sehr gefährlich, weil dort entsteht so eine Art Kultverhalten. Und leider sehen wir, dass dieser Handlungsdruck sich bei vielen Menschen nicht nur darin entlädt, dass sie irgendwie in Dresden im Kreis gehen oder rechtspopulistische Parteien wählen, sondern dass sie denken “Ich muss jetzt irgendwie meine Familie schützen und losziehen und Gewalttaten oder Terrorakte begehen.”

Die Erzählungen einer bevorstehenden Apokalypse, treffen seit Ausbruch der Corona-Pandemie auf eine Krisensituation, in der viele Fragen offen sind und sich Erkenntnisse in kurzen Abständen ändern können. Eine Situation, die Verschwörungsideologen in die Hände spielt. Karolin Schwarz:

Karolin Schwarz: Es gibt diese Theorie von den Data Boyz die besagt, dass bestimmte Akteure ausnutzen, wenn es Wissens- oder Datenlücken gibt. Und das ist jetzt gerade eine riesige Wissens- oder Datenlücke. Das heißt, es gibt kaum Informationen, die uns sagen, wie wir aus dieser Krise wirklich sicher wieder rauskommen, zum Beispiel. Und das wird genutzt. Es wird genauso genutzt um zu sagen, jemand hat Antworten und jemand hat ein Medikament gefunden und Menschen, die Impfstoffe entwickeln, sind alle böse und wollen uns kontrollieren. Diese ganzen Dinge greifen eben in diese Datenlücke rein.

Die Weltgesundheitsorganisation, WHO, erkannte dieses Problem in der Corona-Krise früh und warnte bereits Anfang Februar vor der massiven Verbreitung von Falschinformationen über Covid-19. Sie sprach von einer Infodemie.

In dieser Situation, die geprägt ist durch Unsicherheiten und Datenlücken, ist Dark Social sehr wichtig geworden. Durch scheinbare Insiderinformation, die in Kanälen geteilt werden, erleben Leute eine gewisse Ermächtigung und ein Kontrollgefühl. Der aus dem apokalyptischen Bedrohungsszenario entstehende Handlungsdruck hat sich in der Krise noch verstärkt. Es ist nicht mehr kurz vor 12, es ist nun 12.

Miro Dittrich: Was wir gesehen haben, ist, dass zu Beginn der Corona-Krise in den USA ein Mann mit einem Auto voller Sprengstoff zu einem Krankenhaus gefahren ist, weil er es in die Luft jagen wollte. Diese Personen zum Beispiel war in zwei dieser Terrorgruppen online aktiv in Telegram.

Eine ganz konkrete, tödliche Gefahr geht von rechtsterroristischen Gruppen aus. Das Momentum der Unklarheit, der Krise, ist genau die Situation, die sie herbeigesehnt haben. Und diesen Ausnahmezustand nutzen sie nun gezielt für ihre gefährliche Propaganda.

Miro Dittrich: Was wir aber auch sehen, ist, dass etwa terroristische Gruppen sagen man muss diesen Zustand jetzt noch verschlimmern, indem man etwa Anschläge auf Krankenhäuser oder auf den Strombetrieb nimmt, um die Krise zu vergrößern, um so ein größeres revolutionäres Potenzial zu haben, aus dem man dann ein Bürgerkrieg hat um den faschistischen Umsturz zu starten.

Die Gefahr, die von Verschwörungserzählungen und rechtsextremer Propaganda auf Telegram ausgeht, ist offensichtlich. Aber was lässt sich konkret dagegen tun? Aktuell wird diese Gefahr von den Sicherheitsbehörden nicht ernst genug genommen. Darin sind sich Miro Dittrich, Josef Holnburger und Karolin Schwarz einig. Die intensive Beobachtung rechtsradikaler Telegram-Kanäle sei jedoch auch nicht ohne erheblichen Aufwand möglich. Karolin Schwarz:

Karolin Schwarz: Es gibt Leute, die sich da ganz gut auskennen, auch in den Behörden. Aber es gibt eben zu wenige und das betrifft auch Dark Social. Und gerade weil die Entwicklung relativ rasant ist, was zum Beispiel neue Plattformen aber auch neue, wichtige Kanäle und Gruppen betrifft, ist es relativ schwer alles im Blick zu behalten. Und die Behörden sind oftmals immer eher einen Schritt hinterher.

Es gibt einfach sehr, sehr viele Orte, an denen Menschen sich radikalisieren. Wenn man sich die Erkenntnisse zu Stefan B. und dem Anschlag in Halle anguckt, waren das nochmal andere Kanäle als zum Beispiel im Fall von Hanau und andere Kanäle als im Fall von El Paso und Christchurch. Das alles im Blick zu behalten, weil natürlich auch Menschen in Deutschland die gleichen Kanäle konsumieren wie zum Beispiel der Terrorist von Christchurch, ist eine relativ große Aufgabe.

Ein wichtiger Schritt wäre, in Ausbildung und Fortbildung zu investieren, um Expertise bei Polizei und Justiz aufzubauen. Voraussetzung dafür ist jedoch, dass die Gefahr wirklich ernst genommen wird. Josef Holnburger:

Josef Holnburger: Ich glaube, dass man diese Verschwörungserzählung durchaus auch ernst nehmen müsste und ich glaube, dass das derzeit von Staatsanwaltschaften oder von der Polizei noch nicht ernst genug genommen wird. Gerade Verschwörungserzählungen wie diese QAnon-Erzählung sind gefährlich und wenn wir das thematisieren erfahren durchaus einige Menschen, wie auch ich, immer sehr viel Hass. Ich erhalte dann Drohungen per Twitter und Facebook oder Instagram, die Leute suche auch mein privates Profil auf. Ich glaube, dass das viel stärker thematisiert und auch problematisiert werden muss, dass es tatsächlich auch Bedrohungen für Personen gibt, die sich zu dem Thema engagieren.

Karolin Schwarz: Es gibt ganz, ganz viele Menschen, die online davon berichten, sie seien zur Polizei gegangen um Bedrohungen von Rechten anzuzeigen und seien nicht ernst genommen worden. Das sind so Sachen, die müssten eigentlich priorisiert werden und werden nicht priorisiert. Da liegt eines der größten Probleme.

Fehlendes Vertrauen in die Behörden sei ein großes Problem, so Karolin Schwarz. Zusätzlich erschüttert werde das Vertrauen noch durch rechtsextreme Netzwerke in Polizei und Bundeswehr, die in den letzten Jahren immer wieder für Schlagzeilen sorgten.

Karolin Schwarz: Auch da braucht es eine konsequente Aufklärung, um Vertrauen wiederherzustellen. Gerade von Menschen, die betroffen sind von Rassismus, rechten Anfeindungen und so weiter.

Einige Forderungen, die von der Politik diskutiert werden, um auf das Problem rechtsextremer Radikalisierung in Dark Social zu reagieren, findet Miro Dittrich jedoch auch problematisch. Zum Beispiel, dass das Innenministerium forderte, man bräuchte Programme um die Verschlüsselung von Messenger-Diensten zu knacken.

Miro Dittrich: Darum geht es nicht. Das halte ich für einen großen Einschnitt in Grundrechte. Und tatsächlich, wenn man sich die konkreten Fälle anschaut, hätte das ja nie was gebracht. Und so wie ich unterwegs bin, ist sehr viel dieser Inhalte offen auffindbar. Also man muss gar nicht so weit gehen irgendwie Verschlüsselungen zu knacken.

Auf Gesetzesebene sei es schwierig, auf Telegram voranzukommen, so Dittrich. Unter das vielfach kritisierte Netzwerkdurchsetzungsgesetz, kurz NetzDG, fällt Telegram als Messenger-Dienst nicht.

Miro Dittrich: Ich glaube, wenn wir Telegram dazu bringen wollen Gesetze einzuhalten, müsste das auf eine EU-Ebene gehen. Es kann einfach nicht sein, dass wenn Telegram ihr Produkt in Europa anbietet, dass sie sich hier nicht an deutsche Gesetze halten.

Um der Gefahr von Verschwörungserzählungen zu begegnen, nehmen auch die Plattformbetreiber*innen eine wichtige Rolle ein. Ein zentraler Baustein ist dabei, Falschnachrichten zu identifizieren und ihre Verbreitung zu begrenzen. Gute Ansätze erkennt Miro Dittrich bei WhatsApp. Der Messenger-Dienst kennzeichnet vielfach weitergeleitete Nachrichten, um ein unreflektiertes Teilen zu vermeiden. Zudem testet WhatsApp im Moment eine Funktion mit der Nachrichten direkt im Messenger überprüft werden können.

Josef Holnburger verweist noch auf ein weiteres Problem. Es genüge nicht zum Beispiel Videos auf YouTube, die Falschinformationen und Verschwörungs-erzählungen enthalten, schwerer zugänglich zu machen, indem sie vom Algorithmus weniger stark angezeigt werden. Denn über Messenger-Dienste werden YouTube-Videos nicht über die Suche bzw. den Algorithmus gefunden, sondern direkt per Nachricht weitergeleitet. Der Algorithmus von YouTube spielt in diesem Fall gar keine Rolle.

Josef Holnburger: Das heißt, es reicht nicht, einfach nur das in der Suche niedriger zu ranken, sondern man muss den tatsächlichen Umgang mit diesen Verschwörungserzählungen nochmal finden, der darüber hinausgeht. Zum Beispiel, indem man direkt vor das Video Informationen von einer Seite einblendet. Oder indem man Personen, die einen Beitrag teilen wollen darauf hinweist, dass es Falschinformationen sind, die in dem Beitrag geteilt wurden. Oder, das ist für mich auch ein Punkt, bei antisemitischen Verschwörungserzählungen muss auch tatsächlich in Betracht gezogen werden, dass man vielleicht solche Inhalte löschen müsste, wie das zum Beispiel bei Volksverhetzung der Fall ist und oder der Fall sein sollte.

Karolin Schwarz kritisiert bei den Plattformbetreiber*innen fehlende Konsequenz und Transparenz. Das wird deutlich, wenn es zum Beispiel um das Sperren rechtsextremer Akteur*innen geht. So wurde Martin Sellner im vergangenen Jahr für kurze Zeit auf YouTube gesperrt, nur um dann wieder entsperrt zu werden.

Karolin Schwarz: Das ist natürlich erstens eine Möglichkeit sich als Opfer darzustellen und zweitens durch die Rückkehr nochmal deutlich mehr Leute dazu zu gewinnen als Abonnenten. Insofern spielen solche undurchdachten Handlungen den Akteuren dann oftmals eher in die Hände.

Wenn rechtsextreme Akteur*inenn gegen die Richtlinien der Plattformen verstoßen, sieht Schwarz neben der Sperrung eine weitere Handlungsoption. Sie betrifft die Möglichkeit, auf den Plattformen Geld zu verdienen.

Karolin Schwarz: Das andere ist zum Beispiel im Fall von YouTube die Demonetarisierung. Das heißt, dass die Akteure zwar noch auf der Plattform verbleiben, aber mit Werbung, die zwischen ihren Videos geschaltet wird, keine Einnahmen mehr machen.

Wenn es um Gegenmaßnahmen geht, ist neben der Politik, den Sicherheitsbehörden und den Plattformberteibern, auch das private Umfeld gefragt. Wenn Menschen bereits ein geschlossenes verschwörungsideologisches oder rechtsextremes Weltbild haben, kommt man kaum noch an sie ran. Wer aber merkt, dass Bekannte, Verwandte, Freund*innen anfangen sich für Verschwörungserzählungen zu interessieren, der sollte wachsam sein und das Gespräch suchen:

Josef Holnburger: Das heißt, wenn man mitbekommt, dass ein Bekannter diese Verschwörungstheorien verbreitet, ist es wichtig zu widersprechen aber gleichzeitig auch immer Angebote zu machen zurückzukommen, tatsächlich damit umzugehen und es nicht einfach unwidersprochen im Raum stehen zu lassen.

Das Aufklären und Hinterfragen von Verschwörungsmythen braucht Zeit, Geduld und viel Empathie. Dafür wird eine einzelne Unterhaltung nicht ausreichen. Der Vorteil im privaten Umfeld: Man sieht die Person immer wieder und kann das Gespräch über einen längeren Zeitraum strecken. Karolin Schwarz betont: Wer in Sozialen Medien gegen Verschwörungsgläubige und Rechtsextreme anredet, der sollte unbedingt auch auf Selbstschutz achten. Denn immer wieder werden Leute, die widersprechen und auf menschenverachtende, demokratiefeindliche Inhalte aufmerksam machen, massiv angefeindet.

Karolin Schwarz: Andererseits ist es wichtig, dass viel mehr Menschen sich zusammenfinden und gemeinsam auch widersprechen. Es kann eben nicht an einzelnen Personen hängenbleiben. Und das ist das Wichtigste: Wir brauchen eigentlich eine breite Debatte über digitale Zivilcourage.

Rechtsextreme waren schon immer gut darin, sich neue Technologien anzueignen und für ihre Zwecke zu nutzen. Fortlaufend kommen neue Strategien hinzu. Um auf diese mit zeitgemäßen Maßnahmen zu reagieren, braucht es systematisches Monitoring und wissenschaftliche Forschung auf diesem Gebiet. Denn der erste Schritt zum Handeln ist die Erkenntnis.

Die gefährliche Zukunft von Dark Social

Miro Dittrich: Ich sehe auch, dass die großen Social-Media-Plattformen ihrer Verantwortung immer mehr gerecht werden und erkennen, dass bestimmte Sachen zu Gewalt auch offline führen können. Der Druck auf öffentliche Räume gegen menschenverachtende Positionen wird immer größer werden. Deshalb, glaube ich, werden viel mehr Leute in diesen Dark Social-Bereich abwandern.

Josef Holnburger: Wir hoffen ja immer so ein bisschen auf medizinische Lösungen, vielleicht sogar einen Impfstoff gegen den Coronavirus. Wenn es den gibt, werden wir aber immer noch die Problematik haben, dass Menschen in diesen verschwörungsideologischen Weltbildern gefangen sein werden. Ich glaube, das wird eine große Herausforderung für die Zukunft werden.

Karolin Schwarz: Man muss ja auch sagen, dass wir terroristische Anschläge auch außerhalb von Krisenzeiten hatten und dass die Gefahr wahrscheinlich auch nach dem Ende der Krise nach wie vor hoch ist, weil sich zum Beispiel jetzt mehr Leute zu Hause mit dem Internet beschäftigen, und da einfach sehr viel mehr Zeit haben sich bestimmte Kanäle anzuschauen. Insofern, glaube ich, muss man nicht nur darauf schauen, was jetzt gerade die unmittelbare Möglichkeit von Gewalt betrifft, sondern tatsächlich auch mögliche Anschläge nach dem Ende der Krise.

De:hate – ein Podcast der Amadeu Antonio Stiftung.

Konzeption und Umsetzung: Lars Lichtermann und Viola Schmidt

Musik: Kevin McLeod und Jan Möller.

O-Ton Quellen:

[1] https://www.youtube.com/watch?v=hC_S2eYSH1s

[2] https://www.youtube.com/watch?v=Sej4T7z1Xnw

[3] https://www.youtube.com/watch?v=qDIwZvWvb4o

[4] https://www.youtube.com/watch?v=GH7esbDInwQ

Demonstrationen: https://www.youtube.com/watch?v=0dCsLFxJ9cI; https://www.youtube.com/watch?v=INMgFn2fxxk

Weitere Infos unter amadeu-antonio-stiftung.de.

Weiterlesen

Podcast-retro-Bild
Podcast

Podcast #9 Hasskriminalität

  Alle Podcastfolgen In 9. Folge des de:hate-Podcasts geht es um ein Themenfeld, das sowohl Justiz und Polizei als auch…

Mitmachen stärkt Demokratie

Engagieren Sie sich mit einer Spende oder Zustiftung!

Neben einer Menge Mut und langem Atem brauchen die Aktiven eine verlässliche Finanzierung ihrer Projekte. Mit Ihrer Spende unterstützen Sie die Arbeit der Stiftung für Demokratie und Gleichwertigkeit.