Frauenhassende Online-Subkulturen
Ideologien – Strategien – Handlungsempfehlungen
Publikation nicht verfügbar PDF
Accountable: Digitaler Selbstschutz | Deepfakes und digitale Gewalt
Accountable: Digitaler Selbstschutz
Ein Fake kann echten Schaden anrichten. Du kannst etwas dagegen tun.
Ein manipuliertes Bild im Klassenchat. Ein sexualisierter Deepfake, der weitergeleitet wird. Andere, die lachen oder wegschauen. Digitale Gewalt passiert nicht nur auf dem Bildschirm. Sie hat reale Folgen.
Mit Accountable zeigen wir, wie junge Menschen Deepfakes erkennen, Betroffene unterstützen und in schwierigen Situationen handeln können.
Ein manipuliertes Bild. Echte Folgen.
Mit künstlicher Intelligenz lassen sich täuschend echte Bilder und Videos erstellen. Werden Menschen darin ohne ihre Einwilligung sexualisiert dargestellt, kann das erhebliche Folgen haben. Solche Deepfakes können dazu genutzt werden, Menschen bloßzustellen, einzuschüchtern oder zu erpressen. Besonders häufig sind Mädchen und Frauen von dieser Form digitaler Gewalt betroffen.
Doch die Gewalt entsteht nicht allein durch die Erstellung eines manipulierten Bildes. Ein sexualisierter Deepfake kann innerhalb weniger Sekunden entstehen und sich über Gruppenchats oder Social Media rasant verbreiten. Entscheidend ist auch, was danach passiert: Wird das Bild weitergeleitet, kommentiert oder als Witz verharmlost? Schauen andere einfach zu oder greift jemand ein? Gruppendruck, vermeintlicher Humor und das Bedürfnis dazuzugehören können dazu beitragen, dass sich digitale Gewalt weiterverbreitet.
Genau hier setzt Accountable an. Wir stärken Jugendliche darin, digitale Grenzverletzungen zu erkennen, Gruppendruck zu hinterfragen und konkrete Reaktionsmöglichkeiten zu erproben. Denn zu wissen, dass etwas falsch ist, bedeutet noch nicht, in einer schwierigen Situation auch handeln zu können. Ein besonderer Fokus liegt dabei auf jungen Männern. Wir wollen sie darin stärken, Gruppendruck zu hinterfragen, Verantwortung zu übernehmen und sich in ihrem digitalen Umfeld gegen Gewalt zu positionieren.
Die Verantwortung für digitale Gewalt liegt bei denen, die sie ausüben und verbreiten. Gleichzeitig können alle dazu beitragen, Betroffene zu unterstützen und schädliche Dynamiken zu unterbrechen. Accountable macht aus Wissen konkrete Handlungsmöglichkeiten.
Deepfake im Chat? So kannst du reagieren.
Du bist selbst betroffen?
Sprich mit einer Person, der du vertraust, und hol dir Unterstützung. Melde den Inhalt auf der Plattform. Eine Beratungsstelle kann mit dir klären, was als Nächstes sinnvoll ist.
Dir wird ein Deepfake geschickt?
Leite den Inhalt nicht weiter und mach dich nicht darüber lustig. Wenn es für dich sicher ist, sag klar: „Das ist nicht okay. Bitte hört auf, das zu teilen.“
Jemand anderes ist betroffen?
Nimm die Situation ernst. Frag die betroffene Person, was sie braucht, und unterstütze sie dabei, Hilfe zu finden oder Inhalte zu melden. Handle nicht über ihren Kopf hinweg.
Wissen reicht nicht. Wir üben, was hilft.
Social Media Content
Was passiert, wenn ein sexualisierter Deepfake im Gruppenchat auftaucht? Wie reagiert man, wenn andere lachen oder schweigen?
Gemeinsam mit einem Content Creator entwickeln wir drei Kurzvideos für TikTok und Instagram. Sie zeigen Situationen aus dem digitalen Alltag und geben Anstöße, Stellung zu beziehen. Diskussionen und Fragen begleiten wir pädagogisch in den Kommentarspalten.
Die ersten Videos erscheinen in Kürze.
Gemeinsam Reaktionen erproben
In Schulworkshops setzen sich Jugendliche zwischen 14 und 20 Jahren mit Deepfakes, digitaler Einwilligung und Gruppendruck auseinander.
Anhand lebensnaher Szenarien probieren sie aus, wie sie widersprechen, Betroffene unterstützen und die Weiterverbreitung verletzender Inhalte stoppen können. Ihre Perspektiven fließen in die weitere Projektarbeit ein.
Materialien für Schule und Jugendarbeit
Aus den Erfahrungen der Workshops und Videokampagne entwickeln wir praxistaugliche Materialien: ein Plakat mit Tipps für Jugendliche, ergänzende Informationen für pädagogische Fachkräfte und ein Curriculum mit erprobten Methoden.
So können die Erkenntnisse auch über das Projekt hinaus genutzt werden.
Materialien zum kostenlosen Download folgen.
Aus der Praxis lernen
Unsere Workshops und Social-Media-Videos greifen ineinander: Die Perspektiven und Erfahrungen der Jugendlichen helfen uns, lebensnahe Inhalte und wirksame Reaktionsstrategien zu entwickeln. Begleitend werten wir die Workshops und Reaktionen auf die Videos aus. Die Erkenntnisse fließen in praxisnahe Materialien ein, die auch über die Projektlaufzeit hinaus in der Bildungsarbeit genutzt werden können.
Du brauchst Hilfe? Hier findest du Unterstützung.
Ob du selbst von einem Deepfake betroffen bist, etwas im Gruppenchat mitbekommen hast oder jemandem helfen möchtest: Du musst die Situation nicht allein lösen. Diese Beratungsstellen unterstützen dich kostenlos.
Mit jemandem sprechen
JUUUPORT: Vertrauliche Online-Beratung von jungen Menschen für junge Menschen, zum Beispiel bei Cybermobbing, Sextortion und Problemen mit intimen Bildern.
Nummer gegen Kummer: Kostenlose und anonyme Beratung für Kinder und Jugendliche per Telefon, Chat oder Mail. Telefon: 116 111 (Mo bis Sa, 14 bis 20 Uhr).
HateAid: Vertrauliche Erstberatung für Menschen, die digitale Gewalt erleben, und Unterstützung bei der Suche nach geeigneten nächsten Schritten.
Inhalte melden und Verbreitung stoppen
Internet-Beschwerdestelle: Meldestelle für möglicherweise rechtswidrige Online-Inhalte, auch sexualisierte Darstellungen.
Take It Down: Hilft dabei, die Verbreitung intimer Bilder auf teilnehmenden Plattformen einzuschränken, wenn diese dich vor deinem 18. Geburtstag zeigen.
StopNCII.org: Kostenloses Tool für Erwachsene ab 18 Jahren, um die Weiterverbreitung intimer Bilder und bestimmter sexualisierter Deepfakes auf teilnehmenden Plattformen einzuschränken.
Hilfe bei sexualisierter Gewalt
Hilfe-Telefon Sexueller Missbrauch: Anonyme und kostenlose Beratung bei sexualisierter Gewalt, auch für Jugendliche und unterstützende Personen. Telefon: 0800 22 55 530.
Accountable ist ein Bildungs- und Präventionsprojekt und bietet keine individuelle Betroffenenberatung an.
Projektinformationen und Förderung
Accountable: Digitaler Selbstschutz ist ein Projekt der Amadeu Antonio Stiftung zur Prävention digitaler Gewalt mit Schwerpunkt auf Deepfakes und bildbasierten Persönlichkeitsverletzungen.
Das Projekt verbindet Schulworkshops, Social-Media-Videos und praxisnahe Materialien, um junge Menschen im Umgang mit digitaler Gewalt zu stärken.
- Laufzeit: Juli bis Dezember 2026
- Zielgruppe: Jugendliche von 14 bis 20 Jahren sowie pädagogische Fachkräfte
Unser Kontakt
sabine.herberth@amadeu-antonio-stiftung.de
Projektleitung: Sabine Herberth
Zum Weiterlesen: Digitale Gewalt und Prävention
Die Amadeu Antonio Stiftung beschäftigt sich seit vielen Jahren mit Hass und Gewalt im digitalen Raum, Antifeminismus und zeitgemäßen Ansätzen politischer Bildung. Diese Veröffentlichungen bieten weiterführende Hintergründe und praxisnahe Handlungsempfehlungen.
demo:create Actionkit: Demokratiebildung auf TikTok
Das medienpädagogische Actionkit ist eine Sammlung an interaktiven Übungen, um über den audiovisuellen Medienkonsum und Demokratiebildung auf TikTok zu sprechen, zu lernen und den eigenen Konsum kritisch zu hinterfragen.
Antifeminismus und Hasskriminalität
13. Band der IDZ-Schriftenreihe „Wissen schafft Demokratie“
Publikation nicht verfügbar PDF
Weitere Projekte zu Antifeminismus und digitaler Demokratie
Take A Stand Against Antifeminism
Antifeminismus ist eine Gefahr für die Demokratie und geht uns alle etwas an. Erfahre mehr!
HateShield – Connected Communities
Rassistische Kommentare, antisemitische Codes und queerfeindliche Challenges – unsere digitale Lebenswelt ist voll von hasserfüllten Content, der durch antidemokratische Akteur*innen bewusst produziert, geteilt wird und auf TikTok & Co viral geht. Gemeinsam mit LGBTQIA* und BIPoC Organisationen in Niedersachsen fördert HateShield den Umgang mit digitaler Gewalt und den Kampf gegen Hass und Hetze durch Workshops und Fortbildungsangebote.
