KI gilt als Brandbeschleuniger für Hass: Diejenigen, die Hate Speech und Desinformation verbreiten, nutzen sie längst, um Menschenfeindlichkeit massenhaft zu verstärken. Der neue Chatbot ModSupport 2.0 unseres Projekts Civic.net setzt ebenfalls auf KI – aber unterstützt damit das Engagement für bessere Online-Diskussionen.
Von Oliver Saal, civic.net – Aktiv gegen Hass im Netz
ModSupport 2.0 ist eine KI-Anwendung, die speziell für Moderator*innen von Online-Communities und Engagierte gegen Hass im Netz entwickelt wurde. Sie unterstützt gezielt bei Herausforderungen im Community Management. Anwender*innen, die beispielsweise Rat zu Hasskommentaren unter Posts, eskalierenden Diskussionen oder strategischen Fragen der Community-Führung suchen, finden in unserem neuen Tool Antworten. Komplexe Prompts brauchen sie dafür nicht. Ein kurzer Dialog erfragt ihren Bedarf, anschließend kopieren sie Kommentare aus ihren Communities in das Dialogfeld oder beschreiben ihr Problem. ModSupport 2.0 analysiert sie und schlägt praxisnahe Strategien für den Umgang damit vor.
Niedrigschwellig und kostenlos
Unser Tool richtet sich an Community-Moderator*innen zivilgesellschaftlicher Initiativen, NGOs, lokaler Netzwerke und gemeinnütziger Projekte – insbesondere in Berlin, aber auch darüber hinaus. Aber auch Einzelpersonen, die im Alltag mit Hasskommentaren konfrontiert sind und Unterstützung im Umgang damit suchen, werden bei ModSupport 2.0 hilfreiche Unterstützung finden. Das Tool ist kostenlos und steht ohne Hürden auf der Website der Amadeu Antonio Stiftung bereit.
Die Basis: Kuratierte Fachexpertise der Amadeu Antonio Stiftung
Anders als generische KI-Chatbots stützt sich ModSupport 2.0 auf ein tiefes Verständnis für die spezifischen Bedürfnisse zivilgesellschaftlicher Akteur*innen. Unser Tool liefert daher keine Standardantworten, sondern maßgeschneiderte Strategien: Die zehnjährige Beratungserfahrung aus dem Projekt Civic.net haben wir genutzt, um eine sorgfältig zusammengestellte Wissensdatenbank zu erstellen. Sie enthält Informationen und praktische Tipps zu Moderation, Hate Speech und Community Management und ist speziell für den Einsatz mit einem Sprachmodell aufbereitet, basierend auf einer RAG-Architektur.
Bei jeder Anfrage wertet das Tool die Datenbank neu aus. Darum liefert das Tool Handlungsempfehlungen, die zum Beratungsbedarf passen, statt irrelevanter oder zu allgemeiner Antworten. Das unterscheidet ModSupport 2.0 von marktüblichen KI-Tools, die auf breite und unstrukturierte Datenquellen zurückgreifen. Das Tool vermittelt außerdem Kontakt zu Expert*innen bei etablierten Beratungsstellen in Berlin und bundesweit.
Transparent, anonym und DSGVO-konform
Das Tool ist ohne Registrierung oder Angabe persönlicher Daten nutzbar. Es speichert keine Eingaben – weder personenbezogene Daten wie Namen oder E-Mail-Adressen noch IP-Adressen. Die Infrastruktur läuft auf EU-Servern und erfüllt alle Anforderungen der DSGVO. Die Eingaben dienen ausschließlich dazu, die aktuelle Anfrage zu beantworten. Für maximale Transparenz finden sich auf der Startseite des Tools ausführliche Informationen zur Datengrundlage, der Funktionsweise, den genutzten KI-Tools und Datenspeicherung.
ModSupport 2.0 setzt auf europäische KI-Technologie
Das Sprachmodell stammt von Mistral AI (Frankreich), die Infrastruktur baut auf Open-Source-Projekten sowie einem europäischen Automatisierungstool auf. So gewährleisten wir hohen Datenschutz, ohne von nichteuropäischen Anbietern abhängig zu sein. Die Berliner Agentur acb – allcodesarebeautiful hat die Anwendung technisch umgesetzt.
Demokratische KI – nach gemeinsamen Standards
Künstliche Intelligenz ist kein Selbstzweck, sondern ein Werkzeug mit Chancen und Risiken. ModSupport 2.0 baut Barrieren ab: Es gibt ehrenamtlichen Moderator*innen kleiner Initiativen das gleiche Erfahrungswissen an die Hand, das sonst nur hauptamtliche Community Manager*innen großer Organisationen über Jahre aufbauen. Gleichzeitig vermeidet unser Tool typische KI-Risiken wie verzerrte Entscheidungen, unsichtbare Diskriminierung, hohen Energieverbrauch und die Unterstützung des undemokratischen Geschäftsgebarens vieler KI-Konzerne, indem es auf eine eigene Datengrundlage setzt, ein möglichst kleines und damit energieeffizientes Sprachmodell verwendet und europäische Alternativen nutzt.
Eine kritische Haltung der Zivilgesellschaft zu KI bleibt dennoch auch in Zukunft elementar. Deshalb hat die Amadeu Antonio Stiftung gemeinsam mit 50 weiteren gemeinwohlorientierten Organisationen eine Selbstverpflichtung für den verantwortungsvollen Umgang mit der Technologie entwickelt: den Code of Conduct Demokratische KI.
