Über dieses Tool
ModSupport 2.0 ist ein KI-gestütztes Chat-Tool, das dein Engagement gegen Hass im Netz unterstützt und inspiriert. Hier findest du konkrete Tipps, Einschätzungen und Handlungsempfehlungen rund um schwierige Kommentare, Hassrede und Online-Konflikte.
Wie funktioniert ModSupport?
Wenn eine Frage eingegeben wird, analysiert das System zunächst das Anliegen und wählt den passenden Gesprächsmodus – etwa für die Analyse eines konkreten Kommentars, allgemeine Moderationstipps oder den offenen Austausch. Anschließend durchsucht das Tool automatisch eine kuratierte Wissensbasis und generiert eine kontextbezogene Antwort.
Das Tool merkt sich den Verlauf eines Gesprächs, sodass Rückfragen und Vertiefungen innerhalb einer Sitzung möglich sind.
Eingesetzte Technologien
Sprachmodell: Mistral Large oder Mistral Medium (in Evaluation)
Die Antworten werden von Mistral Large oder Mistral Medium (Mistral AI) generiert – einem leistungsstarken europäischen Sprachmodell. Es verarbeitet die Eingabe und formuliert die Antworten auf Basis der bereitgestellten Informationen und Anweisungen. Hier wird die API von Mistral (Frankreich) verwendet. https://mistral.ai/
Wissensabruf per RAG (Retrieval-Augmented Generation)
ModSupport greift nicht nur auf das allgemeine Wissen des Sprachmodells zurück. Über eine RAG-Architektur werden bei jeder Anfrage gezielt relevante Inhalte aus einer projektspezifischen Wissensbasis abgerufen. Diese Basis umfasst Erfahrungswissen aus der Civic.net-Beratungspraxis sowie Literatur und Materialien zum Thema Community-Management und Hassrede-Moderation. Dieses Wissen wird in einer Vektordatenbank gespeichert und durchsucht diese Inhalte semantisch – d. h. nach inhaltlicher Ähnlichkeit, nicht nur nach Stichwörtern. Hier wird die Technologie Qdrant vom gleichnamigen deutschen Anbieter verwendet. https://qdrant.tech/
Automation: n8n
Die gesamte Verarbeitungslogik – vom Eingang der Nachricht über die Wissenssuche bis zur Antwortgenerierung – läuft über n8n, eine Open-Source-Automatisierungsplattform. n8n verbindet alle Komponenten miteinander und steuert den Ablauf im Hintergrund. Hier wird die Cloud-Lösung des deutschen Anbieters verwendet. https://n8n.io/
WordPress-Integration
Das Tool ist als custom entwickeltes Plugin direkt in die Website der Amadeu Antonio Stiftung eingebunden und kommuniziert über eine gesicherte Schnittstelle mit dem Backend.