Neuer KI-HateSpeech Detector: Ein Gamechanger für die Moderation im Netz

München – Am internationalen Tag für Betroffene von Hasskriminalität hat die Hochschule München eine innovative Lösung zur Bekämpfung von Online-Hasskommentaren vorgestellt. Entwickelt von Studierenden und wissenschaftlichen Mitarbeitern der Fakultät für Wirtschaftsinformatik, zielt der „KI-HateSpeech Detector“ darauf ab, insbesondere kleineren Internet-Foren mit begrenzten Ressourcen zu helfen. Die Anwendung kombiniert Effizienz mit Benutzerfreundlichkeit. Ein Webcrawler durchsucht blitzschnell Foreninhalte und markiert verdächtige Kommentare, ohne die Funktionalität des Forums zu beeinträchtigen. Datenschutz steht hierbei im Vordergrund. Die markierten Texte werden dann von einem KI-Modell analysiert und klassifiziert, basierend auf einem Datensatz von über 34.000 Beispielen. Das ermöglicht eine präzise Identifizierung von Hasskommentaren. Das musst Du wissen – Neuer KI-HateSpeech Detector: Ein Gamechanger für die Moderation im Netz Effizienz: Schnelle Durchsuchung von Foreninhalten durch den Webcrawler. Benutzerfreundlichkeit: Einfache Bedienung, auch ohne technisches Fachwissen. KI-Analyse: Über 34.000 Beispiele zur präzisen Klassifizierung. Datenschutz: Sicherer Umgang mit sensiblen Daten. Praxisrelevanz: Erfolgreiche Tests mit Ippen Digital GmbH & Co. KG und Bival GmbH. Der Entwicklungsprozess erstreckte sich über zwei Semester, wobei verschiedene Teams unterschiedliche Aspekte des Projekts bearbeiteten. Einige Teams konzentrierten sich auf die Entwicklung des Webcrawlers, andere auf die Vorbereitung der Daten für die KI-Analyse. Die Benutzerfreundlichkeit und der sichere Umgang mit sensiblen Daten hatten oberste Priorität. Die finale Anwendung ermöglicht es Betreibenden, URL-basierte Analysen durchzuführen und verdächtige Kommentare zu überprüfen, zu löschen oder zu melden. In Zusammenarbeit mit Ippen Digital GmbH & Co. KG und Bival GmbH wurde das Tool erfolgreich getestet und in bestehende Arbeitsprozesse integriert. Das Projekt wurde vom Freistaat Bayern gefördert und soll langfristig den Digital Service Act berücksichtigen, um Hasskommentare auch zukünftig effektiv zu bekämpfen. Fazit: Neuer KI-HateSpeech Detector: Ein Gamechanger für die Moderation im Netz Die Hochschule München hat mit ihrem „KI-HateSpeech Detector“ einen wichtigen Beitrag zur Bekämpfung von Hassrede im Internet geleistet. Durch die Kombination von Effizienz, Benutzerfreundlichkeit und Datenschutz bietet das Tool eine praxisnahe Lösung für Webseiten-Betreibende. Die kontinuierliche Weiterentwicklung und Anpassung an gesetzliche Vorgaben machen die Anwendung zukunftssicher und unterstützen eine respektvollere und sicherere Online-Community. Ein beeindruckendes Beispiel für erfolgreiche angewandte Forschung und praxisnahe Lehre. #KI #HateSpeech #OnlineModeration #HochschuleMünchen #DigitalServiceAct „KI-HateSpeech Detector“ der Hochschule