Neues Tool der LandesmedienanstaltMit KI gegen Hass und Hetze im Netz
Gerade Kinder sind im Internet vielfältigen Gefahren ausgesetzt.
Copyright: picture alliance/dpa/PA Wire
Düsseldorf – Den meisten Menschen dürfte klar sein, dass es Konsequenzen hat, wenn sie sich auf den Marktplatz stellen und dort eine Hakenkreuz-Fahne schwenken oder verfassungsfeindliche Parolen brüllen.
Im Netz sieht die Sache jedoch ganz anders aus. Soziale Netzwerke gelten dort vielen als rechtsfreier Raum, in dem sie ihren Hass ungefiltert in die Welt schicken können. Die Medienanstalten sind in Deutschland dafür zuständig, dass auch im Netz der Schutz der Menschenwürde und der Jugendschutz gewahrt werden.
Doch wie soll man der Vielzahl der Verstöße Herr werden? Lange Zeit waren dafür in der Landesanstalt für Medien NRW studentische Hilfskräfte zuständig, die das Netz nach Schlagworten durchforsteten. Das war mühsam und wenig effektiv.
Seit einem guten Jahr nutzt die Landesmedienanstalt nun ein eigens entwickeltes Künstliche-Intelligenz (KI)-Tool, das seit Anfang April 13 von 14 Medienanstalten in Deutschland verwenden, wie die Behörde am Donnerstag in einem Pressegespräch mitteilte.
20 000 Verstöße ermittelt
Von Twitter und YouTube bis zu Plattformen wie Telegram und VK kann das Tool heute täglich mehr als 10 000 Seiten automatisch durchsuchen. Zu den konkreten Verstoßkategorien zählen beispielsweise Gewaltdarstellungen, Volksverhetzung, die Verwendung verfassungsfeindlicher Kennzeichen oder frei zugängliche Pornografie.
20 000 potenzielle Verstöße konnten im ersten Jahr des Einsatzes ermittelt werden, diese werden dann von studentischen Hilfskräften und bei einem begründeten Verdacht von Juristen des Hauses geprüft.
Erkennen sie tatsächlich Rechtsverstöße, wird der Fall an die Strafverfolgungsbehörden weitergegeben. Da das KI-Tool stetig lernt, verbessert sich auch die Quote der gefunden Verstöße.
Das könnte Sie auch interessieren:
Pro Monat wurden so 30 Strafanzeigen gestellt, das ist eine Verdopplung zu der Zeit davor. Das ist zwar immer noch nur ein Bruchteil der Verstöße, aber Tobias Schmid, Direktor der Landesanstalt für Medien NRW, ist dennoch optimistisch. „Wir werden nicht aller Taten Herr, aber schon das Prinzip der Generalprävention hilft.“ Es gehe darum, potenziellen Tätern deutlich zu machen, dass ihre Vergehen auch im Netz geahndet werden können.
Das Problem kann nicht nur in NRW gelöst werden
Weil eine wirkungsvolle Kontrolle und Sanktionierung von Verstößen nicht allein in und für NRW gelingen kann, ist die bundesweite Ausweitung umso wichtiger. Das Tool durchsucht das Internet und weist der jeweiligen Medienanstalt solche Verstöße aus, die in ihre Verantwortung fallen.
Außerdem könne so häuserübergreifend der große Berg an Verstößen bearbeitet werden, bei denen die Herkunft eines Hass-Postings oder Gewalt-Videos nicht bekannt sei. Auch mit den europäischen Regulierungskollegen sei man bereits im Gespräch über die Nutzung des Tools, sagte Schmid.
Wichtig sei auch, nicht auf Angaben der großen Plattformen angewiesen zu sein, was Verstöße angeht, sondern selbst valide Zahlen erheben zu können.
Schutz der Mitarbeiter verbessert
Nach Angaben der Medienanstalt wird durch die Software auch die psychische Gesundheit der Mitarbeiter geschont. Das Risiko unvermittelt auf belastende Inhalte zu stoßen, werde minimiert. Potenzielle Verstöße werden automatisch Kategorien zugeordnet und zunächst unscharf dargestellt.
Es ist manchmal ein Kampf gegen Windmühlen, aber einer der sich lohnt, da ist sich Schmid sicher: „Medienaufsicht ist nichts für einen Sprint.“