TikTok, Instagram, Facaebook und Co. quellen über mit antisemitischen und antidemokratischen Postings. Die Landesanstalt für Medien (LfM) NRW setzt KI ein, um solche Postings zu finden.
Seit dem heimtückischen Terrorangriff der Hamas auf Israel und den damit begonnenen Krieg im Nahen Osten werden die Sozialen Netzwerke mit antisemitischen und antidemokratischen Parolen, Postings und Videos regelrecht geflutet.
Es gibt praktisch kein Entkommen – auf allen Plattformen. Doch was tun gegen eindeutig antisemitische Postings? Wie lassen die sich erkennen und optimalerweise unterdrücken, blockieren, löschen? Eine Mammut-Aufgabe.
Die Landesanstalt für Medien NRW hat unter anderem die Aufgabe, Rechtsverstöße in den Sozialen Medien zu ahnden. Und sie macht es auch. Mit Hilfe von KI werden strafbare Postings aufgespürt und dann geprüft und gemeldet.
KIVI: KI-Modell der LfM NRW
Die LfM NRW hat federführend für alle LfMs bereits im vergangenen Jahr ein System entwickeln lassen, das auf künstlicher Intelligenz beruht. Ziel war ein vollautomatisiertes Monitoring der Plattformen, aber auch von Webseiten.
Das System wurde „KIVI“ getaut. Der Begriff ist natürlich eine Abkürzung. Er besteht aus KI – für „Künstliche Intelligenz“ – und den ersten beiden Buchstaben des lateinischen Wortes „vigilare“, das so viel wie „wachsam sein“ bedeutet.
Eine wachsame KI also. KIVI durchforstet nach eigenen Angaben pro Tag bis zu 10.000 Webseiten, aber auch Angebote auf TikTok, Instagram, Facebook, Twitter, Youtube oder Telegram. Mit dem Projekt ist die LfM im vergangenen Jahr gestartet. Ursprünglich wurde vor allem nach Pornografie, aber auch Hass und Hetze gesucht.
Nun wurde das Suchspektrum erweitert auf antisemitische und antidemokratische Inhalte. Die KI durchforstet und prüft die Inhalte ermüdungsfrei – und übrigens auch, ohne eine psychische Belastung. Menschen haben die durchaus, wenn sie stundenlang derartige Inhalte sichten müssen.
Antisemitische Postings entdecken
Wie effektiv ist diese Maßnahme denn, führen entdeckte Postings direkt zur Löschung?
Wenn KIVI etwas Auffälliges entdeckt, wird das erst noch von Menschen geprüft und dann nötigenfalls gemeldet, an Meldestellen oder die Plattformen. Die Landesmedienanstalten haben nach eigenen Angaben in den letzten Wochen rund 500 antisemitische und antidemokratische Postings identifiziert und der Europäischen Kommission gemeldet.
Das ist ehrenwert, damit sich die Kommission einen Eindruck von der Lage machen kann. Es ist aber natürlich nur ein Tropfen auf dem heißen Stein. Es gibt unzählige solcher Postings, überall. Die Landesmedienanstalten können – zumindest mit der aktuellen Ausstattung – unmöglich eine lückenlose Überwachung realisieren und zeitnahe alle strafbaren Postings melden.
Das Volumen sprengt jeden Rahmen. Doch das System der LfM zeigt, dass KI-Systeme durchaus eine Hilfe sein können. Vorteil von KI: Sie lernt dazu und wird mit der Zeit immer besser, treffsicherer.
Was unternehmen die Plattformen?
Doch was unternehmen die Plattformen selbst gegen diese Flut an Hass und Hetze?
Das ist sehr unterschiedlich. Twitter alias X fällt dadurch auf, träge oder gar nicht zu reagieren. Kein Wunder: 80% der Belegschaft sind gekündigt, viel zu wenige Menschen also, die moderierend eingreifen. Es gibt nicht mehr genug Personal, um Algorithmen oder KI nachzuschärfen.
Bei Facebook versucht man wenigstens, der Situation Herr zu werden. Noch im Oktober hat das Unternehmen Meta mitgeteilt, dass innerhalb von zwei Wochen mehr als 100.000 Postings gelöscht wurden, die gegen die Richtlinien für Hassrede verstoßen haben. Die gelöschten Inhalte umfassten Beleidigungen, Drohungen und Aufrufe zu Gewalt gegen Juden.
Auch auf Instagram wurden die Bemühungen verstärkt. Völlig anders auf Telegram: Hier gibt es bekanntlich gar keine Moderation. Hier können sich Hetzer – egal aus welchem Lager – ungehemmt austoben. Und sie machen es auch. Über Telegram werden wohl viele spontane Pro-Palästina-Demonstrationen organisiert, von denen viele gewaltsam enden.
Ein Kampf, der nicht gewonnen werden kann
Gibt es denn eine realistische Aussicht auf Plattformen, die frei von antisemistischen und antidemokratischen Inhalten sind – was sagst Du als Netzdenker dazu?
Klar Antwort: Nein. Das würde nur dann gehen, wenn jedes Posting vor der Veröffentlichung geprüft würde – was aber sofort Proteste wegen Zensur und Overblocking nach sich ziehen würde und außerdem dem Wesen des Internet widerspräche.
Die Tatsache, dass jeder mehr oder weniger anonym im Netz unterwegs sein, erschwert notwendige Represssalien und Strafen. Die Plattformen wiederum können unmöglich alles monitoren und mit KI und echten Menschen als Moderatoren alles zeitnah überprüfen.
Das System ist perse anfällig für Hass, Hetze und auch antisemitische und antidemokratische Postings. Es ist eine Illusion, jemals in dieser Hinsicht „reine“ oder unproblematische Plattformen bekommen zu können.
Wer das möchte, muss Einschränkungen bei der Anonymität machen und das auch klar sagen. Ich halte es für unwahrscheinlich, dass es dazu kommt. Jeder einzelne kann aber immerhin etwas tun: Auffällige Beiträge aktiv melden, damit sie zeitnah blockiert und gelöscht werden.
