Wie KI den Hass im Netz bekämpft

Erstellt am: Montag, 7. Oktober 2024 von Torben

Wie KI den Hass im Netz bekämpft

Ist künstliche Intelligenz (KI) das Mittel gegen Hass und Hetze im Internet? Offizielle Meldestellen wie die Landesmedienanstalten oder „Hessen gegen Hetze“ nutzen seit Jahren smarte Technologien.

Melanie Siegel ist Leiterin des Forschungsprojekts BoTox. Foto: privat

Der brasilianische Fußballstar Vinicíus Júnior, Deutschlands schnellster Sprinter Owen Ansah, die deutsche Biathletin Vanessa Voigt – sie alle erlebten in sozialen Medien schon eine Welle von Hasskommentaren. „Man liest immer wieder von Athletinnen und Athleten, die sich auf Social Media mit schlimmsten Anfeindungen und Beschimpfungen konfrontiert sehen“, sagt auch Thomas Weikert, Präsident des Deutschen Olympischen Sportbundes (DOSB). „Das wollen wir nicht länger dulden.“ Zu den Olympischen Spielen und den Paralympics hat der DOSB seinen Athletinnen und Athleten einen Hate-Speech-Filter angeboten, der Hasskommentare in Echtzeit erkennt und blockiert. Die Kommentare werden gespeichert, um sie in justiziablen Fällen an Strafverfolgungsbehörden weiterzugeben.

Laut einer Studie der Landesanstalt für Medien in Nordrhein-Westfalen (LFM NRW) haben mehr als 70 Prozent der Internetnutzerinnen und -nutzer in Deutschland bereits Hasskommentare online gesehen oder selbst erlebt. Die Landesmedienanstalten sind im Rahmen der Medienaufsicht auch für Internet-Dienste und Plattformen zuständig. Seit Jahren setzen sie KI-Tools ein, um Hass und Hetze im Internet aufzuspüren und zu bekämpfen. Früher durchsuchten studentische Hilfskräfte manuell Hunderte Kommentarspalten und Social-Media-Posts nach potenziellen Rechtsverstößen. Die Inhalte reichten von Holocaustleugnung über Volksverhetzung bis zu frei zugänglicher Pornografie. „Das war weder besonders effizient noch mitarbeiterschützend“, sagt die zuständige Referentin Barbara Banczyk. „Es war eine Sisyphus-Arbeit, bei der wir oft unvermittelt mit drastischen Inhalten konfrontiert wurden.“

Ein Foto zeigt Bundestrainer Julian Nagelsmann

Brutale Fouls im Netz

Sie werden bewundert und gefeiert, aber auch mit Hassbotschaften überhäuft und mit dem Tode bedroht: Spitzensportlerinnen und Spitzensportler sind in den sogenannten sozialen Netzwerken in hohem Maße digitaler Gewalt ausgesetzt. Eine Spurensuche in der Welt des Leistungssports.

Um effizienter zu arbeiten und die Mitarbeitenden besser zu schützen, kooperiert die Landesmedienanstalt NRW seit August 2020 mit dem Berliner IT-Unternehmen Condat. Das Ergebnis ist ein Software-Programm namens KIVI, eine Wortschöpfung aus KI und „vigilare“ (lat. „wachsam sein“). Das KI-Werkzeug durchsucht täglich bis zu 10.000 Seiten im Internet – darunter klassische Webseiten und Plattformen wie Telegram, TikTok oder X. Es ist auf potenziell strafbare Texte, Bilder und Videos trainiert, sucht nach Tausenden Stichworten und zeigt die Funde in einem Ticketsystem an. Zum Schutz der Mitarbeiterinnen und Mitarbeiter lässt sich jeder Arbeitsplatz so einstellen, dass explizite Inhalte im Vorschaubild nur unscharf dargestellt werden.

Barbara Banczyk ist Referentin der Landesanstalt für Medien in Nordrhein-Westfalen. Foto: LFM NRW

„Die Verstöße lassen sich jetzt priorisieren und entsprechend der Schwere abarbeiten“, sagt Banczyk und beschreibt damit einen weiteren großen Vorteil von KIVI gegenüber der manuellen Recherche. Die Bilanz: Allein die LFM in Nordrhein-Westfalen hat seit dem Start von KIVI im März 2021 bis Anfang Juli 2024 von insgesamt mehr als 43.000 Funden rund 38.300 überprüft und so 8.279 Verstöße bestätigt. „KIVI recherchiert für uns viel breiter nach rechts und links, und unsere Trefferquote hat sich deutlich erhöht“, sagt Banczyk. Die Anzahl der Strafanzeigen an die Staatsanwaltschaft konnte mehr als verdoppelt werden. „Wir sehen KIVI als Unterstützung für Menschen und nicht als Ersatz“, betont Banczyk. Die Verantwortung müsse am Ende beim Menschen liegen. Juristinnen und Juristen der Landesmedienanstalten bewerten die Inhalte final.

Das Modell kam gut an: Seit April 2022 nutzen alle 14 Landesmedienanstalten KIVI und tauschen sich bundesweit über ihre Arbeit aus. KIVI verhindert durch das Ticketsystem, dass alle Landesmedienanstalten dieselben Posts bearbeiten. Das Programm wird fortlaufend optimiert, durch die größeren Datenmengen lernt es stetig dazu. Landesmedienanstalten können die entdeckten Inhalte nicht selbst löschen, sondern melden sie den Plattformen oder bringen sie zur Anzeige. Über eine Schnittstelle können sie ihre Strafanzeigen direkt aus KIVI an die Zentrale Meldestelle für Internetkriminalität beim Bundeskriminalamt (ZMI) senden. Die ZMI leitet die Fälle zur weiteren Strafverfolgung an die zuständigen Landeskriminalämter weiter. Nach Feststellung der Strafbarkeit der Inhalte kümmern sich die Landesmedienanstalten um die medienrechtliche Verfolgung – also um die Aufforderung zur Löschung bei den Plattformen.

„Man muss immer up to date sein“

Dr. Melanie Siegel

Einen anderen Ansatz verfolgen Forschende der Hochschule Darmstadt, die zwei KI-basierte Softwareprogramme entwickelt und der Meldestelle „Hessen gegen Hetze“ zur Verfügung gestellt haben. DeTox steht für „Detektion für Toxizität“ und BoTox für „Bot- und Kontexterkennung im Umfeld von Hasskommentaren“. „DeTox durchsucht das Netz nicht aktiv selbst, sondern unterstützt die Meldestelle dabei, die von Nutzerinnen und Nutzern eingehenden Meldungen nach strafrechtlicher Relevanz zu sortieren und zu priorisieren“, erklärt Professor Dr. Melanie Siegel (Foto ganz oben), Leiterin des Forschungsprojekts von der Hochschule Darmstadt. BoTox geht noch einen Schritt weiter und erkennt mittlerweile gut, ob ein Mensch die Hasskommentare geschrieben hat oder ein Bot, also ein Roboter.

„Eines unserer größten Probleme ist es, dass sich die Themen mitunter schnell ändern. Im Jahr 2019, aus dem unser großer Datensatz stammt, gab es zum Beispiel noch kein Corona“, sagt Siegel. Das erfordert ein permanentes Nachtrainieren und ständiges Aktualisieren der Daten. Beleidigungen und Schimpfwörter ändern sich ebenfalls. „Man muss immer up to date sein“, so Siegel. Lebenslanges Lernen gilt auch für KI. Die Maschine lernt anhand der Daten, was potenziell strafbarer Inhalt ist und was freie Meinungsäußerung. Diese KI-unterstützten Sprachtechnologien extrahieren aus vorhandenen Daten Merkmale und versuchen so, neue Inhalte danach zu klassifizieren. „Danach muss immer noch ein Mensch draufgucken“, sagt Siegel. „Ich würde die Entscheidung am Ende nie einer Maschine überlassen.“

Blick auf den BoTox- Bildschirm: Ampelfarben signalisieren, wie toxisch ein Online-Kommentar ist.

Die Forschung zu Hasskommentaren kommt nicht überall gut an. Die hessische Landtagsfraktion der AfD wittert in einer Kleinen Anfrage an die Landesregierung eine „ideologische Nutzung von künstlicher Intelligenz an der Hochschule Darmstadt“. Melanie Siegel sagt: „In unserem Forschungsprojekt geht es darum, Strafverfolgungsbehörden dabei zu unterstützen, strafrechtlich relevante Hasspostings schneller erkennen und priorisieren zu können. Das hat nichts mit Ideologie zu tun.“

Der Vorwurf der rechtspopulistischen Partei greift aus Siegels Sicht noch aus einem anderen Grund ins Leere. Die Professorin und ihr Team haben bereits bei der Entwicklung ihrer KI-Programme im Rahmen des Forschungsprojekts viele Hasskommentare zu den unterschiedlichsten Themen im Netz gesammelt, um die KI damit zu trainieren. Es zeigte sich: „Das meiste davon kam aus der rechtsradikalen Ecke.“ Für die Entwicklung der KI-Tools war das ein Problem. „Wenn man so einen unausgewogenen Datensatz hat, erkennt unser Tool Hass von links überhaupt nicht. Also habe ich meine Mitarbeitenden damit beauftragt, gezielt Hate Speech aus der linksextremistischen Ecke zu suchen und mit in unseren Datensatz aufzunehmen. Es war gar nicht so einfach, dies in ausreichender Menge zu finden, aber wir haben es geschafft.“

„Facebook ist besonders toxisch“

Dr. Daniel Nölleke erforscht das Thema Online-Hass im Leistungssport an der Deutschen Sporthochschule in Köln. Er spricht im Interview über Hass bei den Olympischen Spielen in Paris, über Gruppendynamik in Fankurven und erklärt, warum er den Einsatz von künstlicher Intelligenz gegen Hassrede im Internet problematisch findet.

Melanie Siegel denkt im Rahmen des Forschungsprojekts wissenschaftlich, nicht in politischen Kategorien. „Menschen zu bedrohen, zu diskriminieren oder zu beleidigen hat mit politischer Ausrichtung nichts zu tun, sondern ist in jedem Fall verwerflich, teilweise sogar strafbar“, sagt Siegel. „Mich stört es sehr, dass dieser Hass mittlerweile so normalisiert wird. Das ist eine Tendenz, die mir gesellschaftlich überhaupt nicht behagt.“

Professor Dr. Melanie Siegel und ihr Team suchen weiter nach dem besten digitalen Helfer gegen den Hass im Netz. Jetzt geht es im Forschungsprojekt BoTox bis mindestens Januar 2025 darum, wie sich Hasskommentare über Netzwerke von Personen und Gruppen hinweg fortpflanzen. Und um die zentrale Frage: Wie lässt sich der Hass im Netz stoppen?

Ob der KI-Einsatz während der Olympischen Spiele in Paris Sportlerinnen und Sportler vor Hasskommentaren geschützt hat, ist indes noch unklar. Nach Angaben eines DOSB-Sprechers seien die Daten noch nicht ausgewertet.

“Eine kleine Narbe bleibt immer“

Erstellt am: Montag, 7. Oktober 2024 von Torben

“Eine kleine Narbe bleibt immer“

Moritz Müller spielt in der DEL. Der Profi der Kölner Haie sah sich Anfang 2024 mit einer Hassnachricht konfrontiert. Ein Gespräch über die Folgen.

Ein Eishockeyspieler bewegt sich in Schräglage auf dem Eis.

Moritz Müller ist Eishockey-Profi. Foto: Kölner Haie

Eishockey-Profi Moritz Müller erhielt im Januar 2024 auf seinem Instagram-Profil eine verstörende Hassnachricht. Ein Unbekannter drohte darin unter einem Foto Müllers mit seinen drei Kindern: „Ich würde diese Würmer für so ein schreckliches Spiel von dir töten.“ Im Interview mit der Redaktion des WEISSEN RINGS erklärt der Kapitän der Eishockey-Nationalmannschaft, was die Hassbotschaft bei ihm ausgelöst hat, was aus seiner Strafanzeige geworden ist und welche Botschaft er für Verfasser von Hassnachrichten hat.

Wie haben Sie sich gefühlt, als Sie den Hassbeitrag entdeckt haben?

Als ich den Post das erste Mal gesehen habe, war ich geschockt. Man ist ja doch einiges gewohnt und hat schon einiges gelesen über sich selber, aber das war für mich auf jeden Fall noch mal eine Grenze, die dort überschritten wurde. Das hat mich schon erschüttert.

Wie haben Sie das Erlebnis verarbeitet, und was hat Ihnen dabei geholfen?

Ich denke, ich konnte den Post von Anfang an ganz gut einschätzen. Nichtsdestotrotz hatte ich Sorge, dass meine Kinder zum Beispiel in der Schule oder auf dem Schulhof darauf angesprochen werden. Man ist leider einiges gewohnt, aber dies war nochmal eine neue Eskalationsstufe. Ein bisschen verarbeitet man dies, aber eine kleine Narbe bleibt immer bestehen.

Ein Foto zeigt Bundestrainer Julian Nagelsmann

Brutale Fouls im Netz

Sie werden bewundert und gefeiert, aber auch mit Hassbotschaften überhäuft und mit dem Tode bedroht: Spitzensportlerinnen und Spitzensportler sind in den sogenannten sozialen Netzwerken in hohem Maße digitaler Gewalt ausgesetzt. Eine Spurensuche in der Welt des Leistungssports.

Waren Sie davor schon einmal mit Hass und Hetze im Netz konfrontiert?

Ja, auf jeden Fall. Ich treibe seit 20 Jahren professionellen Sport. Leider gibt es viele Menschen, die das Netz nutzen, um ihren Frust zu äußern. Kritik ist okay, aber alles, was persönlich wird, geht nicht. Ich tue mich nicht so schwer damit, das so einordnen zu können, dass es den Leuten selber nicht gutgehen kann. Ich glaube, jemand, der wirklich glücklich ist, dem kann unmöglich etwas daran liegen, andere Leute zu beschimpfen oder schlechtzumachen.

Warum haben Sie den Beitrag selbst kommentiert?

Ich wollte darauf aufmerksam machen. Die meisten Nachrichten, die ich bekomme, mache ich nicht öffentlich, doch in diesem Fall musste ich es teilen. Ich wollte das nicht einfach so stehen lassen und die Öffentlichkeit wissen lassen, was da vorgeht.

Welche Unterstützung haben Sie von Ihrem Verein bekommen?

Der Club hat mir totale Unterstützung zugesagt. Ich wurde unmittelbar nach dem Post vom Verein gefragt, was ich tun möchte – und was auch immer ich tun möchte, der Verein würde mich dabei unterstützen.

Ist der Täter angezeigt und dafür strafrechtlich belangt worden?

Ich habe Strafanzeige gegen den Täter gestellt, doch das Verfahren wurde leider eingestellt. Die Leute im Internet sind zwar mutig, aber nicht so mutig, ihren Klarnamen zu verwenden und zu sagen, wer sie wirklich sind. Deswegen konnte man den Täter leider nicht ermitteln.

Was würden Sie solchen Menschen persönlich sagen?

Allen Leuten, die solche Sachen schreiben, möchte ich eigentlich nur eine Sache sagen: Ich hoffe, sie sind mit ihrem eigenen Leben genauso kritisch und streng wie mit dem Leben anderer. Ich glaube, dann würde es allen besser gehen.

WEISSER RING sieht wachsende Aggressionen gegen deutsch Behörden

Erstellt am: Montag, 22. Juli 2024 von Sabine

Die Bebilderung dieses Textes wurde mithilfe von künstlicher Intelligenz (Midjourney) erstellt.

Datum: 22.07.2024

WEISSER RING sieht wachsende Aggressionen gegen deutsch Behörden

Ein Jugendamt-Mitarbeiter findet ein beleidigendes Tiktok-Video über seine Arbeit im Netz – und fühlt sich damit alleingelassen. Anlass für eine bundesweite Umfrage der Opferschutzorganisation.

Mainz – Beleidigungen und Angriffe: Der Ton gegenüber Mitarbeitern und Mitarbeiterinnen in Behörden hat sich verschärft. Das ist das Ergebnis einer Umfrage der Opferhilfsorganisation WEISSER RING in zahlreichen deutschen Stadtverwaltungen.

Danach haben die allermeisten Kommunen schon einmal digitale Gewalt erlebt. Viele berichteten auch von körperlichen Angriffen auf Beschäftigte innerhalb der vergangenen zwölf Monate, teilte der Weiße Ring mit. Repräsentativ ist die Umfrage allerdings nicht. Von 82 angefragten Verwaltungen hätten sich 44 zurückgemeldet. Für die Auswertung wurden 38 Antworten berücksichtigt, weil die anderen lückenhaft waren.

Beleidigende oder bedrohliche Nachrichten

In den vergangenen zwölf Monaten gab es in 29 Verwaltungen körperliche Angriffe auf Beschäftigte. 35 Städte registrierten Fälle digitaler Gewalt. Dazu gehörten vor allem beleidigende oder bedrohliche Nachrichten über Mail, Messenger-Dienste und in den sozialen Medien. Dazu kamen negative oder beleidigende Rezensionen sowie die Verbreitung privater Informationen ohne Zustimmung.

„Auf die zunehmende Verrohung eingestellt sind die Kommunen oftmals nicht“, stellt der WEISSE RING fest. Lediglich die Hälfte der Behörden habe angegeben, intern über spezielle Richtlinien oder Verfahren im Umgang mit digitaler Gewalt gegen Mitarbeitende zu verfügen (19 Städte).

Hass aus dem Handy

Erstellt am: Dienstag, 2. Juli 2024 von Torben

Hass aus dem Handy

Ein TikTok-Clip wird für den Jugendamtsmitarbeiter Said zum Albtraum. Das Video voller Beleidigungen gegen ihn steht seit mehr als einem Jahr online – alle Versuche, es verschwinden zu lassen, blieben erfolglos. Warum löscht TikTok es nicht? Kommen deutsche Behörden ihrer Fürsorgepflicht gegenüber ihren Beschäftigten bei digitaler Gewalt nach? Was macht der Hass aus dem Handy mit Menschen wie Said?

Eine Illustration zeigt einen Mann, der erschrocken auf sein Handy schaut.

Illustration: Midjourney

I. Das Video

Für Said begann der Albtraum mit dem Anruf eines Freundes. „Schau dir das Video auf TikTok an, das könnte dich interessieren. Da geht es um dich“, sagte der Freund und schickte ihm einen Link zu TikTok. Der Mann im Video spricht arabisch und beleidigt darin den Mitarbeiter des Jugendamtes sowie dessen Eltern mit derben Worten:

„Ein Schwein,

Sohn eines Schweins,

Sohn einer Hure, arbeitet beim Jugendamt…“

Hass aus dem Handy

Digitale Gewalt gegen Angestellte in Behörden

Said kennt den Mann nicht persönlich, der das Video aufgenommen hat und ihn so massiv beleidigt. Und obwohl Said nicht namentlich genannt wird, ist sofort klar, dass er gemeint ist. Es werden Details erwähnt, die nur auf ihn zutreffen. Es arbeiten nur sehr wenige Männer mit arabischen Wurzeln im Jugendamt seiner Stadt. Said ist Sozialarbeiter und holt in Extremfällen schutzbedürftige Kinder aus gewalttätigen Familien.

So auch in dem Fall, der in diesem Video geschildert wird. Der Mann auf TikTok kennt Einzelheiten aus dem Fall und positioniert sich klar für den Vater, dem die Kinder entzogen wurden, und gegen den Mitarbeiter des Jugendamtes. Gegen Said.

Die Bebilderung dieses Textes wurde mithilfe von künstlicher Intelligenz (Midjourney) erstellt.

Ein belebtes Café nahe dem Hauptbahnhof einer deutschen Großstadt, aus den Boxen schallt aktuelle Popmusik. Said kommt eine halbe Stunde zu spät zum vereinbarten Termin. Er entschuldigt sich, ein Anruf kurz vor Feierabend habe ihn aufgehalten. Im Extremfall hätte er wieder ein schutzbedürftiges Kind aus einer gewalttätigen Familie holen müssen. Doch heute nicht. Kaffee? Tee? Etwas zu essen? Said winkt ab und beginnt sofort zu erzählen, wie es sich anfühlt, auf TikTok massiv beleidigt zu werden. Er ist sichtlich aufgewühlt. „Dieses Video beschäftigt mich sehr. Und wieso gibt es bei meinem Arbeitgeber niemanden, der für solche Fälle zuständig ist?“

Fast 24.000 Aufrufe verzeichnet das Video inzwischen.

Saids Fall zeigt, wie allein sich Opfer massiver Beleidigungen auf Social-Media-Plattformen fühlen. Wie ein hasserfüllter Clip einen gesellschaftlichen Rückzug auf Raten und Ängste auslösen kann. Und wie Arbeitgeber die Gefahren dieses digitalen Giftes für ihre Mitarbeitenden immer noch unterschätzen.

II. Der Betroffene, privat

Said guckte sich das Video mehrmals an und lud es auf sein Smartphone herunter. Für den Mann in den Vierzigern begann eine emotionale Achterbahnfahrt.

Said ist nicht sein richtiger Name. Er möchte anonym bleiben. Früher war er ein öffentlicher Mensch. Mehr als zehn Jahre engagierte er sich in der Flüchtlingshilfe, gab Interviews und nahm an Podiumsdiskussionen teil. Sein Rat war gefragt. Seine private Telefonnummer kursierte in vielen Gruppen und Netzwerken. Seitdem es das Video gibt, ist das anders. Seine Nummer hat Said seitdem nicht mehr rausgegeben. Said sagte sich sogar von Freunden los, weil sie seinen Wunsch nach Anonymität nicht respektierten und seine Handynummer weiter in WhatsApp-Gruppen teilten.

Die Illustration zeigt einen Mann von hinten, der auf sein Handy schaut.

„Anrufe von Menschen, deren Nummer ich nicht kenne, nehme ich heute nicht mehr an.“ Sein Engagement im Freiwilligenbereich hat er fast auf null reduziert, obwohl es ihm fehlt. Medienanfragen lehnt er fast immer ab.

Said entfernte alle Bilder aus seinen Social-Media- Profilen und änderte seine Namen. Früher hielt er über Facebook Kontakt zu Familienmitgliedern, die in der ganzen Welt verstreut leben. „Heute nutze ich Facebook fast gar nicht mehr.“ Und es fällt auf, dass er deutlich schlanker ist als auf den alten Fotos in den Zeitungen und in den Videos von den Podiumsdiskussionen. Er wiege rund 15 Kilo weniger als damals, bestätigt Said. Er denkt nach und sagt: „Ich habe mich seit diesem TikTok-Clip mehr und mehr aus dem öffentlichen Leben zurückgezogen, um mich zu schützen.“ Wenn ihn heute jemand fragt, wo er arbeitet, sagt Said nicht mehr „im Jugendamt“, sondern nur noch „in der Verwaltung“.

III. Die Social-Media-Plattform

Wer bei TikTok ein Video entdeckt, das gegen die Richtlinien des Unternehmens oder gegen Gesetze verstößt, kann es der Plattform melden. Im Fall von Said hat auch die Redaktion des WEISSEN RINGS mehrere solcher Meldungen versucht. Ohne Erfolg. Die Plattform teilte jeweils kurz mit: „Wir haben das Video, das du gemeldet hast, überprüft und festgestellt, dass es nicht gegen unsere Community-Richtlinien verstößt.“

„Du unehrlicher Sohn…“

„Der Hund, der niederträchtige und gemeine,

der beim Jugendamt arbeitet.“

„Die Richterin, ‚die Hure‘…“

„Der Hurensohn…“

„Tatsächlich ist das, was wir für strafbar halten, den Plattformbetreibern häufig völlig egal.“

Hanno Wilk, Oberstaatsanwalt

Diese Beleidigungen gegen Said und die zuständige Familienrichterin verstoßen nicht gegen Community-Richtlinien? Auf einer Plattform, die „eine Quelle der Unterhaltung und Bereicherung“ sein will? Deren „Mission“ es nach eigenem Bekunden ist, „Kreativität zu fördern und Freude zu bereiten“?

Für Experten wie Hanno Wilk kommt die Reaktion von TikTok nicht überraschend. „Die Community-Richtlinien haben andere Kriterien als das deutsche Strafrecht“, sagt der Oberstaatsanwalt. Wilk leitet das Team „Hate Speech“ in der Zentralstelle zur Bekämpfung der Internetkriminalität (ZIT) bei der Generalstaatsanwaltschaft Frankfurt am Main. „Tatsächlich ist das, was wir für strafbar halten, den Plattformbetreibern häufig völlig egal.“ In Saids Fall handelt es sich mutmaßlich um Beleidigungen nach §185 des Strafgesetzbuches. Die mächtige Trompete TikTok bläst diese Beleidigungen in die Welt, potenziell erreichbar für Millionen Menschen. Hunderte haben auf das Herz neben dem Beitrag geklickt, um zu zeigen, dass ihnen das Video gefällt. Dutzende haben das Video geteilt. Es sind Beleidigungen in Dauerschleife.

Eine Illustration mit einem Mann, der von hinten zu sehen ist, und einem, den man von vorne erkennen kann. Zwei Lampen hängen an der Decke.

IV. Der Betroffene, beruflich

Nachdem Said das Video zum ersten Mal gesehen hatte, konnte er tagelang nicht schlafen. Gedanken ratterten ihm in Endlosschleifen durch den Kopf:

„Gibt es weitere Videos, vielleicht sogar welche, in denen ich namentlich genannt werde?

Wie viele Menschen wissen davon?

Wie kann ich das rausfinden?“

„Ich habe ein dickes Fell, ansonsten wäre ich an dieser Situation zerbrochen“, sagt Said. Der Job härtet ab. „Wir sind im Jugendamt täglich Gefahren ausgesetzt, erleben häufig Grenzsituationen.“ Es gebe Foren im Internet, in denen Sozialarbeiterinnen und Sozialarbeiter offen und namentlich angefeindet werden. Said wurde im Einsatz schon mit einem Tisch attackiert und auch bestohlen. Aber die Auswirkungen dieses Videos auf TikTok, dieser digitalen Form von Gewalt, wiegen für ihn weitaus schwerer. „Diese massiven Beleidigungen, vor allem gegen meine Eltern, kann ich nicht einfach so ignorieren“, sagt Said. Manchmal schreie er, um seine Emotionen in den Griff zu bekommen. Sport und Spaziergänge mit seinem Hund helfen ihm dabei. Seinen Eltern hat er nichts von dem Video erzählt. Nur wenige Menschen sind eingeweiht, „falls mal etwas passiert“, sagt er.

„Ich hatte die Sorge, dass aus dem digitalen Hass ein Mob im echten Leben wird.“

Said

Denn Said betreut den Vater, dem er die Kinder entzogen hat, zunächst auch nach der Veröffentlichung des Videos weiter. Er denkt lange Zeit nicht daran, den Fall abzugeben. „Ich wollte das nicht. Dann hätte er doch genau das erreicht, was er mit diesem Machtspielchen erreichen wollte“, beschreibt Said seine Gedanken. Er wollte nicht an sich selbst zweifeln. Rein fachlich habe es überhaupt keinen Grund gegeben, den Fall abzugeben. Lange Zeit habe das funktioniert, auch wenn er nach jedem Termin völlig ausgelaugt gewesen sei, berichtet Said. Und noch etwas habe ihn beschäftigt: „Ich hatte die Sorge, dass aus dem digitalen Hass ein Mob im echten Leben wird.“ Tatsächlich hat der betroffene Vater Said einmal attackiert und musste sich deshalb sogar vor Gericht verantworten. Auch wenn Said in der Verhandlung das TikTok-Video auf Nachfrage der Staatsanwaltschaft zumindest erwähnte: Er kann nicht beweisen, dass sein Klient dahintersteckt, auch wenn die Details im Video mit an Sicherheit grenzender Wahrscheinlichkeit dafür sprechen.

Eine Illustration zeigt einen Mann, der mit seinem Hund spazieren geht. Sie gehen auf einem Weg entlang von Bäumen.

Anzeige gegen den Urheber des Videos hat Said nie erstattet. Er reiht sich damit nahtlos ein in eine überwiegende und schweigende Mehrheit, wie aus der jährlich aktualisierten und repräsentativen Studie „Hate Speech“ des Meinungsforschungsinstituts Forsa im Auftrag der Landesanstalt für Medien in Nordrhein-Westfalen hervorgeht. Demnach melden Menschen Hasskommentare bei den Plattformen zwar immer häufiger – im Jahr 2019 waren es 25 Prozent der Befragten, die schon mal einen Hasskommentar bzw. dessen Verfasser beim entsprechenden Social-Media-Portal gemeldet haben. Im Jahr 2023 waren es schon 30 Prozent. Beleidigungen im Internet werden jedoch so gut wie nie angezeigt. Die Polizei ermittelt aber nur dann, wenn eine Anzeige vorliegt, denn Beleidigungen sind reine Antragsdelikte. Beratungsstellen wie HateAid weisen darauf hin, dass Betroffene hohe Prozesskosten fürchten oder Angst haben, im Zuge eines Gerichtsverfahrens ihre Privatadresse der gegnerischen Partei preisgeben zu müssen. Und manchen Menschen fehlt auch einfach die Kraft, sich juristisch damit auseinanderzusetzen.

V. Der Arbeitgeber

Said hat klare Vorstellungen davon, wer ihm hätte helfen müssen. Als Angestellter im öffentlichen Dienst sieht er seinen Arbeitgeber in der Pflicht. Einen Tag, nachdem er das Video gesehen hat, meldet er den Vorfall seiner Behörde. „Ich habe gesagt: Folgendes ist passiert, könnt ihr was machen?“ In einer langen E-Mail entgegnet ihm die Stadt, so berichtet es Said, die Beleidigungen seien nicht im dienstlichen Rahmen passiert, sondern in einem privaten Kontext. Die Stadt sei nicht zuständig, er müsse den privatrechtlichen Weg einer Unterlassungsklage gehen, auf Schadenersatz klagen oder Ähnliches. Said ist sauer: „Ich hole schutzbedürftige Kinder nicht privat aus Familien, sondern in meiner beruflichen Rolle. Wenn ich ein grundgesetzliches Wächteramt ausübe, dann erwarte ich von meinem Arbeitgeber, dass er mich schützt!“ Hätte er den Menschen privat verklagt, wäre er womöglich auf Kosten sitzen geblieben. Und er hätte womöglich seine Privatadresse angeben müssen – das wollte er auf keinen Fall. Zumindest seine Teamleitung im Amt habe ihn unterstützt, ihm Supervision ermöglicht. Das habe ihm mental geholfen, erzählt Said.

Transparenzhinweis: Der Kontakt zu Said kam über den Deutschen Gewerkschaftsbund (DGB) zustande. Der DGB macht seit 2020 mit seiner Initiative „Vergiss nie, hier arbeitet ein Mensch!“ bundesweit auf das Thema Gewalt gegen Beschäftigte aufmerksam und arbeitet dabei auch mit dem WEISSEN RING zusammen. Im September 2023 haben WEISSER RING und DGB ein neues Hilfetelefon für betroffene Beschäftigte gestartet (Rufnummer 0800 116 0060).

Man würde die Stadt gern selbst fragen, wieso sie so gehandelt hat und nicht anders und ob das der alltägliche behördliche Umgang mit digitaler Gewalt ist. Aber Saids Wunsch nach Anonymität ist zu respektieren. Also hat die Redaktion des WEISSEN RINGS eine Umfrage unter allen 82 deutschen Großstädten mit mehr als 100.000 Einwohnern gestartet. Von 38 gaben 92 Prozent an, dass Mitarbeiterinnen und Mitarbeiter von digitaler Gewalt betroffen sind. Die Hälfte der Behörden verfügt nach eigenen Angaben über Richtlinien oder Verfahren wie hausinterne Meldesysteme im Umgang mit digitaler Gewalt. 29 gaben in ihrer Antwort an, dass Beschäftigte in den vergangenen zwölf Monaten körperlich angegriffen wurden.

Das Ergebnis unserer Umfrage wird auch durch eine Studie des Deutschen Forschungsinstituts für öffentliche Verwaltung aus dem Jahr 2022 untermauert, für die mehr als 10.000 Beschäftigte des öffentlichen Dienstes befragt wurden: Demnach haben 23 Prozent der Beschäftigten im öffentlichen Dienst bereits Gewalterfahrungen gemacht, 12 Prozent erlebten sogar mehrere Vorfälle innerhalb eines Jahres. „Wir müssen mehr tun, um die Menschen zu schützen, die unser Land jeden Tag am Laufen halten – ob auf dem Amt oder als Retter in der Not“, sagte Bundesinnenministerin Nancy Faeser bei der Vorstellung der Studie. „Das gebietet die Fürsorgepflicht für die Beschäftigten. Und das ist eine Frage des Schutzes unserer Demokratie vor Verrohung, Hass und Gewalt.“

Warum wir gegen Hass und Hetze vorgehen müssen

Hass und Hetze im Internet sind zum Alltag geworden. Wir dürfen menschenverachtende Worte einfach nicht ignorieren, sondern müssen ihnen entgegentreten, sagt Hasnain Kazim.

Fürsorgepflicht? Said kann da nur den Kopf schütteln. Im Gespräch mit vielen Kolleginnen und Kollegen habe sich sein Eindruck verfestigt, dass Mitarbeitende mit digitalen Gewalterfahrungen alleingelassen werden. „Bei persönlichen Angriffen hast du Instrumente wie Hausverbote, aber bei Social-Media-Angriffen sind Arbeitgeber sehr weit davon entfernt, ernsthaft damit umzugehen.“ Vielleicht liegt das auch daran, dass digitale Gewalt immer noch zu wenig als gravierendes Problem wahrgenommen wird.

VI. Der Betroffene, allein

Said fühlt sich von TikTok alleingelassen, weil die Plattform das Video online lässt. Er fühlt sich von früheren Freunden alleingelassen, die seine Not nicht verstanden haben. Und er fühlt sich von seinem Arbeitgeber alleingelassen. „Ich hätte mir jemanden bei der Stadt gewünscht, der mich professionell unterstützt und alle rechtlichen Schritte übernimmt. Eine Stelle, die sagt: Wir kümmern uns drum“, sagt Said. Dann bittet er darum, das Gespräch zu beenden. Er verabschiedet sich höflich und verlässt das Café nach rund eineinhalb Stunden, ohne etwas bestellt zu haben. Später wird er eine WhatsApp-Nachricht schicken mit einem Link zum TikTok-Clip, der vor mehr als einem Jahr erschienen ist und der sein Leben so verändert hat.

Der Clip ist immer noch online. Seit mehr als einem Jahr.

Den Fall des Vaters, um den es in dem Video geht, hat Said mittlerweile doch an einen Kollegen abgegeben.

Digitale Gewalt immer melden

Erstellt am: Freitag, 22. März 2024 von Sabine

Foto: Mohssen Assanimoghaddam

Datum: 22.03.2024

Digitale Gewalt immer melden

Am 22. März ist Tag der Kriminalitätsopfer – dieses Jahr im Fokus "Digitale Gewalt". Ziel des Tages ist es, die Öffentlichkeit für die Belange der Opfer zu sensibilisieren und über Prävention, Schutz und praktische Hilfen zu informieren.

Mainz – Die Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK), der WEISSE RING e.V. und das Bundesministerium des Inneren und für Heimat (BMI) unterstreichen anlässlich dieses Tages gemeinsam, wie wichtig es ist, Opfern von Gewalt zuzuhören, Glauben zu schenken und ihnen keine Mitschuld zuzuschreiben. Ebenso wichtig ist es, Täterinnen und Täter bei der Polizei anzuzeigen und für ihr Fehlverhalten zur Verantwortung zu ziehen.

Seit 1991 macht der WEISSE RING mit dem „Tag der Kriminalitätsopfer“ alljährlich am 22. März auf Menschen aufmerksam, die durch Kriminalität und Gewalt geschädigt wurden.

Faeser: „Opfer brauchen bestmögliche Unterstützung“

Bundesinnenministerin Nancy Faeser: „Wir erleben im Netz immer neue Wellen frauenfeindlicher, rassistischer oder antisemitischer Beleidigungen und Bedrohungen, islamistischer Propaganda und anderer menschenverachtender Straftaten. Wer Menschen beschimpft und bedroht, muss dafür die Konsequenzen spüren. Gleichzeitig brauchen diejenigen, die Opfer von digitaler Gewalt geworden sind, unsere bestmögliche Unterstützung. Wir brauchen hier ganz deutliche Stopp-Zeichen. Hasskriminalität muss zu Anklagen und Verurteilungen führen. Ich rufe alle Betroffenen auf, digitale Gewalt anzuzeigen oder bei Meldestellen zu melden. Das erleichtert die Strafverfolgung der Täter sehr.“

Im besten Fall werden Menschen gar nicht erst Opfer physischer oder psychischer Gewalt. Genau dies ist das Ziel von Prävention und Zivilcourage. Dafür setzen sich ProPK, WEISSER RING e.V. und BMI gemeinsam ein.

Digitale Gewalt ist inzwischen Lebensrealität vieler Menschen – und das völlig unabhängig von Lebensalter oder sozialer Lage. Doch was kann getan werden, wenn man von digitaler Gewalt betroffen ist? Oft können nur die Betroffenen selbst die Beleidigungen, Drohungen und den Hass sehen, zum Beispiel in privaten Mails oder Textnachrichten. In anderen Fällen werden sie aber auch von anderen wahrgenommen – so in öffentlichen Chatgruppen, Foren oder auf Social Media.

Digitale Gewalt, reale Folgen

„Und dabei bleibt Hass im Netz nicht im Netz. Er sickert aus dem Netz in die analoge Welt und trägt dazu bei, dass unsere Gesellschaft sich spaltet und verroht. Deswegen ist es so wichtig, Hass überall zu bekämpfen, wo wir ihn finden, auf der Straße wie im Internet“, erläutert Bianca Biwer, die Bundesgeschäftsführerin des WEISSEN RINGS.

In jedem Falle ist digitale Gewalt strafbar – die Polizei fasst darunter unter anderem Delikte wie Beleidigung, üble Nachrede, Verleumdung, Bedrohung, Nötigung oder Volksverhetzung.

Anders als analoge Gewalt spielt sich digitale Gewalt oft ohne Pause, 24 Stunden an 7 Tagen der Woche ab. Sie überschreitet die Grenze der vermeintlich sicheren eigenen vier Wände und schafft es schlimmstenfalls sogar bis ins Kinderzimmer. Täterinnen und Täter bleiben dabei meist anonym und nutzen die Macht über ihre Opfer aus. Für Polizei und Zivilgesellschaft gilt es, gemeinsam dagegen vorzugehen.

„Melden Sie digitale Gewalt und bringen Sie diese bei der Polizei zur Anzeige. So kann gezielt gegen Täterinnen und Täter vorgegangen und weitere Straftaten und damit Opfer verhindert werden“, so Joachim Schneider, Geschäftsführer des ProPK.

Handlungsleitfaden der Polizei bei digitaler Gewalt:

  • Wer von digitaler Gewalt betroffen ist, sollte zuallererst Beweise sichern. Solange es sich nicht um Nacktbilder Minderjähriger handelt, kann ein rechtssicherer Screenshot angefertigt werden.
  • Erst danach den Beitrag bei der jeweiligen Plattform oder dem Betreiber melden. (Nach einer Meldung kann eventuell nicht mehr auf den gemeldeten Beitrag zugegriffen werden.)
  • Als nächsten Schritt die digitale Gewalt bei der Polizei online oder über die 110 melden.
  • Als Betroffene oder Betroffener von digitaler Gewalt melden Sie sich bei Bedarf beim Opfer-Telefon des WEISSEN RINGS unter der 116 006 oder online unter https://weisser-ring.de/hilfe-fuer-opfer/onlineberatung

Im Rahmen des Tags der Kriminalitätsopfer veröffentlichen BMI, ProPK und der WEISSE RING am 22. März gemeinsam auf ihren Social-Media-Kanälen das Video-Reel „Digitale Gewalt melden“ mit der Bitte, dieses zu teilen und zu kommentieren.