Gefahren und Herausforderungen in der digitalen Welt

Die Verbreitung extremistischer Inhalte – die sowohl rechtsextremistisch, linksextremistisch als auch islamistisch orientiert sein können – stellen im Internet eine wachsende Herausforderung dar und gefährden unsere Demokratie. Soziale Netzwerke und Online-Gaming-Plattformen werden dazu aktiv genutzt. Sie bieten Extremistinnen und Extremisten reichlich Möglichkeiten, vor allem junge Menschen schnell und unkompliziert zu erreichen, um ihre Ideologien zu verbreiten, sich zu vernetzen, (neue) Anhänger zu mobilisieren und zu gewinnen. Hier wird sichtbar, wie die digitale Welt nicht nur Teilhabe und Mitentwicklung an gesellschaftlichen Prozessen ermöglicht, sondern auch in unsere Meinungsbildung und unser demokratisches Miteinander hineinwirken kann.

Wo tritt Extremismus im Netz auf?

Extremistische Inhalte finden sich vor allem auf Social Media-Plattformen wie Instagram und vor allem TikTok, aber auch auf Videoplattformen wie YouTube oder Twitch. Zusätzlich spielen Chats und Chatgruppen auf Messenger-Diensten wie Telegram, Discord und WhatsApp eine zentrale Rolle. Diese Räume sind oft schwer zu überblicken und zu moderieren, da sie sowohl private Kommunikation als auch geschlossene Gruppen umfassen.

Im Bereich des Gamings werden Extremismus und radikalisierende Botschaften immer häufiger beobachtet. Gaming-Plattformen und Sprachchats bieten eine scheinbar harmlose Umgebung, in der Jugendliche angesprochen und mit extremen Ideologien konfrontiert werden können. Dazu werden auch angepasste Spielelemente – sogenannte Mods (Modifikationen) – und Teamdynamiken genutzt, um ein Gefühl von Zugehörigkeit und Gemeinschaft zu schaffen.

Wie werden extremistische Inhalte online verbreitet?

Extremistische Inhalte werden durch eine Vielzahl von Methoden verbreitet:

  • Chats und Chatgruppen: In geschlossenen Gruppen wird gezielt Propaganda geteilt, oft kombiniert mit der Aufforderung, diese Inhalte weiterzuverbreiten. So entstehen Netzwerke, die schwer zu durchdringen sind.
  • Postings und Hashtags: Öffentlich zugängliche Postings auf Social Media-Plattformen sind eine weitere Verbreitungsform. Dazu werden beispielsweise Videos genutzt, um ein Gemeinschaftsgefühl zu vermitteln und subtil zu beeinflussen. Hashtags und Trends werden verwendet, um die Reichweite zu maximieren und auch unbeteiligte Nutzer zu erreichen.
  • Meme-Kultur und Gaming: Extremistische Botschaften werden oft in harmlos wirkende Inhalte wie sog. Memes oder spielerische Narrative eingebettet, wodurch sie subtil verbreitet werden.
  • Manipulative Techniken: Die gezielte Nutzung von Deepfakes und manipulativen Videos verstärkt die Wirkung extremistischer Inhalte.

Was wird gegen Extremismus im Netz getan?

Der Digital Services Act der Europäischen Union legt einheitliche europäische Haftungs- und Sicherheitsvorschriften für digitale Plattformen, Dienste und Produkte fest. Damit soll die Verbreitung illegaler Inhalte verhindert und Nutzer besser geschützt werden. Nach dieser EU-Vorgabe müssen alle Plattformen ermöglichen, dass Beiträge, die beispielsweise gewaltvolle Inhalte haben oder beleidigend sind, gemeldet werden können. Große Online-Plattformen müssen Algorithmen und interne Prozesse offenlegen. Die Plattformen müssen demnach Risiken bewerten, die von ihren Empfehlungssystemen ausgehen. In diesem Zusammenhang hat die EU-KommissionÖffnet sich in einem neuen Fenster u.a. TikTok dazu aufgefordert, Informationen zur Gestaltung und Funktionsweise ihrer Empfehlungssysteme zu liefern. TikTok ist dazu aufgefordert, Informationen zu liefern, wie sie die Risiken im Zusammenhang mit Wahlen, Medienpluralismus und zivilgesellschaftlichem Diskurs mindert, die durch ihre Empfehlungssysteme verstärkt werden können.

YouTube und Snapchat waren dazu aufgefordert, Informationen zu Maßnahmen zu liefern, die den potentiellen Einfluss ihrer Empfehlungssysteme auf die Verbreitung illegaler Inhalte, wie Hassrede, abschwächen. Je nach Bewertung der EU-Kommission werden dann weitere juristische Schritte eingeleitet werden.

Welche medialen Herausforderungen und Risiken gehen mit der Verbreitung extremistischer Inhalte einher?

Die Verbreitung extremistischer Inhalte geht mit spezifischen Herausforderungen einher, die die Regulierung und Kontrolle erschweren. Diese beinhalten:

Hassbotschaften und Falschinformationen sind Kernwerkzeuge extremistischer Akteure. Hate Speech dient dazu, Personen zu diffamieren, während Fake News genutzt werden, um Feindbilder zu konstruieren und das Vertrauen in demokratische Institutionen zu erschüttern. Durch die hohe Geschwindigkeit, mit der Inhalte in sozialen Netzwerken geteilt werden, verbreiten sich diese Botschaften oft schneller als ihre Widerlegung. Gezielte Desinformationskampagnen und unterstützende Fälschungen von Sprache und Bildern mit Hilfe von Künstlicher Intelligenz erhöhen darüber hinaus das Gefährdungspotential. Durch KI ist weiterhin eine aktive Manipulation und Polarisierung des öffentlichen Diskurses möglich, um neben der Meinungsbildung beispielsweise auch Wahlen zu beeinflussen. Sogenannte TrollarmeenÖffnet sich in einem neuen Fenster unterstützen dabei eine koordinierte und massenhafte Verbreitung von Desinformationen u.a. in Kommentarspalten.

Informationen dazu, wie Hate Speech gemeldet werden kann, finden Sie hier. Was Verschwörungstheorien sind und wie Fake News und Deep Fakes erkannt werden, können Sie hier nachlesen.

Social Media-Algorithmen tragen unbeabsichtigt dazu bei, dass extremistische Inhalte größere Sichtbarkeit erhalten. Sie priorisieren Inhalte, die stark polarisieren und Emotionen auslösen – ein Muster, das Extremisten gezielt nutzen. So werden Nutzerinnen und Nutzer, die bereits anfällig für bestimmte Narrative sind, in einer Filterblase gehalten, was die Wahrscheinlichkeit einer Radikalisierung erhöhen kann. Weitere Informationen dazu hier.

Wie können Eltern Kinder für das Thema Extremismus im Netz sensibilisieren und vor Risiken schützen?

  • Fördern Sie einen kritischen Umgang mit Medieninhalten:
    • Sprechen Sie mit Ihrem Kind über mediale Phänomene wie Hate Speech, Fake News und Deep Fakes.
    • Helfen Sie, Vorurteile abzubauen und geben Sie Ihrem Kind Argumente gegen extremistische Ideologien an die Hand.
  • Sensibilisieren Sie Ihr Kind für ein adäquates Verhalten im Netz – die sogenannte Netiquette. Weitere Informationen dazu unter: Elternratgeber - Medienkompetenz, Mediensucht und Netiquette | Digitale Schule Hessen
  • Unterstützen Sie Zivilcourgage. Zeigen Sie, wie extremistische Inhalte gemeldet werden und wie Sie Ihrem Kind helfen können, zu reagieren und zu widersprechenÖffnet sich in einem neuen Fenster.
  • Hören Sie Ihren Kindern zu – das bietet auch die Möglichkeit, Radikalisierungstendenzen frühzeitig zu erkennen und entsprechend darauf einzugehen.

 

Wie können Schulen für das Thema Extremismus sensibilisieren?

Hilfestellung, wie im Unterricht das Thema Extremismus aufgegriffen werden kann, finden Sie hier als auch auf dem Internetauftritt des Hessischen Informations- und Kompetenzzentrums gegen Extremismus: Hilfsangebote | hke.hessen.deÖffnet sich in einem neuen Fenster.

Im analogen Raum werden Schulen seitens des Landes entsprechende Präventionsangebote zu ExtremismusÖffnet sich in einem neuen Fenster und  AntisemitismusÖffnet sich in einem neuen Fenster unterbreitet. Bei rechtsextremistischen Vorfällen an Ihrer Schule finden Sie hierÖffnet sich in einem neuen Fenster Unterstützung.

Außerdem sind alle extremistischen, antisemitischen sowie alle anderen Vorfälle auf Religion bezogener Diskriminierungen gemäß § 23 der Dienstordnung auf dem Dienstweg der für die jeweilige Schule zuständigen Schulaufsicht zu melden, damit auf jeden einzelnen Vorfall angemessen reagiert werden kann.

Weitere Informationen

Für junge Menschen, die Teil einer extremistischen Gruppierung sind, gibt es verschiedene Aussteigerprogramme die sie dabei unterstützen, sich zu distanzieren und neu zu orientieren. Hier finden Sie weitere Informationen: