Die Verbreitung extremistischer Inhalte – die sowohl rechtsextremistisch, linksextremistisch als auch islamistisch orientiert sein können – stellen im Internet eine wachsende Herausforderung dar und gefährden unsere Demokratie. Soziale Netzwerke und Online-Gaming-Plattformen werden dazu aktiv genutzt. Sie bieten Extremistinnen und Extremisten reichlich Möglichkeiten, vor allem junge Menschen schnell und unkompliziert zu erreichen, um ihre Ideologien zu verbreiten, sich zu vernetzen, (neue) Anhänger zu mobilisieren und zu gewinnen. Hier wird sichtbar, wie die digitale Welt nicht nur Teilhabe und Mitentwicklung an gesellschaftlichen Prozessen ermöglicht, sondern auch in unsere Meinungsbildung und unser demokratisches Miteinander hineinwirken kann.
Wo tritt Extremismus im Netz auf?
Extremistische Inhalte finden sich vor allem auf Social Media-Plattformen wie Instagram und vor allem TikTok, aber auch auf Videoplattformen wie YouTube oder Twitch. Zusätzlich spielen Chats und Chatgruppen auf Messenger-Diensten wie Telegram, Discord und WhatsApp eine zentrale Rolle. Diese Räume sind oft schwer zu überblicken und zu moderieren, da sie sowohl private Kommunikation als auch geschlossene Gruppen umfassen.
Im Bereich des Gamings werden Extremismus und radikalisierende Botschaften immer häufiger beobachtet. Gaming-Plattformen und Sprachchats bieten eine scheinbar harmlose Umgebung, in der Jugendliche angesprochen und mit extremen Ideologien konfrontiert werden können. Dazu werden auch angepasste Spielelemente – sogenannte Mods (Modifikationen) – und Teamdynamiken genutzt, um ein Gefühl von Zugehörigkeit und Gemeinschaft zu schaffen.
Wie werden extremistische Inhalte online verbreitet?
Extremistische Inhalte werden durch eine Vielzahl von Methoden verbreitet:
- Chats und Chatgruppen: In geschlossenen Gruppen wird gezielt Propaganda geteilt, oft kombiniert mit der Aufforderung, diese Inhalte weiterzuverbreiten. So entstehen Netzwerke, die schwer zu durchdringen sind.
- Postings und Hashtags: Öffentlich zugängliche Postings auf Social Media-Plattformen sind eine weitere Verbreitungsform. Dazu werden beispielsweise Videos genutzt, um ein Gemeinschaftsgefühl zu vermitteln und subtil zu beeinflussen. Hashtags und Trends werden verwendet, um die Reichweite zu maximieren und auch unbeteiligte Nutzer zu erreichen.
- Meme-Kultur und Gaming: Extremistische Botschaften werden oft in harmlos wirkende Inhalte wie sog. Memes oder spielerische Narrative eingebettet, wodurch sie subtil verbreitet werden.
- Manipulative Techniken: Die gezielte Nutzung von Deepfakes und manipulativen Videos verstärkt die Wirkung extremistischer Inhalte.
Was wird gegen Extremismus im Netz getan?
Der Digital Services Act der Europäischen Union legt einheitliche europäische Haftungs- und Sicherheitsvorschriften für digitale Plattformen, Dienste und Produkte fest. Damit soll die Verbreitung illegaler Inhalte verhindert und Nutzer besser geschützt werden. Nach dieser EU-Vorgabe müssen alle Plattformen ermöglichen, dass Beiträge, die beispielsweise gewaltvolle Inhalte haben oder beleidigend sind, gemeldet werden können. Große Online-Plattformen müssen Algorithmen und interne Prozesse offenlegen. Die Plattformen müssen demnach Risiken bewerten, die von ihren Empfehlungssystemen ausgehen. In diesem Zusammenhang hat die EU-KommissionÖffnet sich in einem neuen Fenster u.a. TikTok dazu aufgefordert, Informationen zur Gestaltung und Funktionsweise ihrer Empfehlungssysteme zu liefern. TikTok ist dazu aufgefordert, Informationen zu liefern, wie sie die Risiken im Zusammenhang mit Wahlen, Medienpluralismus und zivilgesellschaftlichem Diskurs mindert, die durch ihre Empfehlungssysteme verstärkt werden können.
YouTube und Snapchat waren dazu aufgefordert, Informationen zu Maßnahmen zu liefern, die den potentiellen Einfluss ihrer Empfehlungssysteme auf die Verbreitung illegaler Inhalte, wie Hassrede, abschwächen. Je nach Bewertung der EU-Kommission werden dann weitere juristische Schritte eingeleitet werden.
Welche medialen Herausforderungen und Risiken gehen mit der Verbreitung extremistischer Inhalte einher?
Die Verbreitung extremistischer Inhalte geht mit spezifischen Herausforderungen einher, die die Regulierung und Kontrolle erschweren. Diese beinhalten: