Verfassungsschutz: Blackbox-Algorithmen begünstigen Radikalisierung Jugendlicher
Das Bundesamt für Verfassungsschutz sieht in intransparenten Algorithmen von Plattformbetreibern einen zentralen Faktor für die Online-Radikalisierung junger Menschen. Eine neue Analyse beschreibt, wie Nutzer schrittweise in Echokammern geführt werden und welche Plattformen Extremisten bevorzugen.
Das Bundesamt für Verfassungsschutz (BfV) macht neben psychologischen Faktoren auch die Funktionsweise bestimmter Internet-Plattformen für die Radikalisierung junger Menschen im Netz verantwortlich. In einer neuen Publikation des Inlandsnachrichtendienstes heißt es, dass soziale Isolation, Schwierigkeiten im persönlichen Umfeld und teils mentale Probleme typische Voraussetzungen für dynamische Radikalisierungsprozesse seien. Eine herausragende Rolle spielten dabei die intransparenten Algorithmen der Plattformbetreiber, da diese verstärkt auf kontroverse und hoch interaktive Inhalte setzten.
Nach dem Konsum unverfänglicher „semi-politischer Inhalte“ würden Nutzer demnach allmählich in eine sogenannte Echokammer geführt, in der immer radikalere und stark emotionalisierende Inhalte verbreitet würden. Durch die fortlaufende Wiederholung und Bestätigung durch andere Nutzer würden extremistische Ideen zunehmend normalisiert und verinnerlicht. Auffällig sei dabei, dass sich Personen nicht immer exklusiv in eine Ideologie hinein radikalisierten, sondern sich häufig aus einem „bunten Potpourri demokratiefeindlicher Ideen“ bedienten, schreibt der Verfassungsschutz.
Die Vernetzung sowie die Verbreitung von Propaganda oder Gewaltvideos laufen laut der Analyse über Websites, soziale Medien, Gaming-Plattformen, Imageboards oder Messengerdienste. Extremisten unterschiedlicher Couleur bevorzugten dabei bestimmte Online-Kommunikationsräume. Rechtsextremisten nutzten neben klassischen sozialen Netzwerken und Messengerdiensten wie Telegram auch nicht kommerzielle Videoportale oder Imageboards wie Kohlchan. Auch Gaming-Plattformen wie Steam oder gamingbezogene Konferenzdienste wie Discord dienten der Kontaktaufnahme.
Als Beispiel führt der Verfassungsschutz eine internationale Telegram-Gruppe namens „Brenton Fanclub“ an. Der Name bezieht sich auf den rechtsextremen Attentäter von Christchurch in Neuseeland, der am 15. März 2019 in zwei Moscheen 51 Menschen tötete und den Anschlag vor seiner Tat live im Internet übertrug. Nachrichtendienstliche Ermittlungen hätten zu polizeilichen Maßnahmen gegen einen 15-Jährigen und einen 19-Jährigen geführt, die unabhängig voneinander dort konkrete Anschlagsdrohungen gepostet hatten. In einem Fall richteten sich die Drohungen gegen eine Schule und eine Moschee in Bremerhaven, im anderen Fall gegen eine Synagoge in Halle.
Linksextremistische Gruppierungen nutzten dagegen vor allem gängige Online-Plattformen wie Instagram, um über die eigenen Szenemedien hinaus Inhalte zu verbreiten sowie zu Demonstrationen und Veranstaltungen aufzurufen. Jugendgruppen der Szene seien teils auch auf TikTok, X sowie Video- und Karriereportalen, Musik-Streamingdiensten und bei Facebook vertreten. Islamistische Terrorgruppen wie der Islamische Staat (IS) mit seinen verschiedenen Ablegern oder Al-Kaida seien vor allem auf der Chatplattform Rocket-Chat und bei Telegram präsent.
Inzwischen greifen Islamisten den Angaben zufolge auch auf Künstliche Intelligenz zurück und erstellen Deepfakes. Sympathisanten nutzten zudem TikTok und Gaming-Plattformen zur Vernetzung und zur Verbreitung von Propagandamaterial. Gruppierungen aus dem islamistischen Spektrum, die vor allem danach strebten, in Deutschland lebende Muslime dazu zu bringen, sich von der Mehrheitsgesellschaft abzuwenden, seien dagegen laut BfV vor allem auf klassischen Social-Media-Plattformen aktiv. Die Publikation liefert auch Anhaltspunkte für Eltern, um Radikalisierungsprozesse bei Jugendlichen frühzeitig zu erkennen.
