Künstliche Intelligenz und generative KI entwickelt sich mit Riesenschritten und bietet immer wieder neue Möglichkeiten, die auch Extremist:innen gezielt nutzen. Niederschwellige Zugangsmöglichkeiten zu KI, einfache Nutzung und vielfältige Zugangsmöglichkeiten stellen den Jugendmedienschutz vor neue Herausforderungen.
Inhalte können sekundenschnell automatisiert und einfach erstellt und geteilt werden. Realitätsdarstellungen und Fiktion verschmelzen dabei.
Teilweise werden durch KI-Modelle Stereotype und Vorurteile (weiter)verbreitet. Rechtsextreme und islamistische Akteure nutzen die Möglichkeiten von KI im Rahmen von Propaganda, Desinformation und der Verbreitung von Hass - offen, oft aber auch subtil, unterschwellig und schwer zu erkennen.
Anhand von aktuellen Beispielen aus unserer Arbeit und direkt aus dem Internet gehen wir an eine gemeinsame erste Analyse solcher Inhalte, um zusammen Potentiale, Szenarien und Problemfelder sowie mögliche Gefahren für die Demokratiefähigkeit junger Menschen aufzuzeigen und Lösungsoptionen zu finden.