Künstliche Intelligenz im Kontext des Jugendmedienschutzes

Mit Programmen wie ChatGPT, Midjourney und anderen ist das Thema „Künstliche Intelligenz“ erstmals einer breiteren Öffentlichkeit zugänglich. Die niedrigschwellige Erreichbarkeit und einfache Nutzbarkeit stellt den Jugendmedienschutz vor neue Herausforderungen. Vielfältige Inhalte werden in sekundenschnelle automatisiert und einfach erstellt und geteilt. Realität und Fiktion verschemlzen dabei. Auch die rechtsextreme und islamistische Szene nutzen bereits KI als Teil ihrer Propaganda, Desinformation oder Rekrutierungsstrategien. Virtuelle Prediger treten in Videos auf, vielfältige Propaganda-Memes und Fake-Bilder werden produziert, Musikvideos mit NS-Protagonisten, die moderne Lieder scheinbar „performen", werden verbreitet. In dem Vortrag werden anhand von Praxisbeispielen aus der Arbeit von jugendschutz.net aktuelle Entwicklungen des Einsatzes generativer KI aufgezeigt. Thematisiert wird, welche demokratiefeindlichen Risiken sich daraus für Minderjährige ergeben und welche Herausforderungen sie für den Jugendmedienschutz bedeuten. jugendschutz.net fungiert als gemeinsames Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet. jugendschutz.net sichtet Angebote im Netz auf Verstöße gegen den Jugendschutz, nimmt Beschwerden entgegen und recherchiert selbst, welche Risiken für Kinder und Jugendliche bestehen.