(hib/DES) Um die Chancen und Risiken, die mit dem wachsenden Einsatz von KI-Anwendungen wie ChatGPT einhergehen, ging es in einem öffentlichen Fachgespräch des Bildungsausschusses am 26.04.2023. Die geladenen Sachverständigen betonten, dass Deutschland und Europa auf dem Feld der Künstlichen Intelligenz (KI) nicht den Anschluss verpassen dürften. Außerdem mahnten sie, dass Bürgerinnen und Bürger entsprechende Kompetenzen erlangen müssten, um Anwendungen wie ChatGPT gut nutzen zu können.

Grundlage des Gesprächs war ein Hintergrundbericht des Büros für Technikfolgenabschätzung (TAB) zu dem Thema ChatGPT und andere KI-gestützte Sprachmodelle. Aufgrund der aktuellen Dynamik in dem Feld könne die Studie allerdings „nur eine Momentaufnahme“ sein, sagte Steffen Albrecht, der die Studie durchgeführt hat. Das TAB habe sich darin mit den Chancen und Risiken des KI-Einsatzes befasst. Chancen habe das TAB beispielsweise darin gesehen, dass KI Lehrkräfte bei Routineaufgaben entlasten und für die Schülerschaft als eine Art individualisierter Lernpartner dienen könne. Risiken sahen die Wissenschaftler unter anderem darin, dass durch KI-Anwendungen die Bildungsungleichheit weiter verstärkt werden könne. Im Bereich der öffentlichen Kommunikation warnte Albrecht davor, dass durch KI mehr Desinformation auf Social Media gestreut werden könne, was einen Vertrauensverlust und Verunsicherung der Bevölkerung mit sich bringe. 

Auf diese Gefahr machte auch Dirk Engling vom Chaos Computer Club e.V. aufmerksam. Durch KI-Anwendungen wie ChatGPT hätten politische Kampagnen aus dem In- und Ausland nun die Möglichkeit, Bürgerinnen und Bürger gezielt und persönlich anzusprechen, Realitätsblasen aufzubauen und Falschmeldungen zu verbreiten. Nachholbedarf sieht Engling daher im Bereich digitaler Bildung der Gesellschaft. 

Ein „enormes wirtschaftliches Potential“ birgt der Einsatz von KI für Tina Klüwer vom KI Bundesverband. Mit KI-Anwendungen könne beispielsweise auf den Fachkräftemangel reagiert werden. Es brauche daher einen „chancenorientierten Blick“ auf KI in Europa. Gleichzeitig warnte sie vor zu viel Regulierung: „Technologie ist erstmal neutral“. Daher müsse es bei Fragen der Regulierung eher um konkrete Anwendungsfälle als um KI als Ganzes gehen. Auch ihr Kollege Rasmus Rothe betonte, dass alles getan werden müsse, damit Unternehmen in Deutschland und Europa im Bereich KI wettbewerbsfähig blieben. Es müsse beispielsweise in Forschung und Start-ups investiert werden. Eine „KI-Kreislaufwirtschaft Made in Europe“ forderte auch Kristian Kersting, Professor an der TU Darmstadt. Außerdem machte Kersting klar, dass KI-Systeme kein Bewusstsein hätten und menschliche Arbeit dadurch auch durch mehr KI-Anwendungen nicht obsolet werden würde. 

Dass KI-Systeme durch das Trainieren mit bestimmten Daten, einen „Bias“ (Voreingenommenheit) hätten und daher grundsätzlich nicht neutral seien, sagte Judith Simon, Professorin an der Universität Hamburg. Es bedürfe daher bei der Frage nach Regulierungen nicht nur sektorspezifische Überlegungen. Da ChatGPT als Massenprodukt allen zugänglich sei, brauchen die Nutzer laut Simon gewisse Kompetenzen im Umgang damit. 

Doris Weßels, Professorin an der Fachhochschule Kiel, forderte, dass eine Task Force gegründet werden soll, um schnell auf die Herausforderungen durch KI für den Bildungsbereich zu reagieren. Es sei zwingend erforderlich, sich „intensiv mit unserem Bildungsauftrag“ auseinanderzusetzen und zu überlegen, welche Kompetenzen Lehre künftig vermitteln wolle und müsse. Aktuell seien Lehrende in der Breite noch nicht ausreichend geschult, um die Charakteristika von KI-Programmen zu verstehen und dieses Wissen an Lernende weiterzugeben.

Die Aufzeichnung des öffentlichen Fachgesprächs, die Liste der Sachverständigen und deren Stellungnahmen auf bundestag.de https://www.bundestag.de/dokumente/textarchiv/2023/kw17-pa-bildung-chat-gpt-941802