Ethische Reflexion generativer KI
Zwischen Potenzial und Verantwortung
Sei es in Forschung, Lehre oder in administrativen Aufgaben, generative KI ist längst Teil unseres Alltags. Doch mit ihrer fortschreitenden Verbreitung stellen sich immer mehr Fragen. Was bedeutet ihr Einsatz für unsere Kompetenzen? Für unsere Entscheidungen? Für unsere Gesellschaft?
Diesen Fragen widmete sich das NextGen-Team in einem Workshop mit Stefan Müller, Hochschuldidaktiker an der Westsächsischen Hochschule Zwickau. Der Titel seines Workshops lautete „Ethische Reflexion generativer KI: Kriterien, Dilemmata und gesellschaftliche Treiber“.
Feststellung
KI ist kein neutrales Werkzeug
Generative KI lässt sich nicht isoliert betrachten. Das war ein zentraler Gedanke des Workshops. Sie ist eingebettet in soziale, wirtschaftliche und institutionelle Kontexte und wird durch diese geprägt.
Das bedeutet, die Wirkung von KI entsteht nicht allein durch die Technologie selbst, sondern durch die Art und Weise, wie wir sie einsetzen. Auch die Trainingsdaten spielen eine wichtige Rolle. Diese Perspektive eröffnete im Workshop eine wichtige Verschiebung:
Weg von der Frage „Was kann KI?“ hin zu „Was machen wir mit KI?“
Was kann KI?
Was machen wir mit KI?
Pro und Contra
Zwischen Entlastung und Kompetenzverlust
Besonders intensiv und lange diskutierten unsere Teammitglieder über die Auswirkungen auf individuelles Lernen und Arbeiten. Dies ist ein stichpunktartiger Abriss der Diskussion.
Generative KI kann:
- besonders unbeliebte Prozesse beschleunigen,
- beim Formulieren unterstützen oder Beispiele finden,
- den Zugang zu neuen Themen erleichtern.
Gleichzeitig birgt sie Risiken:
- Abhängigkeiten entstehen, die ein Gefühl von Hilflosigkeit ohne das Hilfsmittel auslösen könnte.
- Eigene Fähigkeiten werden weniger genutzt und könnten verkümmern.
- Denkprozesse werden verkürzt und eigene Ideen vernachlässigt. Forschungsergebnisse wiederholen das immer Gleiche, denn es entstehen keine neuen Ideen.
Die Diskussion machte deutlich, dass es kein „entweder oder“ gibt. Vielmehr bewegen wir uns in einem Kontinuum zwischen Unterstützung, Entlastung und möglicher Verdrängung eigener Kompetenzen. Während der Verwendung des Hilfsmittels sollten die Risiken stets im Hinterkopf behalten werden.
Dilemmata
statt klarer Lösungen
Viele Fragen rund um KI sind echte Dilemmata. Im Widerspruch stehen Effizienz vs. tiefes Lernen, Automatisierung vs. Selbstwirksamkeit, Innovation vs. Verantwortung. Jede positive Eigenschaft bringt eine mögliche Kehrseite mit sich. Genau diese „Janusköpfigkeit“ von KI wurde im Workshop aufgegriffen. Die Diskussionen vertieften sich so weit, dass Stefan Müller eigentlich geplante Inhalte einkürzen musste. Ein deutliches Zeichen dafür, wie relevant und diskussionswürdig das Thema ist.
Neben den individuellen Fragen rückte auch die gesellschaftliche Dimension in den Fokus. (Gen)KI Verändert den Arbeitsmarkt, aber nicht jede:r hat die gleichen Möglichkeiten, die Technologie zu nutzen. Was passiert mit den Menschen, die abgehängt werden? Zudem fragten wir uns, wie vertrauenswürdig generierte Inhalte eigentlich sind und ob wir uns überhaupt auf sie stützen sollten. Nicht nur können KI generierte Inhalte gefärbt sein, sie können auch verzerrend wirken.
Dennoch sind wir diesen Entwicklungen nicht ausgeliefert. Wir können sie aktiv mitgestalten. Nicht zuletzt hier entsteht Verantwortung auf der individuellen, der organisatorischen und der institutionellen Ebene. Besonders in Forschung und Lehre wiegt diese Verantwortung schwer.
Stefan Müller
während des Workshops. Die Diskussionen sprengten fast den Rahmen des Workshops.Ergo
Was bedeutet das für Hochschulen?
Im Hochschulkontext werden mehrere Handlungsfelder sichtbar.
- Wir müssen Kompetenzentwicklung neu denken. Neben den grundlegenden Fähigkeiten, die Stdierenden unbedingt vermittelt werden müssen, sollten auch ihre spezifischen KI-Kompetenzen gestärkt werden.
- Wir dürfen KI nicht nur nutzen, sondern müssen sie stets kritisch hinterfragen. Diese Kompetenz gilt es auch den Studierenden zu übermitteln.
- Viele Lehr- und Prüfungsformate sind überholt. Der Fokus wechselt von der Ergebnisabfrage hin zum Arbeitsweg, zu den Prozessen und Begründungen.
- Zur Einordnung der Veränderungen und Neuerungen durch KI braucht es Raum für Diskussionen. Ein Vorbild dafür ist dieser Workshop im Kreis von NextGen Wissenschaftler:innen.
Nicht der schnellste Weg ist der beste, sondern der, der uns weiterdenken lässt.