2.4 Ethische und gesellschaftliche Grundprinzipien und Reflexion

Können Algorithmen gerecht sein? Eine Auseinandersetzung mit ethischen Grundprinzipien ist gefragt.

Neben den rechtlichen Vorgaben sind ethische Grundprinzipien ein unverzichtbarer Orientierungsrahmen für den Einsatz von Künstlicher Intelligenz an Hochschulen. Ethische Leitlinien helfen dabei, technologische Entwicklungen im Einklang mit gesellschaftlichen Werten und akademischer Integrität zu gestalten. Besonders im Bildungsbereich, wo es um Persönlichkeitsentwicklung, Teilhabe und gerechte Chancenverteilung geht, sind ethische Fragen essenziell.

 

Zentrale ethische Prinzipien im Umgang mit KI

1. Autonomie: Die Entscheidungsfreiheit von Lernenden und Lehrenden muss gewahrt bleiben. KI-Systeme dürfen nicht bevormunden, sondern sollen unterstützen. Nutzende müssen jederzeit erkennen können, ob sie mit einem KI-System interagieren und dürfen nicht zur Nutzung gezwungen werden.

2. Gerechtigkeit und Nichtdiskriminierung: KI-Systeme müssen so konzipiert sein, dass sie bestehende Ungleichheiten nicht verstärken. Verzerrungen (Bias) in Trainingsdaten oder Entscheidungsprozessen sind zu identifizieren und zu korrigieren. Besondere Aufmerksamkeit gilt vulnerablen Gruppen.

3. Transparenz: Die Funktionsweise, Einsatzgebiete und Grenzen eines KI-Systems müssen nachvollziehbar sein – sowohl für Nutzende als auch für Verantwortliche. Intransparentes Verhalten ("Black Box") steht im Widerspruch zu den Anforderungen an eine aufgeklärte akademische Praxis.

4. Verantwortlichkeit: Die Verantwortung für Entscheidungen, die mit oder durch KI-Systeme getroffen werden, muss klar geregelt sein. Die Verantwortung kann nicht vollständig an ein technisches System delegiert werden.

5. Nachhaltigkeit und gesellschaftlicher Nutzen: Der Einsatz von KI an Hochschulen sollte langfristig einen positiven Beitrag zu Bildungsprozessen, Inklusion und wissenschaftlichem Fortschritt leisten. Technische Machbarkeit allein ist kein ausreichendes Entscheidungskriterium.

 

 

Praktische Umsetzung an Hochschulen

• Entwicklung hochschulweiter Ethikrichtlinien oder Verhaltenskodizes zum KI-Einsatz

• Integration ethischer Reflexion in Studiengänge, insbesondere in Lehramts-, Technik- und Sozialwissenschaften

• Einrichtung interdisziplinärer Ethikkommissionen mit Vertreter:innen aus Lehre, IT, Recht, Studierendenschaft und Gleichstellungsarbeit

• Regelmäßige ethische Bewertung von KI-Systemen, insbesondere bei Systemen mit Entscheidungscharakter

• Förderung kritischer Medienkompetenz und partizipativer Aushandlungsprozesse

 

Ethik - Einführung in die KI-Ethik
CC-Namensnennung 4.0 International: Marie von Lobenstein
Heine Center for Artificial Intelligence and Data Science (HeiCAD), Heinrich-Heine-Universität Düsseldorf (HHU), ORCA.nrw

 

 

Verantwortung bedeutet Reflexion und Struktur.

Der verantwortungsvolle Einsatz von Künstlicher Intelligenz in der Hochschule erfordert mehr als nur die Beachtung rechtlicher Normen und technischer Standards. Er setzt eine kontinuierliche Reflexion voraus, die individuelle Haltungen, institutionelle Strukturen und gesellschaftliche Auswirkungen einbezieht. Hochschulen tragen als Bildungs- und Forschungsinstitutionen eine besondere Verantwortung, mit gutem Beispiel voranzugehen und einen ethisch informierten Umgang mit KI aktiv zu gestalten.

 

Reflexion auf individueller Ebene: Wann verlasse ich mich auf KI?

Lehrende, Forschende und Mitarbeitende sollten ermutigt werden, sich mit der eigenen Rolle im Umgang mit KI auseinanderzusetzen. Dies umfasst Fragen wie:

• In welchen Situationen verlasse ich mich auf KI-Systeme?

• Wo sollte ich kritisch hinterfragen, interpretieren oder korrigierend eingreifen?

• Wie kommuniziere ich die Verwendung von KI gegenüber Studierenden, Kolleg:innen oder der Öffentlichkeit?

Die Entwicklung von Reflexionskompetenz kann durch hochschuldidaktische Angebote, Workshops, Fallbeispiele und interdisziplinäre Diskurse gefördert werden. Auch Lehr-Lern-Settings, in denen Studierende angeleitet werden, ethische Dilemmata im Umgang mit KI zu analysieren, tragen zu einer kritischen Auseinandersetzung bei.

 

Institutionelle Verantwortung: Struktur schaffen

Hochschulen sollten Strukturen schaffen, die eine verantwortungsvolle Entwicklung, Nutzung und Bewertung von KI ermöglichen. Dazu gehören:

• die Benennung klarer Verantwortlichkeiten für KI-Projekte,

• transparente Entscheidungsprozesse bei der Einführung neuer Systeme,

• regelmäßige Evaluations- und Rechenschaftsmechanismen,

• die Einbindung unterschiedlicher Statusgruppen (z. B. Studierende, Lehrende, Verwaltung, Gleichstellungsbeauftragte, IT und Forschung) in Entscheidungsprozesse,

• ein aktiver Diskurs über ethische und gesellschaftliche Herausforderungen im Hochschulalltag.

 

Gesellschaftliche Verantwortung: Diskurs anstoßen

Als Orte des Wissens, der Meinungsbildung und der Innovation tragen Hochschulen auch Verantwortung gegenüber der Gesellschaft. Sie sollten:

• zur öffentlichen Debatte über den Einsatz von KI beitragen,

• interdisziplinäre Forschungsprojekte zu Chancen und Risiken von KI fördern,

• Best Practices dokumentieren und offen zugänglich machen,

• in der Ausbildung von Lehrkräften, Journalist:innen, Ingenieur:innen und weiteren Berufsgruppen ethisches KI-Wissen vermitteln.

 

Reflexion und Verantwortung dürfen dabei nicht als isolierte Aufgaben Einzelner verstanden werden, sondern sind Teil einer umfassenden Kultur der Achtsamkeit, Transparenz und Partizipation. Nur so können Hochschulen den digitalen Wandel aktiv und verantwortungsbewusst mitgestalten.

 

Wo KI an ihre Grenzen stößt

So leistungsfähig diese Systeme auch sind – sie bleiben fehleranfällig. Halluzinationen, also faktisch falsche, aber überzeugend klingende Aussagen, sind keine Seltenheit. Auch Bias bleibt ein zentrales Risiko.

Die technologischen Fortschritte werfen tiefgreifende gesellschaftliche Fragen auf:

• Wer trägt Verantwortung für Fehlentscheidungen?

• Welche Auswirkungen hat KI auf Arbeitsmärkte, Bildung oder unser Selbstverständnis?

• Wie gehen wir mit Deepfakes (Medieninhalten wie z.B. Videos oder Bilder, die mithilfe von KI erzeugt/manipuliert werden), Fake News oder der hohen Energiebilanz solcher Modelle um?

Viele dieser Fragen sind noch unbeantwortet. Umso wichtiger sind transparente Regeln – etwa durch den EU AI Act – sowie offene Diskurse über Chancen, Risiken und Einsatzgrenzen.

  

      

Technische und ökologische Herausforderungen 

 

  

 

 

Fazit: Die Zukunft der KI ist eine Gestaltungsaufgabe

KI verändert unsere Welt – das ist keine Zukunftsfrage, sondern Gegenwart. Ob diese Veränderung zu mehr Gerechtigkeit, Freiheit und Teilhabe führt, hängt davon ab, wie wir heute entscheiden: Welche Werte wir priorisieren, welche Risiken wir begrenzen, welche Chancen wir nutzbar machen. Denn die entscheidende Frage lautet nicht, ob Künstliche Intelligenz unsere Gesellschaft verändern wird – sie tut es bereits.

Die Antwort auf die KI-Frage ist demnach keine technische, sondern eine gesellschaftliche. Und sie braucht: Wissen, Dialog, Verantwortung.