Können Algorithmen gerecht sein? Eine Auseinandersetzung mit ethischen Grundprinzipien ist gefragt.

Neben den rechtlichen Vorgaben sind ethische Grundprinzipien ein unverzichtbarer Orientierungsrahmen für den Einsatz von Künstlicher Intelligenz an Hochschulen. Ethische Leitlinien helfen dabei, technologische Entwicklungen im Einklang mit gesellschaftlichen Werten und akademischer Integrität zu gestalten. Besonders im Bildungsbereich, wo es um Persönlichkeitsentwicklung, Teilhabe und gerechte Chancenverteilung geht, sind ethische Fragen essenziell.

Zentrale ethische Prinzipien im Umgang mit KI

1. Autonomie: Die Entscheidungsfreiheit von Lernenden und Lehrenden muss gewahrt bleiben. KI-Systeme dürfen nicht bevormunden, sondern sollen unterstützen. Nutzende müssen jederzeit erkennen können, ob sie mit einem KI-System interagieren und dürfen nicht zur Nutzung gezwungen werden.

2. Gerechtigkeit und Nichtdiskriminierung: KI-Systeme müssen so konzipiert sein, dass sie bestehende Ungleichheiten nicht verstärken. Verzerrungen (Bias) in Trainingsdaten oder Entscheidungsprozessen sind zu identifizieren und zu korrigieren. Besondere Aufmerksamkeit gilt vulnerablen Gruppen.

3. Transparenz: Die Funktionsweise, Einsatzgebiete und Grenzen eines KI-Systems müssen nachvollziehbar sein – sowohl für Nutzende als auch für Verantwortliche. Intransparentes Verhalten ("Black Box") steht im Widerspruch zu den Anforderungen an eine aufgeklärte akademische Praxis.

4. Verantwortlichkeit: Die Verantwortung für Entscheidungen, die mit oder durch KI-Systeme getroffen werden, muss klar geregelt sein. Die Verantwortung kann nicht vollständig an ein technisches System delegiert werden.

5. Nachhaltigkeit und gesellschaftlicher Nutzen: Der Einsatz von KI an Hochschulen sollte langfristig einen positiven Beitrag zu Bildungsprozessen, Inklusion und wissenschaftlichem Fortschritt leisten. Technische Machbarkeit allein ist kein ausreichendes Entscheidungskriterium.

Praktische Umsetzung an Hochschulen

• Entwicklung hochschulweiter Ethikrichtlinien oder Verhaltenskodizes zum KI-Einsatz

• Integration ethischer Reflexion in Studiengänge, insbesondere in Lehramts-, Technik- und Sozialwissenschaften

• Einrichtung interdisziplinärer Ethikkommissionen mit Vertreter:innen aus Lehre, IT, Recht, Studierendenschaft und Gleichstellungsarbeit

• Regelmäßige ethische Bewertung von KI-Systemen, insbesondere bei Systemen mit Entscheidungscharakter

• Förderung kritischer Medienkompetenz und partizipativer Aushandlungsprozesse

Ethik - Einführung in die KI-Ethik
CC-Namensnennung 4.0 International: Marie von Lobenstein
Heine Center for Artificial Intelligence and Data Science (HeiCAD), Heinrich-Heine-Universität Düsseldorf (HHU), ORCA.nrw