Wenn Algorithmen über Anträge entscheiden: Die Verwaltung wird smarter – aber auch verantwortungsvoller.

Künstliche Intelligenz wird in der Hochschulverwaltung zunehmend zur Automatisierung und Optimierung von Prozessen eingesetzt – etwa bei der Bearbeitung von Anträgen, in der Ressourcenplanung oder beim Datenmanagement im Studierendenservice. Die Potenziale sind groß: mehr Effizienz, schnellere Entscheidungen, bessere Services, weniger Routinelast für Mitarbeitende.

Doch dieser Fortschritt bringt auch rechtliche, ethische und organisatorische Herausforderungen mit sich. Insbesondere wenn KI-Systeme Entscheidungsprozesse beeinflussen, die den Zugang zu Bildung, Fördermitteln oder Studienverläufen betreffen, greifen die Vorgaben des AI Acts – mitunter in Form strenger Hochrisiko-Anforderungen.

Typische KI-Anwendungen in der Verwaltung mit Relevanz für den AI Act:

• Automatisierte Verfahren zur Studienplatzvergabe oder Leistungsanerkennung

• KI-basierte Bewertung von Eignungsprüfungen oder Förderanträgen

• Entscheidungsfähige Chatbots im Studierendenservice

• Automatisierte Bearbeitung von BAföG-Anträgen, Fristen oder Einschreibungen

• Vorhersagetools zu Studienverläufen oder Abbruchwahrscheinlichkeiten

Für solche Anwendungen gelten – abhängig von der Risikoklasse – folgende zentrale Pflichten:

• Risikobewertung vor dem Einsatz: Identifikation der Auswirkungen auf Grundrechte

• Transparenz gegenüber Betroffenen: Offenlegung, wann und wie KI eingesetzt wird

• Protokollierung & Nachvollziehbarkeit: Dokumentation aller Entscheidungen und Kriterien

• Menschliche Aufsicht: Sicherstellung, dass Entscheidungen überprüft und korrigiert werden können

• Monitoring & Qualitätssicherung: Regelmäßige Prüfung auf Verzerrungen oder Fehlfunktionen

Damit diese Anforderungen rechtskonform umgesetzt werden können, müssen Hochschulen geeignete Strukturen und Zuständigkeiten schaffen. Dazu gehört insbesondere:

• die Schulung von Verwaltungsmitarbeitenden in rechtlichen und technischen Grundlagen,

• die Verankerung klarer Verantwortlichkeiten für Auswahl, Einführung und Kontrolle von KI-Systemen,

• sowie die Einrichtung einer zentralen Koordinierungsstelle, die IT, Datenschutz, Rechtsabteilung und operative Fachbereiche verbindet.

Auch bei der Nutzung externer Softwarelösungen gilt: Hochschulen tragen Verantwortung für deren rechtskonformen Einsatz. Verträge mit Drittanbietern sollten daher klare Regelungen zu Datenschutz, Auditierbarkeit, Transparenz und Kontrollrechten enthalten. Die technische und rechtliche Prüfung durch interne oder externe Fachstellen ist hierfür essenziell.