Was muss sich ändern, was ist schon da? Der AI Act bringt viele Hochschulbereiche in Bewegung.

Die EU-KI-Verordnung (AI Act) bringt für Hochschulen tiefgreifende Veränderungen mit sich. Als Institutionen, die KI-Systeme nutzen, entwickeln und erforschen, sind Hochschulen von der Regulierung in besonderer Weise betroffen. Sie müssen künftig nicht nur technische, rechtliche und ethische Anforderungen erfüllen, sondern auch strategische Entscheidungen über den Einsatz von KI in Lehre, Forschung und Verwaltung treffen.

1. Wo KI an Hochschulen zum Einsatz kommt

• Verwaltung: KI-gestützte Systeme unterstützen z. B. das Personalmanagement, die Studienberatung oder die Analyse von Studienverläufen.

• Lehre: Studierende nutzen generative KI wie ChatGPT oder Midjourney für Aufgaben, Recherchen und Lernunterstützung. Auch Lehrende setzen KI zur Erstellung von Materialien oder Feedback ein.

• Forschung: KI-Methoden werden für Mustererkennung, Textanalyse, Simulationen oder die Entwicklung eigener Modelle und Tools genutzt – auch in Drittmittelprojekten.

2. Rechtlicher Rahmen und Risikoeinstufung

• Hochrisiko-Systeme: Viele Anwendungen im Hochschulalltag gelten laut AI Act als hochriskant – z. B. automatisierte Prüfungsbewertungen, Zulassungsentscheidungen oder algorithmische Studienverlaufsberatung. Für diese gelten umfangreiche Pflichten: u. a. Risikobewertung, Qualitätssicherung, menschliche Kontrolle und transparente Dokumentation.

• Forschungsprivileg: Rein zu Forschungszwecken entwickelte Systeme fallen nicht unter die Regelungen – solange sie nicht operativ eingesetzt werden. Sobald ein System z. B. real Prüfungen bewertet, gelten die Anforderungen des AI Acts.

• Compliance & Governance: Hochschulen müssen interne Prozesse, Schulungen und Richtlinien aufbauen, z. B. für Datenschutz, Ethik, Meldepflichten oder Verantwortlichkeiten. Interdisziplinäre Gremien können helfen, die Einhaltung zu überwachen.

3. Prüfungsrecht & akademische Integrität

• Die Nutzung von KI in Prüfungen ist rechtlich und didaktisch komplex: Häufig ist der Einsatz schwer nachweisbar.

• Hochschulen müssen klare Regeln etablieren – etwa durch:

  • Aktualisierte Prüfungsordnungen,

  • mündliche Prüfungsanteile,

  • klare Vorgaben zum erlaubten und nicht erlaubten KI-Einsatz.

• Akademische Integrität muss weiterhin gewährleistet sein: Die ungekennzeichnete Übernahme KI-generierter Inhalte als Eigenleistung ist unzulässig.

4. Qualitätsmanagement und Datenschutz

• Hochrisiko-Systeme erfordern ein strukturiertes Qualitätsmanagement – über den gesamten Lebenszyklus hinweg.

• Datenschutz steht dabei im Zentrum: KI-Systeme müssen datenschutzkonform entwickelt und eingesetzt werden ("Privacy by Design").

• Insbesondere bei sensiblen Studierendendaten, Forschungsdaten oder Leistungsbewertungen sind Transparenz, Datenminimierung und klare Zuständigkeiten essenziell.

5. Zwischen Innovation und Regulierung: Chancen & Herausforderungen

• Chancen:

  • Steigerung von Effizienz in der Verwaltung,

  • neue Formen personalisierten Lernens,

  • innovative Forschung und Technologietransfer.

• Herausforderungen:

  • Ressourcenbedarf für Schulung, Infrastruktur und Rechtsberatung,

  • rechtliche Unsicherheiten bei offenen Fragen (z. B. Eigenleistung),

  • notwendige Koordination zwischen IT, Rechtsabteilung, Lehre und Forschung.

Fazit

Die KI-Verordnung verlangt von Hochschulen mehr als nur technische Anpassungen. Sie eröffnet Gestaltungsspielräume, fordert aber zugleich strukturelle und rechtliche Klarheit. Entscheidend ist, frühzeitig:

• klare Governance-Strukturen zu etablieren,

• interne Regeln zu formulieren,

• Mitarbeitende zu qualifizieren und

• den KI-Einsatz interdisziplinär zu begleiten.

Pilotprojekte, juristische Gutachten (z. B. zu Learning Analytics) und hochschulübergreifender Austausch können wertvolle Orientierung bieten.