Mit dem Inkrafttreten der KI-Verordnung (AI Act) entstehen für Hochschulen nicht nur neue Anforderungen, sondern auch konkrete Handlungspflichten. Ob in Lehre, Forschung oder Verwaltung – überall dort, wo KI-Systeme eingesetzt, weiterentwickelt oder beschafft werden, gilt es, rechtliche, technische und organisatorische Rahmenbedingungen einzuhalten. Besonders im Umgang mit sogenannten Hochrisiko-KI-Systemen sieht der Gesetzgeber umfangreiche Maßnahmen vor, etwa zur Dokumentation, Risikobewertung und Transparenz.

Dabei betrifft die Umsetzung nicht nur zentrale Stellen wie Datenschutzbeauftragte oder IT-Abteilungen, sondern erfordert ein Zusammenspiel vieler Akteure – von Lehrenden über Verwaltungsmitarbeitende bis hin zu Forschenden. Auch Systeme mit begrenztem Risiko (z. B. Chatbots zur Beratung) unterliegen Informationspflichten. Hochschulen sind deshalb gefordert, klare Zuständigkeiten, verbindliche Prozesse und begleitende Schulungsformate zu etablieren.

Nach der Bearbeitung dieses Kapitels sind Sie in der Lage:

✅ bestehende oder geplante KI-Anwendungen an Ihrer Hochschule korrekt einzuordnen,
✅ die sich daraus ergebenden rechtlichen, technischen und organisatorischen Anforderungen zu identifizieren,
✅ geeignete Maßnahmen für eine gesetzeskonforme Umsetzung abzuleiten,
✅ sowie die Einführung und Nutzung von KI im Sinne einer verantwortungsvollen, nachhaltigen Hochschulpraxis aktiv mitzugestalten.

📖 Das Kapitel umfasst folgende Abschnitte

5.1 Hochrisikosysteme an Hochschulen
Wie lässt sich prüfen, ob eine Anwendung unter die Hochrisikodefinition fällt – und welche typischen Einsatzszenarien betreffen Hochschulen besonders?

5.2 KI-Governance an Hochschulen
Welche internen Strukturen, Richtlinien und Zuständigkeiten braucht es, um die Vorgaben des AI Acts zuverlässig umzusetzen?

5.3 Empfehlungen für die Hochschullehre
Wie kann generative KI sinnvoll, rechtskonform und lernförderlich in Lehrveranstaltungen eingesetzt werden – mit Blick auf Prüfungsrecht und didaktische Qualität?

5.4 Besonderheiten für die Forschung
Welche Regeln gelten für Forschungsprojekte?

5.5 KI in der Hochschulverwaltung
Welche Anwendungsbereiche im Verwaltungsbereich sind besonders sensibel – und was ist bei automatisierten Entscheidungen zu beachten?