Ohne klare Zuständigkeiten und Regeln bleibt KI ein Risiko – mit Governance wird sie gestaltbar.

Um die Anforderungen des AI Acts zuverlässig umzusetzen, müssen Hochschulen robuste Governance-Strukturen etablieren. Governance beschreibt die Gesamtheit der Zuständigkeiten, Regeln, Prozesse und Kontrollmechanismen, mit denen der Einsatz von KI gesteuert wird – und betrifft sowohl technische als auch ethische, rechtliche und strategische Aspekte.

Ein funktionierendes Governance-Modell schafft den Rahmen für einen rechtssicheren, transparenten und verantwortungsvollen Umgang mit KI – von der Auswahl bis zur Kontrolle eingesetzter Systeme.

Zuständigkeiten und Rollen klar definieren

Zentral ist die klare Zuordnung von Verantwortung innerhalb der Hochschule. Für Bewertung, Freigabe, Kontrolle und Dokumentation von KI-Anwendungen sollten folgende Akteure eingebunden werden:

• Datenschutzbeauftragte

• IT-Sicherheitsbeauftragte

• Fachverantwortliche aus Lehre, Forschung und Verwaltung

• Ethikkommissionen oder hochschulinterne Gremien für Technikfolgenabschätzung

• ggf. externe Expert:innen für Recht, Technik und Qualitätssicherung

Hochschulweite KI-Richtlinien etablieren

Ein Governance-Rahmen sollte auf verbindlichen KI-Richtlinien basieren. Diese geben Orientierung und schaffen Klarheit für alle Beteiligten. Sie sollten insbesondere folgende Inhalte abdecken:

• Kriterien zur Risikoeinstufung von KI-Systemen

• Anforderungen an Datenqualität, Fairness und Nachvollziehbarkeit

• Prozesse zur Risikoanalyse, Dokumentation und Überwachung

• Vorgaben zur menschlichen Aufsicht und Eingriffsmöglichkeiten

• Regelungen für Open-Source- oder Drittanbieter-KI

• Empfehlungen zum Einsatz generativer KI in Lehre und Prüfungen

Fortbildung & Sensibilisierung als Daueraufgabe

Ein effektives Governance-Modell muss auch die Kompetenzentwicklung der Beteiligten sichern. Fort- und Weiterbildungsangebote sind essenziell, um Lehrende, Forschende und Verwaltungsmitarbeitende in die Lage zu versetzen, KI-Systeme sachgerecht zu bewerten und verantwortungsvoll zu nutzen. Die Governance-Struktur sollte als lernende Organisation verstanden werden – dynamisch, anpassungsfähig und erfahrungsbasiert.

Integration in bestehende Hochschulstrukturen

Ein nachhaltiges KI-Governance-Modell ist am effektivsten, wenn es mit bestehenden Digitalisierungs-, IT- und Qualitätsstrukturen der Hochschule verzahnt wird. Besonders sinnvoll:

• Anbindung an bestehende Strategie-, Datenschutz- und Ethikgremien

• Aufbau eines interdisziplinären KI-Lenkungsausschusses, der hochschulweit Entscheidungen vorbereitet und unterschiedliche Perspektiven integriert

Standardisierte Vorabprüfung & Systemregister

Zur praktischen Umsetzung empfiehlt sich die Einführung eines verpflichtenden Prüfprozesses, bevor neue KI-Systeme beschafft oder entwickelt werden. Dieser kann analog zu Datenschutz-Folgenabschätzung nach DSGVO gestaltet sein und sollte:

• eine Risikoanalyse beinhalten

• konkrete technische, rechtliche und organisatorische Schutzmaßnahmen definieren

• alle Ergebnisse dokumentieren

• regelmäßig überprüft und weiterentwickelt werden

Ergänzend sollte ein zentrales Register aller eingesetzten KI-Systeme aufgebaut und gepflegt werden. Es erhöht die Transparenz, verbessert die interne Koordination und erleichtert Nachweise gegenüber Aufsichtsbehörden.