Forschung: Wo beginnt Regulierung, wo bleibt Freiheit? Ein Blick auf das Spannungsfeld.

 

Die KI-Verordnung betrifft Hochschulen nicht nur als Anwenderinnen von KI-Systemen, sondern auch als Entwicklungs- und Forschungseinrichtungen. Viele Hochschulen arbeiten an eigenen KI-Modellen oder erforschen deren Wirkung, Einsatzmöglichkeiten und gesellschaftliche Auswirkungen. Dabei gilt: Auch wissenschaftliche Forschung kann – je nach Zielrichtung – unter die Vorschriften des AI Acts fallen.

Insbesondere dann, wenn Forschungsprojekte Systeme mit späterem Hochrisikopotenzial betreffen (z. B. in Bildung, Medizin, Justiz, Mobilität oder Überwachung), gelten erhöhte Anforderungen an Transparenz, Ethik und Datenschutz. Auch nicht-kommerzielle Forschungsprojekte, die menschliches Verhalten oder Eigenschaften bewerten, bergen potenzielle Risiken – etwa durch Diskriminierung oder Eingriffe in Persönlichkeitsrechte.

 

Forschung unter dem AI Act: Relevanz und Verantwortung

 

Auch wenn der AI Act Forschungsausnahmen vorsieht, gilt: Hochschulen müssen grundlegende Prinzipien wahren, z. B.:

• Schutz von Grundrechten und personenbezogenen Daten

• transparente Darstellung von Zielen, Methoden und Risiken

• Nachvollziehbarkeit von Trainingsdaten und Algorithmen

• Einbindung ethischer Begleitforschung

• wissenschaftliche Integrität und Reproduzierbarkeit

• frühe Risikoabschätzungen zur Bewertung regulatorischer Relevanz

 

Für forschungsnahe KI-Projekte empfiehlt sich die Einrichtung oder Erweiterung von Gremien zur Vorabprüfung, z. B. Ethikkommissionen oder Datenschutzbeiräten. Auch klare Zuständigkeiten, Prozessbeschreibungen und Dokumentationen sollten bereits in der Antragsphase verbindlich geregelt sein.

 

Forschungsausnahmen nach der KI-VO (AI Act)

 

Der AI Act enthält zwei zentrale Regelungen für Forschung:

1. Art. 2 Nr. 6: Forschungsausnahme (rein wissenschaftlich)

KI-Systeme, die ausschließlich zu wissenschaftlichen Forschungs- und Entwicklungszwecken eingesetzt werden, sind vom Anwendungsbereich der KI-VO ausgenommen.
Wichtig: Jegliche kommerzielle Nutzung ist ausgeschlossen.

2. Art. 2 Nr. 8: Testen und Entwickeln vor Markteinführung

Auch kommerzielle Forschungs- und Entwicklungstätigkeiten vor der Markteinführung sind von der KI-VO zeitweise ausgenommen.
Diese Ausnahme endet mit der Markteinführung oder Inbetriebnahme des Systems.

 

🧾 Vergleich der Ausnahmen (vereinfachte Übersicht):

 

 

Was Hochschulen beachten sollten

 

Auch bei Forschung mit Ausnahmestatus sollten folgende Punkte gelten:

• Datenqualität und Transparenz von Anfang an sicherstellen

• Testdaten und Trainingsdaten dokumentieren – insbesondere bei späterer Kommerzialisierung

• Kooperationen mit der Wirtschaft klar vertraglich regeln (z. B. über ethische Standards, Rechte, Datenzugriff, Lizenzmodelle)

• Open-Source-KI: Hier gelten eigene Ausnahmen – aber keine für GPAI-Modelle, verbotene oder hochriskante Systeme (GPAI steht für Global Partnership on Artificial Intelligence, Globale Partnerschaft für Künstliche Intelligenz)

 

Open-Source-KI unter der KI-VO

 

Für Open-Source-KI gelten Sonderregelungen. Sie sind grundsätzlich ausgenommen, sofern sie:

• nicht verbotene Anwendungen enthalten,

• nicht als Hochrisikosysteme gelten,

• und nicht unter die Transparenzpflichten des Art. 50 fallen.

 

Ob die Offenheit sich auf alle Komponenten oder nur Teile bezieht, bleibt unklar. Maßgeblich ist vor allem das Lizenzmodell – nicht allein der technische Zugang.

 

Empfehlung: Interne Strukturen für KI-Forschung

 

Hochschulen sollten frühzeitig:

• klare Prozesse zur Klassifikation forschungsnaher KI-Projekte definieren,

• Risikoeinschätzungen und Dokumentationspflichten auch in der Forschung implementieren,

• Ethik, IT, Recht und Datenschutz gemeinsam einbinden,

• und hochschulweite Leitlinien zur KI-Forschung formulieren.

 

Gerade bei Drittmittelprojekten mit Wirtschaftsbeteiligung sind besondere Vorsicht, klare Regelungen und vorausschauende Vertragsgestaltung notwendig.

 

Fazit: Frühzeitig handeln

 

Die Forschungsausnahme der KI-Verordnung bietet Hochschulen wichtige Freiräume – allerdings nur, solange keine Markteinführung oder kommerzielle Nutzung geplant ist. Deshalb sollten KI-Projekte in der Forschung frühzeitig auf ihre regulatorische Relevanz geprüft, ethisch begleitet und rechtskonform geplant werden.

 

KI-Verordnung und deren Implikationen für den Geltungsbereich der Forschung: Jens O. Brelle (Multimedia Kontor Hamburg) vom 12.03.2025, https://vimeo.com/1065804587/279890b8d5 ;