4.3 KI-Systeme im Risikovergleich
Nicht jede KI ist gleich riskant – doch wo liegt die Grenze zwischen Komfort und Kontrollverlust?
Der AI Act teilt KI-Anwendungen in vier Risikoklassen ein. Diese Klassifikation entscheidet über die rechtlichen Pflichten und über den möglichen oder erlaubten Einsatz im Hochschulalltag. Die Spannweite reicht von harmlosen Assistenzsystemen bis zu Anwendungen, die in Europa grundsätzlich verboten sind.
Grafik (als amtliches Werk gemeinfrei): https:// ec.europa.eu/information_society/newsroom/image/document/2021-17/pyramid_7F5843E5-9386-8052-931F5C4E98C6E5F2_75757.jpg
Die vier Risikostufen im Überblick
| Risikoklasse | Beschreibung | Beispiele aus dem Hochschulkontext |
|---|---|---|
| Unannehmbares Risiko | Verboten. KI-Systeme, die Menschen manipulieren, systematisch überwachen oder diskriminieren | Social Scoring von Studierenden, KI zur verdeckten Beeinflussung, unkontrollierte biometrische Überwachung auf dem Campus |
| Hohes Risiko | Streng reguliert. KI mit erheblichem Einfluss auf Rechte, Sicherheit oder Lebensrealität | Automatisierte Prüfungsbewertung, Bewerbungsmanagement, Zugangssysteme zu Studiengängen, algorithmische Studienverlaufsberatung |
| Begrenztes Risiko | Transparenzpflichten. Nutzende müssen über KI-Einsatz informiert werden. | Chatbots in der Studienberatung, Empfehlungssysteme in Lernplattformen |
| Minimales Risiko | Keine Regulierungspflichten. Unkritische Assistenzfunktionen | Grammatikprüfung, Rechtschreibkorrektur, einfache Übersetzungshilfen, Terminplanung |
Je nach Anwendungsbereich greifen unterschiedliche Vorgaben. Eine systematische Risikoanalyse ist der erste Schritt – nicht nur zur rechtlichen Absicherung, sondern auch, um Vertrauen bei Lehrenden, Studierenden und Verwaltungsmitarbeitenden zu schaffen.
Während in Forschung und Lehre häufig Systeme mit begrenztem Risiko genutzt werden, können in der Verwaltung Hochrisikosysteme zum Einsatz kommen. Eine fundierte Risikoanalyse aller eingesetzten oder geplanten KI-Systeme ist daher zentraler Bestandteil einer verantwortungsvollen Hochschulpraxis.
💡 Lernzusammenfassung Kapitel 4.3: Risikoklassen im AI Act und ihre Bedeutung für Hochschulen
- Vier Risikoklassen im Überblick: Der AI Act unterscheidet zwischen unannehmbarem, hohem, begrenztem und minimalem Risiko – je nach potenzieller Gefährdung für Grundrechte und Sicherheit.
- Hochschulkontext betrifft alle Stufen: Von verbotenen Praktiken (z.B. Social Scoring) über hochregulierte Anwendungen (z.B. automatisierte Prüfungsbewertung) bis zu niedrigschwelligen Tools (z.B. Chatbots) sind alle Kategorien relevant.
- Pflicht zur Risikoanalyse: Hochschulen müssen für jedes eingesetzte oder geplante KI-System die Risikoklasse bestimmen und entsprechende regulatorische, ethische und technische Maßnahmen einleiten.