Der AI Act will viel: KI sicherer machen, Innovation fördern, Grundrechte schützen – ein Spagat mit großer Wirkung.

Die Europäische Union hat mit dem AI Act (KI-Verordnung, KI-VO) erstmals einen verbindlichen Rechtsrahmen geschaffen, der den Einsatz von KI-Systemen in der EU sicher, fair und nachvollziehbar regeln soll.

Seit dem 1. August 2024 ist die Verordnung in Kraft und stellt damit das weltweit erste umfassende Gesetz speziell für Künstliche Intelligenz dar. Der AI Act verfolgt einen risikobasierten Ansatz: Je größer das potenzielle Risiko für die Gesundheit, Sicherheit oder Grundrechte der Menschen, desto strenger die Anforderungen an das jeweilige KI-System.

Die zentralen Ziele der KI-VO im Überblick

• Schutz von Grundrechten: KI-Systeme dürfen nicht diskriminieren, manipulieren oder die Menschenwürde verletzen. Die KI-VO schützt explizit die Privatsphäre und andere fundamentale Rechte der Bürgerinnen und Bürger.

• Stärkung des Vertrauens: Durch verpflichtende Regeln zu Transparenz, Nachvollziehbarkeit und Rechenschaftspflicht soll das Vertrauen in KI gestärkt werden. KI-Systeme müssen nachvollziehbar und erklärbar sein. 

• Förderung von Innovation und Wettbewerbsfähigkeit: Der Rechtsrahmen bietet Unternehmen, Hochschulen und Forschungseinrichtungen Sicherheit und Raum zur Entwicklung vertrauenswürdiger KI-Anwendungen – insbesondere in Europa.

• Verantwortung und Rechenschaft: Anbieter und Betreiber von KI-Systemen sind verpflichtet, Risiken zu bewerten, Schutzmaßnahmen zu ergreifen und Vorschriften einzuhalten.

• Risikodifferenzierte Regulierung: Je nach Risikokategorie (z. B. gering, hoch, verboten) gelten abgestufte Anforderungen. Besonders gefährliche KI-Praktiken – etwa manipulative Systeme oder Social Scoring – sind vollständig untersagt.

• Transparenz bei sensiblen Anwendungen: Bei Systemen mit potenziell schwerwiegenden Auswirkungen (z. B. in Auswahlverfahren, medizinischen Anwendungen oder der Justiz) muss die Funktionsweise nachvollziehbar und dokumentiert sein.

Der AI Act verfolgt eine klare Vision: Künstliche Intelligenz soll menschenzentriert, sicher und innovationsfreundlich gestaltet werden. Die Verordnung will sicherstellen, dass KI in Europa nicht nur technologisch fortschrittlich, sondern auch gesellschaftlich verantwortungsvoll zum Einsatz kommt – zum Schutz der Menschen und zum Nutzen der Gesellschaft.

KI-Verordnung und welchen Rechtsrahmen braucht es für die Hochschullehre?: Dr. Janine Horn (Universität Oldenburg) vom 12.03.2025 https://vimeo.com/1065804412/f051971472

Präsentation (PDF) zum Video: https://www.mmkh.de/fileadmin/veranstaltungen/netzwerk_landesinitiativen/KI-Verordnung/2025-03-12_KI-VO-horn.pdf