Warum gibt es die Transparenzpflicht für Betreiber?

Heutzutage ist oft nicht mehr eindeutig erkennbar, ob Inhalte von Menschen erstellt oder KI-generiert sind. Menschen sind zunehmend verunsichert bei der Einschätzung, ob dargestellte Ereignisse, Personen oder Stimmen tatsächlich real sind. Es wird daher immer schwieriger, den tatsächlichen Ursprung und auch Wahrheitsgehalt medialer Inhalte zuverlässig zu beurteilen.

Die Europäische Union hat diese Situation zum Anlass genommen, im Rahmen der KI-Verordnung auch eine Kennzeichnungspflicht für bestimmte KI-generierte Inhalte vorzusehen. Seit dem 2. August 2026 gilt EU-weit für KI-Nutzende, die generative KI-Systeme in eigener Verantwortung verwenden, die neue Transparenzpflicht für Betreiber bestimmter KI-Systeme gemäß Artikel 50 Absatz 4 EU AI Act. Der EU AI Act, auf deutsch KI-Verordnung (kurz: KI-VO bzw. AI Act), gilt in allen Mitgliedsstaaten der Europäischen Union unmittelbar.

Die neue Transparenzregelung verpflichtet sog. „Betreiber“ generativer KI-Systeme, in der Praxis KI-Nutzende, in bestimmten Fällen, die von ihnen erzeugten oder bearbeiteten Inhalte als "KI-generiert" bzw. "KI-bearbeitet" zu kennzeichnen. Rechtlich in der Verantwortung sind Unternehmen, Behörden und Institutionen. In der Umsetzung sind jedoch Beschäftigte bzw. Selbständige, die generative KI in ihrem beruflichen Alltag nutzen, zur Umsetzung verpflichtet. (Die Transparenzpflicht für Betreiber ist nicht zu verwechseln mit der Transparenzpflicht gemäß Art. 50 Abs. 2 AI Act für "Anbieter", also Unternehmen wie OpenAI oder Antropic, die bis zum 2. Dezember 2026 ihre synthetischen Inhalte ebenfalls kennzeichnen müssen, z. B. mit Wasserzeichen.) 

Was müssen KI-Nutzende nunmehr kennzeichnen? Betroffen sind zum einen sog. Deepfakes, also Bild-, Audio- oder Videoinhalte, die zur Täuschung geeignet sind, zum anderen aber auch (veröffentlichte) Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren – sofern jeweils keine Ausnahme bzw. Einschränkung greift.

Die Kennzeichnungen sollen das Vertrauen in den Ursprung von Inhalten stärken und Menschen ermöglichen, besser zu erkennen, wenn Inhalte auf Basis oder mit Unterstützung von KI entstanden sind. Dies ist von essenzieller Bedeutung, da es die Integrität der öffentlichen Kommunikation stärkt und demokratische Diskurse schützt.

In Fachkreisen und im betroffenen Adressatenkreis bestehen teilweise Zweifel an der Geeignetheit bzw. Wirksamkeit der neuen Regelung. Ob sie ihre Ziele erreicht, wird sich daher erst in der praktischen Anwendung zeigen. Voraussetzung hierfür ist eine konsequente Umsetzung.

Aus diesem Grund informiert dieses Lernangebot zu den wichtigsten Anforderungen der neuen Regelung. Es vermittelt Nutzenden generativer KI-Systeme die für ihre Arbeitspraxis relevanten Grundlagen.