1. KI und Kennzeichnungspflicht für Betreiber
Die KI-Verordnung (KI-VO) der EU gilt unmittelbar als deutsches Recht und fordert nun die Kennzeichnung von KI-Inhalten, insbesondere auch für Betreiber. Soweit man im Rahmen einer gewerblichen Tätigkeit ein KI-System einbindet ist man seit dem 2. August 2026 grundsätzlich dazu verpflichtet, den Einsatz der KI und dessen Umfang transparent offenzulegen. Verstöße hiergegen können mit Bußgeldern oder anderen Sanktionen belegt werden.
Ein „Betreiben“ im Sinne der Verordnung ist dabei die Verwendung eines KI-Systems in eigener Verantwortung, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.
Nach dieser Definition trifft jeden, der ein KI-System nicht ausschließlich persönlich und nicht beruflich einsetzt, die Pflicht, den Einsatz der KI an gegebener Stelle transparent offenzulegen.
Exkurs: Welche Arten des Einsatzes von KI werden aktuell unterschieden?
Die KI-Verordnung der EU unterscheidet nach dem Grad des Einsatzes von KI-Systemen wie folgt:
- interaktive KI-Systeme
- generierte Inhalte und Werke
- KI-modifizierte Inhalte und Werke
2. Welche KI-Inhalte müssen von Betreibern gekennzeichnet werden und warum?
Die KI-Verordnung regelt diese Art der Kennzeichnung unter dem Stichwort „Transparenzgebot“ innerhalb der Verordnung an verschiedenen Stellen. So hängt die Kennzeichnung des Einsatzes von KI von deren Einsatzbereich ab und lässt gegebenenfalls Ausnahmen und Einschränkungen zu.
Der jeweilige Adressat soll durch eine entsprechende Kennzeichnung vor Täuschung, Irreführung und Manipulation durch KI geschützt werden.
a. KI-generierte oder KI-modifizierte Texte mit redaktionellem Inhalt
Als Faustformel für derartige Texte gilt, dass jeder Einsatz von KI gekennzeichnet werden muss, bei dem nicht offensichtlich ist, dass dieser mittels KI erfolgt und nicht durch einen Menschen. KI-generierte oder KI-modifizierte Texte mit redaktionellem Inhalt unterliegen dann der Kennzeichnungspflicht, wenn der Einsatz des KI-Systems über eine bloße Korrektur und ein einfaches Lektorat hinausgeht.
Nur wenn die Überprüfung oder die redaktionelle Kontrolle des besagten Textes verantwortlich von einer natürlichen oder juristischen Person durchgeführt wurde, der Einsatz der KI also untergeordnet als Nebenfunktion erfolgte, ist keine Kennzeichnung erforderlich.
Als mögliche Kennzeichnung für KI-generierte oder KI-modifizierte Texte käme in unmittelbarer Textnähe in Betracht:
- „vollständig/teilweise durch KI-erstellt“,
- „mit Hilfe von KI erstellt“.
In diesem Zusammenhang stellt die EU selbst aber auch Icons für die Kennzeichnung zur Verfügung für
- vollständig KI-generierte Texte,
- teilweise generierte oder modifizierte publizierte Texte.
Die Icons sind hier auf der Seite der Europäischen Union herunterladbar.
b. Deepfakes
Bild-, Ton- oder Videoinhalte, die echten Personen, Orten, Gegenständen, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden, sind als sog. „Deepfakes“ kennzeichnungspflichtig.
Als mögliche Kennzeichnung für entsprechende Bild-. Ton- oder Videoinhalte in unmittelbarer Nähe des Inhalts käme in Betracht:
- „vollständig/teilweise durch KI-erstellt“,
- „mit Hilfe von KI erstellt“
Auch hierzu können die von der EU bereitgestellten zuvor genannten Icons für die Kennzeichnung von
- vollständig mittels KI erstellter Deepfakes,
- teilweise KI-generierter oder modifizierter Deepfakes
genutzt werden. Die Icons sind hier erhältlich.
c. Vom Betreiber genutzte Interaktive KI-Systeme
Interaktive KI-Systeme sind Programme, die mit dem Gegenüber in Austausch treten, wie beispielsweise ein ChatBot im Internet oder eine KI am Telefon. Ein interaktives KI-System muss sich spätestens bei der ersten Interaktion als KI gegenüber dem Nutzer zu erkennen geben (Art. 50 Abs. 5 KI-VO). Ergänzend gilt grundsätzlich das zu den Deepfakes Gesagte entsprechend.
Als mögliche Kennzeichnung für interaktive KI-Systeme käme in Betracht:
- „Chatten Sie mit unserer KI Kim“
- „Hallo, ich bin Ihr persönlicher KI-Assistent und helfe Ihnen bei Ihrem Anliegen“
Alternativ hierzu können die von der EU bereitgestellten Icons für die Kennzeichnung genutzt werden. Die Icons sind hier erhältlich.
3. Welche Bußgelder drohen Betreibern bei Verstößen gegen die Kennzeichnung?
Für Verstöße gegen die aufgeführten Transparenz-/Kennzeichnungspflichten nach Artikel 50 KI-VO drohen Betreibern Bußgelder bis 15 Millionen Euro, wenn es sich um Unternehmen handelt sogar von bis zu 3 % des gesamten weltweiten Jahresumsatzes.
a. Bundesnetzagentur als zuständige Aufsichtsbehörde
Zuständige Marktüberwachungsbehörde und zentrale Anlaufstelle ist die Bundesnetzagentur. Die Bundesnetzagentur ist neben der Marktaufsicht auch für die Verfolgung von Ordnungswidrigkeiten und Verhängung von Sanktionen zuständig. Sie arbeitet dabei mit weiteren Bundes- und Landesbehörden zusammen, je nachdem, in welchem Sachgebiet der jeweilige Verstoß begangen worden sein soll (Art. 99 Abs. 4 lit. g KI-VO i. V. m. § 2 Abs. 1 KI-MIG). Hier käme beispielsweise der Zoll oder die datenschutzrechtlichen Aufsichtsbehörden in Betracht.
Die Kennzeichnung von KI-Inhalten sollte für Betreiber also Priorität haben, um Anhörungsverfahren und ggf. anschließende empfindliche Bußgelder abzuwenden.
b. Was tun bei Erhalt eines Anhörungsbogens oder rechtlichen Fragen?
Sollten Sie im Zusammenhang mit der Einbindung von KI ein aufsichtsbehördliches Anliegen oder rechtliche Fragen haben, so stehen wir Ihnen gern für ein Tätigwerden gegenüber der jeweiligen Behörde oder zur Klärung Ihrer rechtlicher Fragen und Fallgestaltungen, z. B. auch im Zusammenhang mit Datenschutz, rund um das Thema KI beratend zur Verfügung.
Wir beraten und vertreten
- bundesweit,
- vor jeder Aufsichtsbehörde.
Tel.: 05203-977 89 63.
Stand: Oktober 2026