Recht und Steuern

Neue Kennzeichnungspflichten bei der Nutzung von KI

Ab dem 2. August 2026 gelten in der Europäischen Union neue Transparenz- und Kennzeichnungspflichten für bestimmte KI-generierte Inhalte. Grundlage ist die Verordnung (EU) 2024/1689 (KI-Verordnung).
Ziel der neuen Vorschriften ist es, Nutzern deutlich zu machen, wann Inhalte mit Hilfe künstlicher Intelligenz erstellt wurden oder wann sie mit einem KI-System statt mit einem Menschen kommunizieren. Da KI-generierte Texte, Bilder, Videos oder Stimmen inzwischen oft kaum noch von echten Inhalten zu unterscheiden sind, soll mehr Transparenz geschaffen und das Vertrauen in digitale Inhalte gestärkt werden.
Dieser Leitfaden gibt einen Überblick über die wichtigsten Kennzeichnungspflichten nach Artikel 50 KI-Verordnung und zeigt anhand von Beispielen, wie Unternehmen diese Anforderungen in der Praxis umsetzen können. Er dient ausschließlich der Orientierung und ersetzt keine rechtliche Beratung.

1. Besteht für Ihr Unternehmen Handlungsbedarf?

Prüfen Sie, ob einer oder mehrere der folgenden Fälle auf Ihr Unternehmen zutreffen. Ist dies der Fall, sollten Sie sich frühzeitig mit den neuen Transparenzpflichten befassen.

Fall 1: Ihre Kunden kommunizieren mit einer KI

Wenn Nutzer mit einem KI-System kommunizieren, müssen sie erkennen können, dass sie nicht mit einem Menschen, sondern mit einer künstlichen Intelligenz interagieren (Artikel 50 Absatz 1 KI-VO).
Eine Kennzeichnung kann insbesondere erforderlich sein bei
  • KI-Chatbots auf der Unternehmenswebsite,
  • digitalen Avataren,
  • KI-Tutoren oder Lernassistenten,
  • Sprachassistenten im telefonischen Kundenservice sowie
  • automatisierten KI-Antworten auf Kundenanfragen per E-Mail.
Eine Kennzeichnung dürfte regelmäßig entbehrlich sein,
  • wenn für den Nutzer offensichtlich ist, dass er mit einer KI kommuniziert (zum Beispiel bei einer eindeutig als ChatGPT bezeichneten Anwendung),
  • wenn ein Mitarbeiter die KI lediglich als internes Hilfsmittel verwendet oder
  • wenn eine E-Mail zwar mithilfe einer KI erstellt, aber von einem Mitarbeiter versendet wird.
Der Hinweis sollte unmittelbar zu Beginn der Kommunikation erfolgen. Ein bloßer Hinweis in den Allgemeinen Geschäftsbedingungen oder in der Datenschutzerklärung genügt regelmäßig nicht.
  • „Sie chatten mit einem KI-Chatbot.“
  • „Sie sprechen mit einem digitalen Assistenten.“
  • „Diese Antwort wurde von einer künstlichen Intelligenz erstellt.“

Fall 2: KI-generierte Texte über Angelegenheiten von öffentlichem Interesse

Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen und ganz oder wesentlich mithilfe einer KI erstellt oder bearbeitet wurden, müssen regelmäßig als solche gekennzeichnet werden (Artikel 50 Absatz 4 KI-VO).
Hierzu können insbesondere gehören:
  • Nachrichten,
  • politische Informationen,
  • Beiträge zu gesellschaftlich relevanten Themen sowie
  • sonstige Texte, die zur öffentlichen Meinungsbildung beitragen sollen.
Eine Kennzeichnung dürfte nicht erforderlich sein bei
  • Produktbeschreibungen,
  • rein KI-gestützten Übersetzungen,
  • Texten, die im Wesentlichen von einem Menschen erstellt wurden,
  • Texten, die einer eigenständigen redaktionellen oder menschlichen Kontrolle unterliegen.
  • „Dieser Text wurde mit Unterstützung künstlicher Intelligenz erstellt.“
  • „Dieser Inhalt wurde KI-unterstützt erstellt.“

Fall 3: Einsatz von KI-generierten Bildern, Videos oder Stimmen (Deepfakes)

Besondere Transparenzpflichten gelten für sogenannte Deepfakes.
Ein Deepfake ist ein mithilfe künstlicher Intelligenz erzeugter oder manipulierter Bild-, Video- oder Audioinhalt, der – tatsächlich existierende - Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse täuschend echt darstellt. Nutzer könnten dadurch den Eindruck gewinnen, dass die dargestellten Inhalte tatsächlich echt sind.
Eine Kennzeichnung kann insbesondere erforderlich sein bei
  • einem KI-generierten Bild eines bekannten Politikers oder einer anderen real existierenden Person mit einem Produkt Ihres Unternehmens,
  • einem Werbevideo, in dem der Geschäftsführer scheinbar Aussagen trifft, die tatsächlich nie aufgenommen wurden,
  • einer künstlich erzeugten Stimme, die wie die Stimme einer real existierenden Person klingt.
Eine Kennzeichnung dürfte nicht erforderlich sein
  • bei offensichtlich fiktiven Figuren oder Fantasiegestalten,
  • bei KI-generierten Werbefiguren oder Modellen, die keine tatsächlich existierenden Personen darstellen (strittig und die rechtliche Einordnung ist derzeit noch nicht abschließend geklärt),
  • wenn KI lediglich übliche Bildbearbeitungen unterstützt, ohne den Aussagegehalt oder die Semantik des Inhalts wesentlich zu verändern.
Für künstlerische, satirische oder fiktionale Werke sieht die KI-Verordnung zudem Erleichterungen vor, soweit die Transparenzpflicht den Charakter des Werkes beeinträchtigen würde.

2. Wie kann die Kennzeichnung praktisch umgesetzt werden?

Die Europäische Kommission hat Empfehlungen für eine möglichst einheitliche Kennzeichnung veröffentlicht.

Verwendung eines KI-Icons

Empfohlen wird ein Symbol mit der gut erkennbaren Aufschrift „AI“. Ergänzend kann der Hinweis „Generated with AI“ verwendet werden.
Das Symbol sollte:
  • ausreichend groß,
  • gut lesbar,
  • kontrastreich gestaltet und
  • auch für Menschen mit Beeinträchtigungen wahrnehmbar sein.
Soweit Plattformen wie Instagram, TikTok oder YouTube eigene Kennzeichnungsfunktionen für KI-Inhalte bereitstellen, sollten diese genutzt werden.
Weitere Informationen sowie die empfohlenen EU-Icons finden Sie hier.

Platzierung

Die Kennzeichnung sollte gut sichtbar angebracht werden, beispielsweise in einer Bildecke oder an einer vergleichbar gut wahrnehmbaren Stelle. Sie darf nicht versteckt oder durch andere Gestaltungselemente verdeckt werden.

Besondere Anforderungen je nach Medium

Die Kennzeichnung sollte sich deutlich vom Bildinhalt unterscheiden und jederzeit gut erkennbar sein. Sie sollte ausreichend Abstand zu anderen Symbolen oder Textelementen aufweisen. Ein Platzieren in einer anderen Bildebene ist nicht ausreichend.
Bei längeren Videos sollte die Kennzeichnung zu Beginn eingeblendet und in angemessenen Abständen wiederholt werden.
Bei kurzen Videos empfiehlt sich eine dauerhafte Einblendung.
Zu Beginn sollte ein gut verständlicher Hinweis erfolgen, beispielsweise:
„Dieser Inhalt wurde mithilfe künstlicher Intelligenz erstellt.“
Bei längeren Audioformaten empfiehlt sich eine Wiederholung am Ende.

3. Welche Folgen können Verstöße haben?

Verstöße gegen die Transparenz- und Kennzeichnungspflichten können mit erheblichen Geldbußen geahndet werden.
Nach Artikel 99 Absatz 4 Buchstabe g KI-Verordnung, können Bußgelder von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden. Maßgeblich ist jeweils der höhere Betrag.
Unternehmen sollten daher frühzeitig prüfen, ob ihre eingesetzten KI-Anwendungen unter die Transparenzpflichten der KI-Verordnung fallen, und gegebenenfalls geeignete Kennzeichnungsmaßnahmen umsetzen.