Digitalisierung

KI-Verordnung: Neue Transparenzpflichten

Stand:

Seit dem 2. August 2026 gelten in der Europäischen Union neue Transparenz- und Kennzeichnungspflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Grundlage ist die KI-Verordnung (Verordnung (EU) 2024/1689, englisch: AI-Act).
Ziel der neuen Vorschriften ist es, Nutzern deutlich zu machen, wann Inhalte mit Hilfe künstlicher Intelligenz erstellt wurden oder wann sie mit einem KI-System statt mit einem Menschen kommunizieren. Da KI-generierte Texte, Bilder, Videos oder Stimmen inzwischen oft kaum noch von echten Inhalten zu unterscheiden sind, soll mehr Transparenz geschaffen und das Vertrauen in digitale Inhalte gestärkt werden.
Für Unternehmen bedeutet das: Wer Chatbots, KI-generierte Texte, Bilder, Videos, Stimmen oder automatisierte Kommunikationslösungen einsetzt, sollte frühzeitig prüfen, ob Hinweise oder Kennzeichnungen erforderlich sind.
Die gute Nachricht: In vielen Fällen lassen sich die Anforderungen mit klaren Hinweisen, geregelten Zuständigkeiten und einfachen internen Prüfprozessen umsetzen. Wichtig ist, dass Nutzerinnen und Nutzer rechtzeitig erkennen können, wenn sie mit einem KI-System interagieren oder wenn Inhalte künstlich erzeugt oder verändert wurden.
Diese Übersicht richtet sich an Unternehmen, die KI bereits nutzen oder den Einsatz planen. Sie zeigt typische Praxisfälle, mögliche Formulierungen und konkrete Schritte zur Vorbereitung. Sie dient der Orientierung und ersetzt keine rechtliche Beratung.

Besteht für Ihr Unternehmen Handlungsbedarf?

Prüfen Sie zunächst, ob einer der folgenden Fälle auf Ihr Unternehmen zutrifft. Wenn ja, sollten Sie die Transparenzpflichten nach Artikel 50 der KI-Verordnung genauer betrachten.

Fall 1: Ihre Kunden kommunizieren mit einer KI

Wenn Nutzerinnen und Nutzer mit einem KI-System kommunizieren, müssen sie erkennen können, dass sie nicht mit einem Menschen sprechen oder schreiben. Typische Beispiele sind Chatbots auf Unternehmenswebseiten, digitale Assistenten, KI-Avatare, Sprachassistenten im telefonischen Kundenservice oder automatisierte KI-Antworten auf Kundenanfragen.
Praxis-Tipp: Der Hinweis sollte direkt zu Beginn der Kommunikation erscheinen – nicht erst in den AGB oder in der Datenschutzerklärung.
Mögliche Formulierungen:
  • "Sie kommunizieren mit einem KI-System."
  • "Dieser Chatbot beantwortet Ihre Anfrage mithilfe künstlicher Intelligenz."
  • "Die folgenden Antworten werden automatisiert durch ein KI-System erzeugt."

Fall 2: Ihr Unternehmen veröffentlicht KI-generierte oder KI-bearbeitete Inhalte

Wenn Audio-, Bild-, Video- oder Textinhalte künstlich erzeugt oder manipuliert werden, können Kennzeichnungspflichten entstehen. Das betrifft zum Beispiel Produktbilder, Social-Media-Beiträge, Werbevideos, synthetische Stimmen, Präsentationsmaterial oder öffentlich zugängliche Fachinformationen.
Praxis-Tipp: Legen Sie unternehmensweit fest, wann Inhalte als "KI-generiert", "KI-bearbeitet" oder "redaktionell geprüft" gelten. Dokumentieren Sie außerdem, wer die finale Freigabe verantwortet.
Mögliche Formulierungen:
  • "Dieses Bild wurde mit künstlicher Intelligenz erstellt."
  • "Dieses Video enthält KI-generierte Inhalte."
  • "Dieser Text wurde mithilfe eines KI-Systems erstellt und redaktionell geprüft."

Fall 3: Ihr Unternehmen nutzt Deepfakes oder täuschend echte KI-Medien

KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die echt wirken können, müssen als künstlich erzeugt oder manipuliert offengelegt werden. Das kann zum Beispiel bei Avataren, synthetischen Stimmen, nachgestellten Interviews, KI-generierten Personenabbildungen oder realistisch wirkenden Produktvideos relevant sein.
Praxis-Tipp: Platzieren Sie den Hinweis so, dass er vor oder beim ersten Kontakt mit dem Inhalt wahrgenommen wird – etwa im Videotitel, direkt am Bild, im Begleittext oder im Vorspann.

Fall 4: Ihr Unternehmen setzt Emotionserkennung oder biometrische Kategorisierung ein

Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss betroffene Personen über den Betrieb solcher Systeme informieren. Das kann insbesondere in sensiblen Bereichen wie Personal, Zugangskontrolle, Sicherheit, Kundenanalyse oder Marktforschung relevant werden.
Praxis-Tipp: Prüfen Sie diese Anwendungen besonders sorgfältig. Neben der KI-Verordnung können auch Datenschutz-, Arbeits- und Mitbestimmungsfragen berührt sein.

Fall 5: KI-Texte zur Information der Öffentlichkeit

KI-generierte Texte zum Zweck der Information der Öffentlichkeit können kennzeichnungspflichtig sein. Eine Kennzeichnung kann entfallen, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Praxis-Tipp: Für Webseiten, Newsletter, Pressemitteilungen und Fachinformationen empfiehlt sich ein klarer Redaktionsprozess: KI-Einsatz dokumentieren, fachliche Prüfung durchführen, verantwortliche Person oder Stelle festlegen und Freigabe nachvollziehbar festhalten.

Wer ist betroffen?

Betroffen sind nicht nur Unternehmen, die eigene KI-Systeme entwickeln oder unter eigenem Namen anbieten. Auch Unternehmen, die KI-Systeme im eigenen Betrieb nutzen, können Pflichten haben. In der Praxis betrifft das zum Beispiel:
  • Online-Shops, Dienstleister und Plattformen mit Chatbots oder digitalen Assistenten,
  • Marketing-, Kommunikations- und PR-Abteilungen mit KI-generierten Texten, Bildern, Videos oder Stimmen,
  • Unternehmen, die KI für Kundenservice, Vertrieb, Weiterbildung oder interne Automatisierung einsetzen,
  • Arbeitgeber, die KI-Tools im Personalbereich prüfen oder nutzen,
  • Agenturen und Dienstleister, die KI-Inhalte für Kundinnen und Kunden erstellen.
Wichtig ist die Rollenklärung: "Anbieter" entwickeln KI-Systeme oder lassen sie entwickeln und bringen sie unter eigenem Namen oder eigener Marke in Verkehr. "Betreiber" verwenden KI-Systeme in eigener Verantwortung. Unternehmen können je nach Anwendung auch mehrere Rollen gleichzeitig einnehmen.

Ab wann gelten die Pflichten?

Die Transparenzpflichten gelten ab dem 2. August 2026 (Verordnung über künstliche Intelligenz (AI Act), Art. 113). Einen pauschalen Bestandsschutz gibt es nicht. KI-Systeme und KI-Inhalte, die nach diesem Stichtag weiter genutzt, veröffentlicht, betrieben oder Personen zugänglich gemacht werden, sollten ab dann Art.-50-konform ausgestaltet sein.

Welche Folgen können Verstöße haben?

Verstöße gegen Art. 50 können mit Geldbußen von bis zu 15 Millionen Euro oder bei Unternehmen bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden. Maßgeblich ist jeweils der höhere Betrag. Für KMU gilt der jeweils niedrigere Betrag (AI Act, Art. 99).
Unternehmen sollten daher frühzeitig prüfen, ob ihre eingesetzten KI-Anwendungen unter die Transparenzpflichten der KI-Verordnung fallen, und gegebenenfalls geeignete Kennzeichnungsmaßnahmen umsetzen.

Was Unternehmen jetzt konkret tun sollten

  1. KI-Anwendungen erfassen: Legen Sie ein einfaches KI-Inventar an. Erfassen Sie Tool, Zweck, Abteilung, Zielgruppe, Verantwortliche und Veröffentlichungsort.
  2. Rolle bestimmen: Klären Sie je Anwendung, ob Ihr Unternehmen Anbieter, Betreiber oder Dienstleister ist.
  3. Anwendungsfälle einordnen: Prüfen Sie gesondert Chatbots, KI-Texte, KI-Bilder, KI-Videos, synthetische Stimmen, Deepfakes, HR-Anwendungen und biometrische Systeme.
  4. Kennzeichnung festlegen: Entwickeln Sie kurze Standardhinweise für Webseite, Chatbot, Social Media, Newsletter, Präsentationen und audiovisuelle Inhalte.
  5. Platzierung prüfen: Hinweise sollten sichtbar, verständlich und rechtzeitig erfolgen – möglichst vor oder zu Beginn der Nutzung beziehungsweise unmittelbar am Inhalt.
  6. Redaktionelle Kontrolle dokumentieren: Bei KI-Texten zur Information der Öffentlichkeit sollte nachvollziehbar sein, wer geprüft, freigegeben und die inhaltliche Verantwortung übernommen hat.
  7. Technische Möglichkeiten klären: Fragen Sie bei eingesetzten Tools oder Dienstleistern nach maschinenlesbaren Kennzeichnungen, Metadaten, Wasserzeichen oder Exportfunktionen.
  8. Verträge und Dienstleister einbeziehen: Regeln Sie, wer Kennzeichnungen anbringt, wer Inhalte prüft und welche Informationen an Auftraggeber oder Kunden weitergegeben werden.
  9. Mitarbeitende sensibilisieren: Schulen Sie insbesondere Marketing, Vertrieb, Kundenservice, HR, IT, Recht/Compliance und alle Personen, die Inhalte veröffentlichen.
  10. Stichtags-Check einplanen: Prüfen Sie vor dem 2. August 2026, ob weiter genutzte KI-Systeme und veröffentlichte Inhalte den Transparenzpflichten entsprechen.

Praxis-Check: Drei Leitfragen für den Einstieg

  • Kommt eine externe Person mit einem KI-System in Kontakt?
  • Wird ein Inhalt veröffentlicht, der ganz oder teilweise mit KI erzeugt oder verändert wurde?
  • Ist für Nutzerinnen und Nutzer ohne Hinweis nicht erkennbar, dass KI beteiligt ist?
Wenn Sie eine dieser Fragen mit "Ja" beantworten, sollten Sie prüfen, ob ein Hinweis oder eine Kennzeichnung erforderlich ist.

Weitere Informationen

Die DIHK weist in ihrer Stellungnahme darauf hin, dass Unternehmen verständliche, klar abgrenzbare und praxistaugliche Vorgaben benötigen, damit sie die Transparenzpflichten rechtssicher und mit vertretbarem Aufwand umsetzen können. Weitere Informationen finden Sie in der Stellungnahme der DIHK.
Über die Transparenzpflichten nach Art. 50 und weitere Themen zur Umsetzung des AI Act informiert auch der KI-Service Desk der Bundesnetzagentur. Der KI-Service Desk unterstützt Unternehmen, Behörden und Organisationen bei der Umsetzung der KI-Verordnung in Deutschland.
Die Europäische Kommission stellt auf ihrer Internetseite EU-Icons zur Kennzeichnung von KI-generierten Inhalten zur Verfügung. Mit den Symbolen können Urheber, Herausgeber und andere Betreiber von KI-Systemen ihre KI-generierten Inhalte kennzeichnen. Diese Symbole sind frei verfügbar,