Wirtschaftsspiegel
Nr. 7128394
4 min Lesezeit
Beispiel für KI generiertes Bild
Praxis & Ratgeber

KI-Transparenz ist Pflicht

von Mareike Scharmacher-Wellmann |

Eine freundliche Stimme nimmt am Telefon eine Reklamation an und verspricht schnelle Hilfe. Ein Geschäftsführer wirbt in einem Video für ein neues Produkt. Stammt die Stimme oder das Video von einer KI, müssen Unternehmen das seit dem 2. August kennzeichnen. Denn dann gilt die KI-Kennzeichnungspflicht aus dem AI Act der Europäischen Union in Deutschland. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres.

AI Act sieht Transparenzpflichten vor

Die EU-Verordnung über Künstliche Intelligenz – KI-VO oder AI Act – ist bereits seit rund zwei Jahren in Kraft. Sie sieht für Anbieter und Betreiber von KI-Systemen bestimmte Transparenzpflichten vor, die insbesondere in Artikel 50 des AI Act geregelt sind.
Demnach müssen KI-Interaktionen mit Menschen als solche zu erkennen sein, Texte, die mit KI erzeugt oder von KI manipuliert wurden, sowie KI-erzeugte Bilder, Videos und Audioinhalte als solche markiert werden und Deepfakes, also täuschend echte KI-generierte Bilder oder Videos, so gekennzeichnet sein, dass sie klar als manipuliert Inhalte zu erkennen sind.
„Die Verordnung verlangt kein KI-Etikett auf jedem Arbeitsschritt“, erklärt Andreas Karsten, Referent für Recht und Sachverständigenwesen bei der IHK Nord Westfalen. „Kennzeichnung wird dort wichtig, wo eine Maschine handelt oder Menschen etwas für echt halten könnten, was nicht echt ist.“

Keine Vorgaben für die Art der Kennzeichnung

Arbeitet hinter der Reklamationshotline eine KI oder wurde das Video des Geschäftsführers mit KI erstellt, muss das also erkennbar sein.
Wann ist ein Deepfake ein Deepfake? Andreas Karsten, Referent für Recht und Sachverständigenwesen bei der IHK Nord Westfalen, erklärt: „Maßgeblich ist nicht das verwendete Programm, sondern die Wirkung“.
Dann muss der Hinweis klar, sichtbar, verständlich und barrierefrei sein. Beim Chatbot gehört er an den Beginn der Unterhaltung, bei Bildern sichtbar ins Motiv. In kurzen Videos sollte er möglichst dauerhaft eingeblendet werden, in längeren Videos zu Beginn und in angemessenen Abständen. Audioinhalte können mit einem gesprochenen Hinweis starten. „Gefordert wird lediglich eine klare und eindeutige Information spätestens zum Zeitpunkt der ersten Interaktion“, erklärt Karsten.
Bieten Plattformen wie Instagram, TikTok oder YouTube eigene Kennzeichnungsfunktionen an, sollten Unternehmen diese nutzen. „Die Unternehmen bleiben trotzdem dafür verantwortlich, dass der Hinweis deutlich genug ist“, macht Karsten deutlich.
Die EU hat eine Reihe von Symbolen entwickelt, mit denen Urheber, Herausgeber und andere Betreiber generativer KI-Systeme ihre KI-generierten Inhalte kennzeichnen können. Die Symbole stehen kostenlos zur Verfügung. „Die EU-Symbole sind freiwillig. Unternehmen können auch eigene Symbole oder klare Texthinweise verwenden, etwa „KI-generiert“ oder „Mit KI bearbeitet“, erklärt Karsten.
Werden vor dem 2. August KI-erstellte Bilder gepostet und dann nach dem Stichtag erneut über einen Newsletter oder in einem neuen Posting verwendet, müssen Sie gekennzeichnet werden.
Nutzt jemand KI lediglich als Hilfsmittel, beispielsweise zur Erstellung eines Textes, entstehe daraus nicht automatisch eine Kennzeichnungspflicht. Eine mit KI vorbereitete E-Mail müsse beispielsweise nicht gekennzeichnet werden, wenn ein Mitarbeiter sie prüft, anpasst und selbst versendet.

Ist das echt?

„Maßgeblich ist nicht das verwendete Programm, sondern die Wirkung“, betont Karsten. Wer nur Helligkeit, Farben oder Bildrauschen verändert, greife in der Regel nicht wesentlich in die Aussage eines Fotos ein. „Anders sieht es aus, wenn KI Bild-, Ton- oder Videomaterial so erzeugt oder verändert, dass es wie echt wirkt“, weiß der Rechtsexperte. Dann handelt es sich nach AI Act um einen sogenannten „Deepfake“.
  • KI-Einsatz erfassen: Alle genutzten KI-Systeme auflisten – auch Tools von Drittanbietern und laufende Pilotprojekte. Dabei klären, ob das Unternehmen die KI selbst anbietet oder nur einsetzt.
  • Pflichten prüfen: Für jedes System feststellen, welche Transparenzregeln aus Artikel 50 gelten. Dabei geht es vor allem um KI-Chatbots, künstlich erzeugte Inhalte, Deepfakes und Texte zu Themen von öffentlichem Interesse. Als „öffentlichkeitsrelevant“ bezeichnet man Themen, Ereignisse oder Personen, die für die Allgemeinheit von Bedeutung sind, das öffentliche Interesse berühren und in der Gesellschaft diskutiert werden.
  • Kennzeichnung festlegen: Klare Hinweise für Nutzer definieren und technische Markierungen wie Wasserzeichen oder Metadaten mit IT, Kommunikation und Anbietern abstimmen. Die Abläufe sollten dokumentiert sein.
  • Verantwortung regeln: Zuständigkeiten und Freigabeprozesse festlegen, Beschäftigte schulen und einen Zeitplan für die Umsetzung beschließen. Dazu gehört auch die Entscheidung, ob sich das Unternehmen am freiwilligen EU-Verhaltenskodex orientiert.

Informiert ein KI-Text die Öffentlichkeit?

Geht es bei audiovisuellen Inhalten um Echtheit, geht es bei KI-erstellten Texten vor allem um Verantwortung. „Der AI Act verlangt, dass KI-erstellte oder wesentlich bearbeitete Texte gekennzeichnet werden, wenn sie die Öffentlichkeit zu Themen von öffentlichem Interesse informieren“, sagt Karsten. Damit sind vor allem Inhalte zu Politik, Wahlen, Gesundheit, Finanzen oder anderen Fragen gemeint, die viele Menschen betreffen oder die für die Öffentlichkeit wichtig sind.
Eine Ausnahme gilt für redaktionell kontrollierte Texte: Prüft ein fachkundiger Mensch den Inhalt und übernimmt eine klar benannte Person oder Organisation die Verantwortung, ist kein KI-Label erforderlich. Karsten weist darauf hin, dass eine Rechtschreibkontrolle oder pauschale Freigabe nicht genügt. „Die verantwortliche Stelle muss Fakten und Quellen bewerten, Änderungen verlangen und den Text notfalls ablehnen können.“ Im Vorfeld sollte darum festgelegt werden, wer und in welchem Umfang KI einsetzen darf und welche Inhalte nicht von einer KI verarbeitet werden dürfen. Dabei sollte vor allem die Verarbeitung personenbezogener Daten vermieden werden.
Interne Entwürfe, reine Übersetzungen, Rechtschreib- und Grammatikkorrekturen sowie gewöhnliche Produktbeschreibungen müssen in der Regel nicht gekennzeichnet werden.

Was jetzt zu regeln ist

„Bis zum Stichtag müssen Unternehmen klären, welche KI-Tools sie nutzen, ob Mitarbeitende dafür geschult sind, ob gekennzeichnet werden muss, welche Daten in die Systeme gehen und ob Verträge, Datenschutz und Zuständigkeiten sauber geregelt sind“, zählt Karsten auf. Dazu gehört auch der Einsatz von Schatten-KI, also die nicht genehmigte Nutzung von Tools oder Anwendungen künstlicher Intelligenz durch Mitarbeiter oder Endbenutzer, ohne formelle Genehmigung oder Aufsicht durch die IT-Abteilung.
Orientierung bei der praktischen Umsetzung bietet der im Juni 2026 veröffentlichte „Code of Practice on Transparency of AI-Generated Content“. Der freiwillige EU-Verhaltenskodex beschreibt, wie betroffene Anbieter und Betreiber KI-Inhalte maschinenlesbar markieren und für Menschen sichtbar kennzeichnen können. Die gesetzlichen Pflichten ersetzt er nicht.

Wichtige Links im Überblick: