EU-Leitlinien zu Hochrisiko-KI: DIHK nimmt Stellung
Mitte Mai 2026 hatte die EU-Kommission einen Entwurf der Leitlinien zur Klassifizierung von "Hochrisiko"-KI-Systemen vorgelegt und im Anschluss eine öffentliche Konsultation durchgeführt. Die Leitlinien sollen die Anwendung der Vorgaben des AI-Acts zu konkretisieren und insbesondere die Abgrenzung von Hochrisiko-KI durch Beispiele praxistauglicher gestalten. Der Entwurf gliedert sich in drei Teile. Die DIHK hat sich mit einer Stellungnahme (nicht barrierefrei, PDF-Datei · 198 KB) an der Konsultation beteiligt.
- Leitlinie Generelle Prinzipien der Klassifizierung
Der erste Teil befasst sich mit den allgemeinen Prinzipien der Klassifizierung, wie der Definition von KI-Systemen und dem Konzept der Zweckbestimmung. So soll unter anderem die Zweckbestimmung bei KI-Systemen mit Allgemeinen Verwendungszweck auch Hochrisikoanwendungsfälle umfassen, die laut Gebrauchsanleitung, vertraglichen Vereinbarungen, AGB oder Werbemaßnahmen solche Anwendungsfälle nicht ausschließen (Rn. 12). - Leitlinie KI-Systeme in physischen Produkten
Der zweite Teil beschäftigt sich mit der Klassifizierung von KI-Systemen innerhalb von physischen Produkten (Art. 6 Abs. 1 KI-VO in Verbindung mit Anhang I). Hierin wird anhand von Beispielen definiert, unter welchen Voraussetzungen ein KI‑System als Sicherheitsbauteil eines Produkts oder selbst als ein solches Produkt zu qualifizieren ist und wie die Voraussetzung einer Konformitätsbewertung durch Dritte zu verstehen sein soll. - Leitlinie Eigenständige KI-Systeme
Der Hauptfokus der Leitlinien liegt jedoch auf den sogenannten „eigenständigen“ KI-Systemen in zentralen Bereichen wie Beschäftigung, Bildung, kritische Infrastruktur oder Biometrie (Art. 6 Abs. 2 u. 3 in Verbindung mit Anhang III). Gleichzeitig werden auch die Rückausnahmen von dieser Grundsatzregel für eng gefasste Verfahrensaufgaben, die Verbesserung von Ergebnissen menschlicher Tätigkeiten, die Erkennung von Entscheidungsmustern oder vorbereitenden Aufgaben näher erläutert. Im Rahmen dieser Einstufungen soll bei komplexen KI-Systemen, wie „agentic AI-systems“, der Gesamtverwendungszweck maßgeblich sein, sodass auch in den Fällen, in dem ein KI-System für sich genommen nicht als Hochrisiko-KI-System zu qualifizieren wäre, eine Einstufung als Hochrisiko-KI-System erforderlich werden kann (Rn. 75).
Die EU-Kommission deuten in ihrem Leitlinienentwurf darauf hin, dass nicht nur Verstöße gegen die rechtlichen Vorgaben, sondern auch eine Umgehung derselben mit einem Bußgeld geahndet werden können (Rn. 117).
Die Anforderungen des AI-Acts für Hochrisiko-KI-Systeme werden schrittweise ab Ende 2027 bzw. 2028 anwendbar. Vor diesem Hintergrund ist es besonders wichtig, dass die Auslegung der Regeln praxisnah und umsetzbar ausgestaltet wird.
DIHK-Stellungnahme
Die DIHK mahnt an, dass die Leitlinienentwürfe Rechtssicherheit, klare Einstufungskriterien und praktische Orientierungshilfen für Unternehmen bieten müssen. Eine risikobasierte und innovationsfreundliche Auslegung der KI-Verordnung bei gleichzeitiger Verringerung der Compliance- und Verwaltungslasten sei unerlässlich, damit Unternehmen, insbesondere kleine und mittlere, KI-Lösungen vertrauensvoll entwickeln, einsetzen und skalieren können.
Stärkere Eingrenzung des Anwendungsbereichs von KI-Systemen mit hohem Risiko
Die Einstufung als Systeme mit hohem Risiko sollte sich auf tatsächlich sicherheitskritische und autonome KI-Systeme beschränken. Werkzeuge zur Produktivitätssteigerung, entscheidungsunterstützende Systeme, Anwendungen für die prädikative Wartung, Cybersicherheitswerkzeuge und andere Technologien, die assistieren und unter sinnvoller menschlicher Aufsicht stehen, sollten im Allgemeinen nicht als Hochrisiko-KI-Systeme eingestuft werden.
Stärkere Differenzierungen zwischen KI-Systemen anhand ihres Autonomiegrades
Die Leitlinien sollten zwischen verschiedenen Arten von KI-Systemen unterscheiden und den Autonomiegrad als wichtigen Faktor bei der Einstufung als Hochrisiko-KI berücksichtigen.
Klare Unterscheidung zwischen Zweckbestimmung und vernünftigerweise vorhersehbaren Fehlanwendungen
Die Leitlinien sollten die Zweckbestimmung eines KI-Systems klar von einer vernünftigerweise vorhersehbaren Fehlanwendung abgrenzen und praktische Beispiele, Vorlagen, Checklisten sowie Musterformulierungen hinzufügen, um Unternehmen dabei zu helfen, die geforderten Selbstbewertungen rechtssicher durchzuführen.
Verringerung des Verwaltungsaufwands und die Bereitstellung KMU-freundlicher Unterstützung bei der Umsetzung
Die Kommission sollte insbesondere für kleine KMU einen verhältnismäßigen, risikobasierten Ansatz gewährleisten, indem sie standardisierte Vorlagen und flexiblere Konformitätsbewertungsverfahren anbietet, um übermäßige Verwaltungskosten zu vermeiden.
(Quelle DIHK)