Hintergrund

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung, KI-VO) sieht für Anbieter und Anwender bestimmter, besonders riskanter KI-Systeme, spezielle Pflichten vor. Dabei geht es unter anderem um die Einrichtung von Risiko- und Qualitätsmanagementsystemen, um Daten-Governance-Strukturen und Cybersicherheitsanforderungen. Betroffen sind Systeme, die entweder selbst ein sensibles Produkt oder dessen Komponente darstellen – etwa Medizinprodukte oder Maschinen – oder aber in sensiblen Bereichen eingesetzt werden, beispielsweise in kritischen Infrastrukturen, in der Strafverfolgung, beim Recruiting, in Justiz oder Migration.

Um die Kriterien für Hochrisiko-KI genauer zu fassen, hat die EU-Kommission am 19. Mai 2026 einen Entwurf für Leitlinien zur Einstufung von Hochrisiko-KI-Systemen nach der KI-VO vorgelegt und hierzu eine öffentliche Konsultation eingeleitet. Ziel war es, die Vorgaben der Verordnung zu konkretisieren und insbesondere durch Beispiele praxistauglicher auszugestalten.

Wie die DIHK-Digitalisierungsumfrage 2026 zeigt, ist Rechtsunsicherheit ein großes Hindernisse auch für die Einführung von KI und für datengetriebene Innovationen in den Betrieben, insbesondere in kleinen und mittleren Unternehmen (KMU). Gleichzeitig entwickelt sich der KI-Einsatz zunehmend zu einem entscheidenden Wettbewerbsfaktor.

Die DIHK mahnt vor diesem Hintergrund, dass die Leitlinienentwürfe Rechtssicherheit, klare Einstufungskriterien und praktische Orientierungshilfen für Unternehmen bieten müssen. Eine risikobasierte und innovationsfreundliche Auslegung der KI-Verordnung bei gleichzeitiger Verringerung der Compliance- und Verwaltungslasten sei unerlässlich, damit Unternehmen, insbesondere kleine und mittlere, KI-Lösungen vertrauensvoll entwickeln, einsetzen und skalieren können.

Forderungen der DIHK

Stärkere Eingrenzung des Anwendungsbereichs von KI-Systemen mit hohem Risiko: 

Die Einstufung als Systeme mit hohem Risiko sollte sich auf tatsächlich sicherheitskritische und autonome KI-Systeme beschränken. Werkzeuge zur Produktivitätssteigerung, entscheidungsunterstützende Systeme, Anwendungen für die prädikative Wartung, Cybersicherheitswerkzeuge und andere assistive Technologien, die unter sinnvoller menschlicher Aufsicht stehen, sollten im Allgemeinen nicht als Hochrisiko-KI-Systeme eingestuft werden.

Stärkere Differenzierungen zwischen KI-Systemen anhand ihres Autonomiegrades: 

Die Leitlinien sollten zwischen verschiedenen Arten von KI-Systemen unterscheiden und dabei deren Autonomiegrad berücksichtigen, wenn es darum geht, festzustellen, ob sie ein hohes Risiko darstellen.

Klare Unterscheidung zwischen Zweckbestimmung und vernünftigerweise vorhersehbaren Fehlanwendungen:

Die Leitlinien sollten die Zweckbestimmung eines KI-Systems klar von einer vernünftigerweise vorhersehbaren Fehlanwendung abgrenzen und praktische Beispiele, Vorlagen, Checklisten sowie Musterformulierungen hinzufügen, um Unternehmen dabei zu helfen, die geforderten Selbstbewertungen rechtssicher durchzuführen.

Verringerung des Verwaltungsaufwands und die Bereitstellung KMU-freundlicher Unterstützung bei der Umsetzung: 

Die Kommission sollte insbesondere für kleine KMU einen verhältnismäßigen, risikobasierten Ansatz gewährleisten, indem sie standardisierte Vorlagen und flexiblere Konformitätsbewertungsverfahren anbietet, um übermäßige Verwaltungskosten zu vermeiden.

Download

Die Stellungnahme, die die DIHK im Rahmen der Konsultation am 20. Juli 2026 abgegeben hat, ist hier in einer englischen Fassung abrufbar: