Pfadnavigation

Europäisches Gesetz über Künstliche Intelligenz

Roboterarm in Fabrik

Europa soll das globale Zentrum für vertrauenswürdige künstliche Intelligenz werden

© Westend61 / Getty Images

Worum geht es in dem Vorhaben?

Künstliche Intelligenz (KI) sicher und vertrauenswürdig gestalten – das ist das Ziel der Europäischen
Kommission. Um dies zu erreichen, hat die EU-Kommission hat im April 2021 einen Vorschlag für ein Gesetz über Künstliche Intelligenz vorgelegt.

Wer ist betroffen?

KI ist vielfältig und überall dort einsetzbar, wo große Mengen an Daten zu verwerten sind. Anwendungen
finden sich verteilt über nahezu alle Wirtschaftsbereiche und Geschäftsfelder: von der verbreiteten Bild-,
Sprach- und Texterkennung bis hin zum Smart Home, dem autonomen Fahrzeug, wie auch bei industriellen
Anwendungen, in denen KI zum Beispiel eine vorausschauende Wartung von Maschinen ermöglicht.

Was sieht der Gesetzesentwurf vor?

KI ist nicht gleich KI – Der Gesetzesvorschlag unterscheidet zwischen verschiedenen Anwendungsbereichen und vier Risikoklassen. An die Risikoklassen sind unterschiedliche Anforderungen geknüpft. KI Systeme, die den ethischen Grundsätzen in der EU widersprechen und somit ein inakzeptables Risiko darstellen, sollen gänzlich verboten werden, zum Beispiel Social Scoring-Systeme. Besonders relevant für Unternehmen sind Anwendungen, die als hochriskant eingestuft werden. Sie sollen künftig strengen Anforderungen unterliegen. Ein umfassendes Qualitäts- und Risikomanagementsystem, in dem unter anderem Entscheidungsvorgänge, Datenqualität und Transparenz dokumentiert und nachgewiesen werden müssen, ist einzurichten. Zu den Hochrisikosystemen zählen unter anderem KI-basierte Anwendungen, die im Personalmanagement, in der Aus- und Weiterbildung, in der kritischen Infrastruktur oder in der Industrie als Sicherheitskomponenten oder -bauteile zum Einsatz kommen. Für Anwendungen mit geringem Risiko, zum Beispiel Chatbots, sind Transparenzpflichten vorgesehen. Für Systeme mit minimalem Risiko, wie etwa KI gestützten Videospiele oder Spamfilter, entstehen keine zusätzlichen rechtlichen Verpflichtungen.

Ein Beispiel: Künstliche Intelligenz bei der Personalauswahl

Das CV-Parsing (Lebenslauferkennung) ist eine Software zur automatischen Analyse und Auslese von
Lebensläufen im Bewerbungsprozess. Das Tool filtert Bewerberdaten wie zum Beispiel zur Ausbildung heraus und unterstützt die Personalverantwortlichen bei ihrer Entscheidung. Für ein solches System könnten künftig strengere Vorgaben gelten, denn KI-Anwendungen, die bei Bewerbungsverfahren zum Einsatz kommen, sind laut dem aktuellen Vorschlag der Verordnung als Hochrisikosysteme gelistet. Das könnte bedeuten, dass der Anwender künftig Vorgänge protokollieren muss, um die Rückverfolgbarkeit der Personalauswahl zu ermöglichen oder den Bewerbern bestimmte Informationen transparent bereitstellen muss.

Was ist für die Wirtschaft nun wichtig?

Der vorgesehene Rechtsrahmen kann einen Beitrag leisten, das Vertrauen und die Akzeptanz in KI zu
stärken. Die Unternehmen brauchen klare und verständliche Kriterien, was als spezifisches Risiko einer KI
zu verstehen ist. Nur so ist es möglich die Betroffenheit schnell, einfach und rechtssicher zuzuordnen. Der
bürokratische Aufwand und Doppelregulierung sind zu vermeiden, um Belastungen geringzuhalten und
damit die europäische Wettbewerbsfähigkeit sowie die Weiterentwicklung von KI in Europa zu sichern.

Logo mit Computer und Paragraph, darunter die Schrift DIHK Durchblick Digital

© DIHK

Kontakt

Porträtfoto Alena Kühlein
Alena Kühlein Referatsleiterin Wirtschaft digital

Kontakt

Porträtfoto Steffen von Eicke
Steffen von Eicke Referatsleiter Digitaler Binnenmarkt, Regionale Wirtschaftspolitik, EU-Verkehrspolitik