Europäisches Gesetz über künstliche Intelligenz

Worum geht es in dem Vorhaben?

Künstliche Intelligenz (KI) sicher und vertrauenswürdig gestalten – das ist das Ziel der Europäischen Kommission. Um dies zu erreichen, hat die EU-Kommission im April 2021 einen Vorschlag für ein Gesetz über Künstliche Intelligenz vorgelegt.

Wer ist betroffen?

KI ist vielfältig und überall dort einsetzbar, wo große Mengen an Daten zu verwerten sind. Anwendungen finden sich verteilt über nahezu alle Wirtschaftsbereiche und Geschäftsfelder: von der verbreiteten Bild-, Sprach- und Texterkennung über das Smart Home bis hin zum autonomen Fahrzeug, aber auch bei industriellen Anwendungen, in denen KI zum Beispiel eine vorausschauende Wartung von Maschinen ermöglicht.

Was sieht der Gesetzesentwurf vor?

KI ist nicht gleich KI – der Gesetzesvorschlag unterscheidet zwischen verschiedenen Anwendungsbereichen und vier Risikoklassen. An die Risikoklassen sind unterschiedliche Anforderungen geknüpft. KI-Systeme, die den ethischen Grundsätzen in der EU widersprechen und somit ein inakzeptables Risiko darstellen, sollen gänzlich verboten werden, zum Beispiel Social-Scoring-Systeme.

Besonders relevant für Unternehmen sind Anwendungen, die als hochriskant eingestuft werden. Sie sollen künftig strengen Anforderungen unterliegen. Ein umfassendes Qualitäts- und Risikomanagementsystem, in dem unter anderem Entscheidungsvorgänge, Datenqualität und Transparenz dokumentiert und nachgewiesen werden müssen, ist einzurichten. Zu den Hochrisikosystemen zählen unter anderem KI-basierte Anwendungen, die im Personalmanagement, in der Aus- und Weiterbildung, in der kritischen Infrastruktur oder in der Industrie als Sicherheitskomponenten oder -bauteile zum Einsatz kommen.

Für Anwendungen mit geringem Risiko, beispielsweise Chatbots, sind Transparenzpflichten vorgesehen. Für Systeme mit minimalem Risiko, wie etwa KI gestützten Videospiele oder Spamfilter, entstehen keine zusätzlichen rechtlichen Verpflichtungen.

Ein Beispiel: Künstliche Intelligenz bei der Personalauswahl

Das CV-Parsing (Lebenslauferkennung) ist eine Software zur automatischen Analyse und Auslese von Lebensläufen im Bewerbungsprozess. Das Tool filtert Bewerberdaten wie etwa Informationen zur Ausbildung heraus und unterstützt die Personalverantwortlichen bei ihrer Entscheidung. Für ein solches System könnten künftig strengere Vorgaben gelten, denn KI-Anwendungen, die bei Bewerbungsverfahren zum Einsatz kommen, sind laut dem aktuellen Vorschlag der Verordnung als Hochrisikosysteme gelistet.

Das könnte bedeuten, dass der Anwender künftig Vorgänge protokollieren muss, um die Rückverfolgbarkeit der Personalauswahl zu ermöglichen oder den Bewerbern bestimmte Informationen transparent bereitstellen muss.

Was ist für die Wirtschaft nun wichtig?

Der vorgesehene Rechtsrahmen kann einen Beitrag leisten, das Vertrauen und die Akzeptanz in KI zu stärken. Die Unternehmen brauchen klare und verständliche Kriterien, was als spezifisches Risiko einer KI zu verstehen ist. Nur so ist es möglich, die Betroffenheit schnell, einfach und rechtssicher zuzuordnen. Bürokratischer Aufwand und Doppelregulierung sind zu vermeiden, um Belastungen gering zu halten und damit die europäische Wettbewerbsfähigkeit sowie die Weiterentwicklung von KI in Europa zu sichern.