1. Worum geht es bei der KI-Verordnung, und was wird dort geregelt? Ein Überblick

Die europäische KI-Verordnung regelt den Einsatz von KI-Systemen und den statistischen Modellen, die sie nutzen, und schafft einen einheitlichen rechtlichen Rahmen in der EU. Sie gilt direkt in allen EU-Mitgliedstaaten und betrifft sowohl Unternehmen, die KI intern nutzen, als auch solche, die KI-Produkte und -Dienste nach außen anbieten. Ziel ist es, Risiken zu minimieren und die Nutzung von KI sicher und vertrauenswürdig zu gestalten. Verstöße gegen die Vorgaben können hohe Strafen nach sich ziehen.

Podcast

Folge 1: Die KI-Verordnung im Überblick

Was ist eigentlich "künstliche Intelligenz" – zumindest aus Sicht des europäischen Gesetzgebers? Und was soll die KI-Verordnung der EU regeln? In der ersten Folge des Podcasts erklären Rechtsanwalt Matthias Orthwein und DIHK-Experte Arian Siefert ganz grundsätzlich, was in der Verordnung unter KI verstanden wird, welche Pflichten und Verantwortlichkeiten aus dem Regelwerk entstehen und welche Ziele es verfolgt – vom Schutz der Mitarbeitenden bis zur Sicherung von Innovation.

Audio herunterladen

Die KI-Verordnung definiert KI-Systeme als maschinengestützte Technologien, die autonom arbeiten, Entscheidungen treffen und ihre physische oder virtuelle Umgebung beeinflussen können. Anders als klassische Anwendungen wie zum Beispiel Software, die nach festen Regeln funktioniert ("Wenn A passiert, dann mache B"), nutzt KI statistische Modelle. Diese "KI-Modelle" berechnen die Wahrscheinlichkeit, mit der eine Lösung gut für eine Aufgabe passt.

Ein Beispiel:

Klassische Software: Ein Buchungssystem prüft, ob für die Anfrage des Nutzers im vorgegebenen Formular ein Datum frei ist, und bucht dann.
KI-System: Ein Chatbot erkennt anhand vieler Beispiele, welche Antwort zu einer Kundenfrage passt – ohne dass jede mögliche Frage vorher programmiert wurde.

KI kann große Datenmengen schneller analysieren als Menschen. Sie "denkt" nicht wie wir anhand von Logik und Kontext, sondern rechnet aus, welches Ergebnis am besten passt. Das gilt auch – aber nicht nur – für sogenannte generative KI-Systeme wie ChatGPT, die aus einer Eingabe ("Prompt") Texte, Bilder oder Musik erzeugen. Grundlage sind die Daten, mit denen die KI zuvor trainiert wurde. In diesem Zusammenhang ist wichtig, festzuhalten, dass die KI-Verordnung keine anderen Gesetze ersetzt: Unternehmen müssen weiterhin Datenschutz-, Urheber- und Haftungsfragen separat prüfen.

Die KI-Verordnung soll sicherstellen, dass KI-Systeme keine unbeherrschbaren oder ungewollten Risiken für Menschen verursachen. Verschiedene KI-Systeme werden in Risikoklassen eingeordnet (kein, geringes, hohes und unannehmbares Risiko), wonach sich dann die jeweiligen Pflichten für Anbieter und Nutzer richten (siehe "Wie regelt die KI-Verordnung KI-Systeme mit unterschiedlichen Risikoprofilen?"). Die Verordnung gilt nur für Systeme, die tatsächlich Auswirkungen in der realen Welt haben – zum Beispiel ein KI-Tool, das Bilder erstellt oder eine Maschine steuert. Besonders streng sind die Regeln für KI-Systeme, die als hochriskant gelten – etwa, wenn sie Entscheidungen über Menschen treffen oder sicherheitskritische Prozesse steuern.

Die KI-Verordnung erlaubt den EU-Mitgliedsstaaten, sogenannte Reallabore einzurichten. Das sind spezielle Testumgebungen, in denen Unternehmen neue KI-Systeme unter realistischen Bedingungen ausprobieren können – unter Aufsicht der zuständigen Behörde und ohne sofort alle gesetzlichen Anforderungen erfüllen zu müssen.

Ein Beispiel:

Eine Behörde könnte ein Reallabor für KI in der medizinischen Diagnose schaffen.
Dort dürfen Unternehmen ihre Systeme testen, bevor sie für den allgemeinen Markt zugelassen werden.

Top-Tipps

Was Sie prüfen sollten

Betroffenheit klären: Fällt meine Anwendung unter die Definition der KI-Verordnung?
Pflichten & Verantwortlichkeiten darstellen: Wenn die KI-Verordnung anwendbar ist, sind KI-Schulungen notwendig, müssen zuständige Personen benannt und weitere Anforderungen aus dem Datenschutz, dem Urheberrecht oder den Lizenzvorgaben des Anbieters beachtet werden.
Reallabore nutzen: Nutzen Sie die Möglichkeit der Reallabore, um innovative Anwendungen zu testen und zu optimieren.