Pfadnavigation

Kann ich KI ohne Sicherheitsrisiko einsetzen?

Die meisten künstlichen Intelligenzen (KIs) werden von privaten Unternehmen betrieben, die mit dem Wissen der KI Geld verdienen. Jedes Dokument, welches zu einer KI geschickt wird, kann für die Vermehrung des Wissens verwendet werden – und ist damit öffentlich. Vertrauliche Informationen sollten Sie daher nie an eine KI schicken. Zudem ist die Korrektheit von KI-Ergebnissen sehr unterschiedlich – verlassen Sie sich nicht darauf.

Auf einer Platine leuchtet die Abkürzung "AI" (Artificial Intelligence)

© Ideengut

Eine künstliche Intelligenz ist genau genommen nicht intelligent, sondern erzeugt sehr gute Ergebnisse auf Basis einer Mustererkennung, die mit großen Datenmengen angelernt wurde. Moderne, öffentlich verfügbare KIs lernen zudem von den bereit gestellten Informationen weiter. Daher sind alle Informationen, die an eine KI geschickt werden, danach quasi öffentlich. Sie sollten also keine vertraulichen Informationen an eine KI senden. Bei KIs, die außerhalb von Europa betrieben werden, kommt die (von anderen Cloud-Diensten bereits bekannte) Datenschutz-Problematik hinzu.

Eine KI besteht zudem aus Software – daher kann sie wie jede andere Software auch gehackt werden. Sicherlich sorgen die betreibenden Firmen für eine angemessene Sicherheit, aber ganz kann ein erfolgreicher Angriff nicht ausgeschlossen werden. Vertrauen Sie einer KI daher in ähnlicher Weise wie jedem anderen Cloud-Dienst; bei auffälligem Verhalten und ungewöhnlicher Kommunikation beenden Sie die Interaktion mit der KI.

Für KIs besteht allerdings noch ein weiteres Hacking-Risiko: dass die "Entscheidungen" der KI manipuliert werden. Das geschieht durch die gezielte Veränderung der Daten, mit denen die KI lernt (also beispielsweise auch Daten, die zu ihr geschickt werden). Dies kann man als Anwender so gut wie nicht erkennen. Verlassen Sie sich daher nicht auf die Ergebnisse einer KI, sie könnten manipuliert sein – oder einfach falsch.

KIs sind aber nicht nur ein Risiko: Man kann sie auch für die Cybersicherheit gut einsetzen – sie können etwa dabei unterstützen, maßgeschneiderte Sicherheitskonzepte zu erstellen, oder geeignete risikosenkende Maßnahmen für erhebliche Risiken zu identifizieren.

Die zwei Top-Tipps

  • Senden Sie keine vertraulichen und nur anonymisierte Dokumente an eine KI

  • Prüfen Sie die Ergebnisse genau

Kontakt

Porträtfoto Katrin Sobania
Dr. Katrin Sobania Referatsleiterin Informations- und Kommunikationstechnologie | E-Government | Postdienste | IT-Sicherheit