Künstlicher Intelligenz (KI) prägt zunehmend den Alltag. Dabei stellen sich auch Fragen rund um Datenschutz, Datensicherheit und Compliance. Je mehr Daten die KI verwendet, desto kritischer wird es, einen verlässlichen Rahmen für den Schutz und die Sicherheit dieser Daten zu schaffen.

In diesem Blogartikel werfen wir einen Blick auf die zentralen Aspekte von KI und Sicherheit: Warum ist Sicherheit im Kontext von KI so entscheidend? Welche Rolle spielt der Europäische AI Act? Wie sorgt unser Partner Microsoft – insbesondere beim neuen Microsoft 365 Copilot – für ein hohes Maß an Sicherheit? Im Folgenden erhalten Sie einen Überblick über das Thema.

KI Sicherheit: Warum das Thema so wichtig ist

Sobald KI-Modelle sensible Daten verarbeiten – ob Kundendaten, interne Betriebsinformationen oder personalbezogene Daten wie Gehaltsinformationen und Mitarbeiterbewertungen –, besteht das Risiko von Datenverlust, Missbrauch oder unbefugtem Zugriff.

Deshalb ist es für Unternehmen nicht nur eine Pflicht, sondern auch ein Gebot der Vernunft, den sicheren Umgang mit KI-Systemen zu gewährleisten. Die Frage lautet: Wie kann man die Vorteile der Technologie nutzen, ohne die Sicherheit zu gefährden oder die Privatsphäre von Menschen zu beeinträchtigen?  An dieser Stelle kommen technische Vorkehrungen, organisatorische Maßnahmen und rechtliche Rahmenbedingungen zusammen.

KI Sicherheit: Typische Herausforderungen

Um KI sicher nutzen zu können, müssen wir zunächst verstehen, welche konkreten Sicherheitsherausforderungen sich stellen. Dabei lassen sich im Wesentlichen drei Bereiche unterscheiden:

Datenschutz und Compliance

KI-Systeme, die zum Beispiel der Datenanalyse dienen, verarbeiten oft große Mengen personenbezogener Daten. Je nach Art der Anwendung kann dies das Spektrum von anonymisierten Nutzerinteraktionen bis hin zu hochsensiblen Gesundheitsdaten umfassen. In der EU greift hier die Datenschutz-Grundverordnung (DSGVO), die klare Vorgaben für die Erhebung, Verarbeitung und Speicherung personenbezogener Daten macht. Beim Einsatz von KI muss geklärt werden, ob die Datennutzung rechtmäßig erfolgt.

Dabei gibt es zahlreiche Fallstricke bei der KI Sicherheit – und das auch bei vermeintlich harmlosen Fällen: Gewisse Dienste wie ChatGPT nutzen die Eingaben von Benutzern, um ihre Modelle weiter zu trainieren. Wenn Sie hier unbedacht z. B. Kundendaten eingeben, um eine E-Mail formulieren zu lassen, geben Sie personenbezogene Daten unbefugt an Dritte weiter. Das ist auf jeden Fall zu vermeiden.

Auch bei Unternehmensdaten kann der Schaden hoch sein: Einen Jahresreport mit strategischen Entscheidungen per ChatGPT generieren zu lassen, ist verlockend. Defacto verraten Sie dabei jedoch Firmengeheimnisse an OpenAI, wenn Sie arglos dabei vorgehen.

Datenintegrität

Ein weiteres potenzielles Sicherheitsrisiko stellen die Daten dar, die für die Erstellung von KI-Modellen verwendet werden. Sind diese fehlerhaft oder manipuliert, ist auch die KI kompromittiert. Ein einfaches Beispiel dafür: Benutzern ist aufgefallen, dass ein bestimmter Dienst für die KI-Bilderstellung keine Bilder von Linkshändern erstellen kann, weil in den Trainingsdaten keine Linkshänder enthalten waren. Vereinfacht gesagt: Die KI ‚weiß‘ nicht, wie ein Linkshänder aussieht, und kann sich das (da sie entgegen ihres Namens nicht wirklich denken kann) auch nicht vorstellen. Sie wird also immer Bilder von Rechtshändern generieren, auch wenn man sie konkret darum bittet, einen Linkshänder zu zeigen.

Auf den ersten Blick wirkt dieses Beispiel harmlos. Es illustriert aber ein größeres Problem. Denn was, wenn es nicht um Linkshänder geht, sondern um diskriminierte Minderheiten? Und wenn auch keine Bilder erstellt, sondern zum Beispiel eine Bewerbung bewertet werden soll? KI kann rassistisch, misogyn oder sonstwie vorurteilsbeladen sein – wenn es die Daten waren, auf der sie trainiert wurde. Auch das kann ein ernsthaftes Risiko darstellen, das jeder KI-Benutzer auf dem Zettel haben sollte.

Sicherheit und Cyberangriffe:

KI-Systeme können – wie jede andere IT-Infrastruktur auch – Ziel von Cyberangriffen sein. Angreifer versuchen, in das System einzudringen, um Daten auszuspähen oder die Verhaltensweise des KI-Modells zu manipulieren. Dieses Problem betrifft jedoch eher die Anbieter von KI-Diensten – solange die entsprechenden Modelle nicht lokal betrieben werden, müssen und können Benutzer hier nur wenig tun.

Rechtliche Rahmenbedingungen zur KI Sicherheit: der AI Act

Ein bedeutender Schritt hin zu klaren Leitplanken für KI-Systeme in Europa ist der Europäische AI Act. Mit dieser Verordnung hat die EU einen einheitlichen Rechtsrahmen für die Entwicklung und Nutzung von KI geschaffen.

Ziele und Geltungsbereich des AI Act

Der AI Act soll sicherstellen, dass KI-Systeme in Europa unter klaren Regeln und Standards betrieben werden. Dabei werden verschiedene Risikostufen für KI-Anwendungen definiert. Systeme mit geringem Risiko – etwa KI-gestützte Tools zur Workflow-Optimierung – unterliegen weniger strengen Vorschriften als solche, die beispielsweise in sicherheitsrelevanten Bereichen (Gesundheitswesen, Justiz, etc.) eingesetzt werden. Auch der Umgang mit biometrischen Daten spielt eine zentrale Rolle. KI-Systeme, die ein inakzeptables Risiko darstellen (Social Scoring, biometrische Überwachung), werden komplett verboten.

Wichtig ist zudem, dass alle Unternehmen, die KI entwickeln oder einsetzen, vom AI Act betroffen sind – unabhängig von ihrer Größe. Selbst Start-ups und mittelständische Unternehmen, die KI nicht in großem Maßstab nutzen, müssen sich mit Fragen der Compliance auseinandersetzen. Anders ausgedrückt: Kein KI-Anwender in Europa kommt an den Anforderungen des AI Act vorbei.

Anforderungen des AI Act

Zu diesen Anforderungen gehört die Implementierung eines umfassenden Risikomanagementsystems, das potenzielle Gefahren frühzeitig identifiziert und minimiert. Zudem schreibt der AI Act eine menschliche Aufsicht über KI-Systeme vor. So soll sichergestellt werden, dass die endgültige Kontrolle über kritische Prozesse nicht ausschließlich bei der KI liegt.

Nicht zuletzt verpflichtet die Verordnung Unternehmen dazu, ihre Mitarbeiter entsprechend zu qualifizieren. Es reicht nicht aus, KI-Systeme einfach in Betrieb zu nehmen – die Verantwortlichen müssen über fundierte Kenntnisse im Umgang mit künstlicher Intelligenz verfügen. Das betrifft nicht nur Entwickler, sondern auch alle, die KI-Anwendungen nutzen oder deren Ergebnisse interpretieren. Der AI Act fordert daher, dass Unternehmen sicherstellen, dass ihr Personal regelmäßig geschult wird und die Funktionsweise und Risiken der Systeme verstehen.

Ein weiteres zentrales Element ist die Transparenzpflicht. Um das Vertrauen der Öffentlichkeit in KI zu stärken, müssen mit generativer KI erstellte Inhalte klar als solche gekennzeichnet sein. Dies gilt insbesondere für Deepfakes und andere synthetische Medien, bei denen eine Täuschung droht. Text-, Bild-, Video- oder Audioinhalte, die ohne menschliche Bearbeitung veröffentlicht werden, müssen maschinenlesbar als KI-generiert erkennbar sein.

Mit dem AI Act hat die EU einen umfassenden Rechtsrahmen geschaffen, der eine Balance zwischen technologischer Innovation und gesellschaftlicher Verantwortung und langfristig dazu beitragen soll, Vertrauen in KI zu schaffen und deren Einsatz in ethisch vertretbare Bahnen zu lenken. Damit setzt Europa ein deutliches Zeichen für KI Sicherheit.

Praktische Tipps für KI Sicherheit im Unternehmen

Es gibt verschiedene praktische Ansätze, die jedes Unternehmen beherzigen sollte und (gemäß AI Act) teilweise auch muss, um KI Sicherheit zu gewährleisten. Die folgenden Punkte sind als Orientierung gedacht und können je nach Branche und Anwendungsfall variieren.

Vorab-Risikoanalyse durchführen:

Bevor eine KI-Lösung implementiert wird, muss eine ausführliche Risikoanalyse erfolgen. Dabei geht es um Fragen wie: Welche Daten werden verarbeitet? Ist die Anwendung kritisch im Hinblick auf Sicherheit oder Gesundheit? Wie hoch ist das Schadenpotenzial bei einem Ausfall oder einem Missbrauch der KI?

Zugriffs- und Rollenmodelle definieren:

Klare Zugriffsrechte und Rollen sind ein elementarer Baustein, um Missbrauch vorzubeugen. Nur Mitarbeitende, die direkt mit der KI arbeiten, sollten Zugriff auf relevante Daten und Modelle haben. Regelmäßige Überprüfungen der Berechtigungen verhindern, dass frühere Mitarbeiter oder externe Partner noch auf sensible Daten zugreifen können.

Mitarbeiter schulen

Viele Sicherheitsvorfälle entstehen nicht durch ausgeklügelte Hackermethoden, sondern durch menschliche Fehler. Schulungen, Trainings und klare Richtlinien helfen dabei, das Bewusstsein für Datenschutz, IT-Sicherheit und den korrekten Umgang mit KI-Systemen zu schärfen. Nur wenn die Mitarbeiter die Risiken verstehen, können sie ihnen aktiv begegnen.

Ethische Aspekte berücksichtigen

Neben den rechtlichen und technischen Anforderungen spielt auch die Ethik eine Rolle bei der KI Sicherheit. KI-Anwendungen sollten nicht gegen fundamentale Werte verstoßen oder Diskriminierung unterstützen. Es ist empfehlenswert, ein Ethik-Gremium oder interne Leitlinien zu etablieren, die bei der Entwicklung und beim Einsatz von KI als Orientierung dienen. Auch der Betriebsrat sollte eingebunden werden, wenn es einen gibt!

Entwicklungen beobachten

Natürlich sollten Sie Ihren Mitarbeitenden vertrauen. ‚Vertrauen ist gut – Kontrolle ist besser‘ hat als Slogan schon in der Sowjetunion nicht funktioniert. Im modernen Arbeitsleben ist er vollkommen fehl am Platz. Dennoch sollten Sie es nicht bei einer einzigen Schulung belassen. Beobachten Sie besser langfristig, wie KI in Ihrem Unternehmen genutzt wird:

Werden vertrauliche Informationen versehentlich in die KI „gefüttert“? Wissen die Mitarbeitenden, wie sie Copilot verwenden dürfen? Gibt es Missverständnisse hinsichtlich Datenschutzes oder weitergehenden Sicherheitsanforderungen? Gezielte Nachschulungen, gelegentliche Erinnerungen und die regelmäßige Überarbeitung von Richtlinien stellen sicher, dass KI sicher eingesetzt wird.

KI-Sicherheit bei Microsoft: Mehrschichtige Abwehr und höchste Standards

Ein Schlüsselelement für KI Sicherheit ist die Wahl des richtigen Technologiepartners. Mit Copilot zählt Microsoft schon heute zu den führenden Anbietern im Bereich KI – und natürlich hat Microsoft auch das Thema Sicherheit dabei fest im Blick.

Durch erweiterte Threat Intelligence, strenge Sicherheitspraktiken und kontinuierliche Tests – unter anderem mit externen Sicherheitsexperten – stellt das Unternehmen sicher, dass sensible Unternehmensdaten geschützt bleiben. Zudem erfüllt Microsoft 365 Copilot höchste Datenschutz-, Sicherheits- und Compliance-Standards, darunter die DSGVO und die Datengrenze der EU.

Fazit: An KI Sicherheit führt kein Weg vorbei

KI eröffnet Unternehmen neue Horizonte. Doch je weiter der technische Fortschritt voranschreitet, desto wichtiger wird es, Sicherheit und Datenschutz als essenzielle Voraussetzungen zu betrachten. Der Einsatz von KI kann nur dann nachhaltig erfolgreich sein, wenn alle Beteiligten Vertrauen in die Systeme haben. Dieses Vertrauen entsteht durch Transparenz, Kompetenz und den gelebten Willen, Sicherheit und Datenschutz stets an erste Stelle zu setzen.

Der Europäische AI Act setzt ein starkes Signal dafür, dass KI in Europa nur unter klaren Spielregeln zum Einsatz kommen soll – zum Schutz von Personen, Unternehmen und Gesellschaft.

Als GWS wollen wir unsere Kunden auch in diesem wichtigen Bereich bestmöglich unterstützen. Wir verfolgen die neuesten regulatorischen Entwicklungen, setzen auf bewährte Technologien unserer Partner und entwickeln unsere Methoden fortlaufend weiter, um stets auf dem neuesten Stand der Technik und der Gesetzgebung zu bleiben.