ChatGPT, Copilot, Notion AI, unzählige Branchenlösungen mit KI-Funktion – die Zahl der KI-Tools, die in Unternehmen im Einsatz sind, wächst schneller, als viele IT-Abteilungen mitkommen. Häufig fehlt dabei ein zentraler Baustein: ein klarer Prozess, um KI-Tools freizugeben, bevor Mitarbeitende sie im Arbeitsalltag nutzen.

Viele Unternehmen beschäftigen sich erst dann mit der Freigabe von KI-Tools, wenn bereits ungeprüfte Anwendungen im Einsatz sind. Dabei lassen sich Datenschutz- und Sicherheitsrisiken häufig vermeiden, wenn Unternehmen frühzeitig einen einfachen Freigabeprozess etablieren. Dieser Artikel erklärt, was „KI-Tools freigeben“ konkret bedeutet, welche Rolle DSGVO, der AI Act sowie die ISO 27001 dabei spielen können und was ohne einen solchen Prozess passieren kann.

Was bedeutet „KI-Tools freigeben“ eigentlich?

KI-Tools freigeben heißt: Ein Unternehmen prüft ein KI-Tool systematisch, bevor es im Arbeitsalltag eingesetzt werden darf – und entscheidet auf dieser Grundlage, ob und unter welchen Bedingungen die Nutzung erlaubt ist. Das betrifft nicht nur große Systeme wie ein unternehmensweites CRM mit KI-Funktion, sondern auch scheinbar kleine Anwendungen: einen KI-gestützten Notiz-Assistenten, ein Tool zur Transkription von Meetings, einen Chatbot für den Kundensupport.

Ohne einen solchen Freigabeprozess entscheidet in der Praxis oft der einzelne Mitarbeitende selbst, welches Tool er nutzt – meist mit guter Absicht, aber ohne Überblick über die damit verbundenen Datenschutz- und Sicherheitsfragen.

Das eigentliche Problem: Schatten-KI

Nutzen Beschäftigte KI-Tools ohne Freigabeprozess, spricht man in der IT-Sicherheit von Schatten-KI. Mitarbeitende führen Tools eigenständig ein, weil sie den Arbeitsalltag erleichtern. Die IT-Abteilung, der Datenschutzbeauftragte oder die Geschäftsführung erfahren davon oft erst im Nachhinein – wenn überhaupt.

Das Problem dabei: Wer nicht weiß, welche KI-Tools Beschäftigte im Unternehmen einsetzen, kann auch nicht bewerten, wohin die eingegebenen Daten fließen. Kundendaten, interne Dokumente, teilweise sogar Bewerbungsunterlagen landen so in Systemen, die das Unternehmen nie geprüft hat.

Was die DSGVO für die Entscheidung relevant macht

Sobald über ein KI-Tool personenbezogene Daten verarbeitet werden, kommt die Datenschutz-Grundverordnung (DSGVO) ins Spiel. Ob das der Fall ist, hängt weniger vom Tool selbst, als von seiner konkreten Nutzung ab. Für Unternehmen ergeben sich daraus einige Punkte, die bei der Entscheidung über ein KI-Tool hilfreich sein können:

Zum einen wird der Anbieter eines KI-Tools in aller Regel zum Auftragsverarbeiter im Sinne von Art. 28 DSGVO. Ein wirksamer Auftragsverarbeitungsvertrag (AVV) und eine vorherige Prüfung des Anbieters gehören dazu – Punkte, die sich leichter klären lassen, wenn der Einsatz eines Tools von vornherein bekannt ist.

Auch das Prinzip der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) spielt eine Rolle: Es geht darum, dass Unternehmen nur die tatsächlich notwendigen Daten verarbeiten. Wie gut sich das steuern lässt, hängt davon ab, wie viel Überblick ein Unternehmen über die genutzten Tools hat.

Bei Verarbeitungen, die voraussichtlich ein hohes Risiko für die betroffenen Personen mit sich bringen, kann außerdem eine Datenschutz-Folgeabschätzung nach Art. 35 DSGVO erforderlich sein. Das kann beispielsweise bei KI-gestützten Auswahl- oder Bewertungssystemen der Fall sein. Ob eine Folgeabschätzung notwendig ist, sollte das Unternehmen anhand des konkreten Einsatzes prüfen.

DSGVO allein reicht nicht mehr aus

Neben der DSGVO kann auch der europäische AI Act für die Freigabe eines Tools relevant sein. Dabei kommt es vor allem auf den vorgesehenen Einsatz an. Ein allgemeiner Textassistent ist anders zu bewerten als ein System, das Bewerber vorsortiert, Beschäftigte überwacht oder Entscheidungen über Personen vorbereitet.

Deshalb sollte ein Unternehmen bei jeder Anfrage zunächst festhalten, wofür das Tool eingesetzt werden soll und welche Auswirkungen der Einsatz haben kann. Bei sensibleren Anwendungen können zusätzliche Anforderungen an Dokumentation, menschliche Aufsicht und Risikomanagement hinzukommen. Auch die Schulung der Mitarbeitenden sollte mitgedacht werden: Ein freigegebenes Tool hilft wenig, wenn unklar bleibt, welche Daten eingegeben werden dürfen und wo seine Ergebnisse überprüft werden müssen.

Der Bezug zu ISO 27001: Lieferanten und Informationswerte im Blick behalten

Für Unternehmen mit einem Informationssicherheits-Managementsystem nach ISO 27001 ist die Freigabe von KI-Tools kein neues Thema, sondern eine konsequente Fortführung bestehender Prozesse. Zwei Controls sind hier besonders relevant:

A.5.19 – Informationssicherheit in Lieferantenbeziehungen befasst sich damit, wie Unternehmen die Informationssicherheitsrisiken bewerten, die von Drittanbietern ausgehen. Ein KI-Tool-Anbieter lässt sich in diesem Sinne als Lieferant betrachten – mit Zugriff auf Unternehmensdaten, die im Zweifel schützenswert sind.

A.5.34 – Privatsphäre und Schutz personenbezogener Daten (PII) ergänzt das um die Perspektive der betroffenen Personen: Verarbeitet ein KI-Tool personenbezogene Daten von Mitarbeitenden, Bewerbenden oder Kunden, muss das Unternehmen prüfen, welche gesetzlichen, vertraglichen und internen Anforderungen gelten und wie deren Einhaltung nachgewiesen wird.

Ein sauberer Freigabeprozess für KI-Tools lässt sich damit direkt in ein bestehendes ISO-27001-Managementsystem integrieren, statt eine zusätzliche, parallele Struktur aufzubauen.

Was ein fehlender Freigabeprozess für Unternehmen bedeuten kann

Ob und wie stark sich ein fehlender Freigabeprozess auswirkt, hängt vom Einzelfall ab. Punkte, die dabei eine Rolle spielen können:

• Datenabfluss an Dritte, teils in Länder außerhalb der EU, ohne dass ein angemessenes Schutzniveau sichergestellt ist
• Nutzung von Unternehmensdaten zu Trainingszwecken, wenn der Anbieter Eingaben zur Modellverbesserung verwendet
• Fehlende Nachweise gegenüber Aufsichtsbehörden, etwa im Fall einer Prüfung oder nach einem Datenschutzvorfall
• Offene Haftungsfragen für die Geschäftsführung, wenn im Nachhinein deutlich wird, dass sensible Daten unkontrolliert verarbeitet wurden
• Auswirkungen auf das Vertrauen von Kunden und Geschäftspartnern, insbesondere wenn diese selbst hohe Datenschutzstandards einfordern

Manche dieser Punkte lassen sich rückwirkend nur schwer korrigieren, sobald ein Unternehmen Daten einmal übermittelt hat. Das macht die Frage relevant, wann und wie ein Unternehmen sich damit auseinandersetzen möchte.

Wie ein praxisnaher Freigabeprozess ablaufen kann

Unternehmen sollten Data Protection und Information security gemeinsam betrachten. Hinzu kommen organisatorische Fragen: Wer prüft eine neue Anwendung, wer entscheidet über die Freigabe und wer informiert die Beschäftigten über die erlaubte Nutzung?

Wie dieser Prozess im Detail aussieht, hängt von Unternehmensgröße, Branche und vorhandenen Strukturen ab. Ein globaler Konzern braucht ein anderes Vorgehen als ein mittelständischer Produktionsbetrieb ohne eigene Rechtsabteilung.

Am Anfang steht eine einfache Frage: Wofür soll das Tool genutzt werden? Ein Textassistent, der Formulierungsideen für öffentliche Inhalte liefert, ist anders zu bewerten als derselbe Dienst, wenn dort Kundenanfragen, Verträge oder Bewerbungsunterlagen eingegeben werden.

Deshalb sollte der geplante Einsatz zunächst kurz beschrieben werden. Dazu gehören die betroffenen Abteilungen, die Art der verarbeiteten Informationen und die Frage, ob das Tool lediglich Vorschläge erstellt oder Entscheidungen über Personen vorbereitet.

Anbieter und technische Voraussetzungen prüfen

Anschließend werden der Anbieter und die konkrete Produkt- und Tarifversion geprüft. Relevant sind die Vertragsbedingungen, Speicherfristen, der Ort der Datenverarbeitung und der Umgang mit Eingaben. Ebenso sollte das Unternehmen prüfen, ob der Anbieter Eingaben und hochgeladene Inhalte für eigene Zwecke oder zur Verbesserung seiner Modelle verwendet. Bei Cloud-Diensten können außerdem Unterauftragnehmer und Drittlandübermittlungen eine Rolle spielen.

Die technische Prüfung richtet sich danach, welche Daten das Tool erhalten soll und wie es in die bestehende IT eingebunden wird. Verfügt die Anwendung über eine zentrale Benutzerverwaltung? Lassen sich Zugriffsrechte vergeben und Konten beim Ausscheiden eines Mitarbeiters sperren? Welche Schnittstellen, Browser-Erweiterungen oder Zugriffsberechtigungen bringt das Tool mit? Ebenso ist zu klären, ob die Nutzung ausreichend protokolliert und nachvollzogen werden kann.

Auf dieser Grundlage entscheidet das Unternehmen, ob das Tool für den beschriebenen Anwendungsfall freigegeben werden kann. Oft lässt sich das Tool unter bestimmten Bedingungen freigeben, statt es uneingeschränkt zu erlauben oder vollständig abzulehnen. Häufig ist eine eingeschränkte Freigabe sinnvoll, zum Beispiel nur für bestimmte Abteilungen, Datenklassen oder Tätigkeiten. So kann ein Tool für allgemeine Textentwürfe erlaubt sein, während die Eingabe von Kunden-, Personal- oder Vertragsdaten ausgeschlossen bleibt.

Das Unternehmen sollte die Entscheidung zusammen mit den festgelegten Einschränkungen dokumentieren. Eine kurze Positivliste zeigt den Beschäftigten auf einen Blick, welche Anwendungen zugelassen sind. Sie sollte auch erkennen lassen, für welche Zwecke die Freigabe gilt, welche Daten nicht eingegeben werden dürfen und wer bei Fragen weiterhilft.

Mit der Freigabe ist die Prüfung noch nicht beendet. Anbieter verändern Funktionen, Vertragsbedingungen und den Umgang mit den verarbeiteten Daten. Eine erneute Prüfung kann daher bei Änderungen, einer neuen Nutzung oder nach einem festgelegten Zeitraum erforderlich sein.

Ein praktikabler Prozess beginnt mit klaren Fragen

Unternehmen müssen für die Prüfung neuer KI-Tools kein umfangreiches Genehmigungssystem aufbauen. Häufig reicht zunächst ein verständlicher Meldeweg, ein fester Ansprechpartner und ein Fragenkatalog, der sich am konkreten Einsatz orientiert.

Entscheidend ist, dass Beschäftigte nicht aus Bequemlichkeit auf private oder ungeprüfte Lösungen ausweichen. Ein Verfahren, das mehrere Wochen dauert und dessen Anforderungen niemand versteht, wird Schatten-KI kaum verhindern. Die Prüfung sollte deshalb gründlich, aber im Arbeitsalltag nutzbar sein.

Die Kvinne GmbH unterstützt Unternehmen dabei, Anforderungen aus Data Protection und Information security in nachvollziehbare Prozesse zu überführen. Als verlässlicher Partner sorgen wir dafür, bestehende Beschaffungs- und Freigabeverfahren sinnvoll um die Prüfung von KI-Anwendungen zu erweitern.

Häufige Fragen zum Thema KI-Tools freigeben (FAQ)

Muss jedes KI-Tool vor der Nutzung geprüft werden?

Ein Unternehmen sollte zumindest wissen, welche KI-Anwendungen dienstlich eingesetzt werden und wofür sie genutzt werden. Wie umfangreich die Prüfung ausfällt, kann vom Risiko des jeweiligen Einsatzes abhängen. Ein Tool für allgemeine Formulierungshilfen muss meist nicht denselben Prüfprozess durchlaufen wie eine Anwendung, die Personal- oder Kundendaten verarbeitet.

Wer sollte an der Freigabe beteiligt sein?

Das hängt von der Anwendung ab. Häufig sind die Fachabteilung, die IT und der Datenschutz beteiligt. Bei sicherheitsrelevanten Anwendungen kommt die Informationssicherheit hinzu. Einkauf, Rechtsabteilung oder Betriebsrat können ebenfalls einzubeziehen sein.

Dürfen Beschäftigte kostenlose KI-Tools verwenden?

Der Preis sagt wenig über Datenschutz und Informationssicherheit aus. Kostenlose Versionen sind jedoch häufig für die private Nutzung gedacht und bieten weniger Möglichkeiten für zentrale Verwaltung, vertragliche Regelungen oder die Kontrolle von Funktionen.
Unternehmen sollten deshalb festlegen, ob private Konten für dienstliche Zwecke zulässig sind. In vielen Fällen ist eine zentral verwaltete Business-Version besser geeignet, weil Konten, Berechtigungen und Einstellungen einheitlich gesteuert werden können.

Welche Daten dürfen in ein freigegebenes Tool eingetragen werden?

Das ergibt sich aus der konkreten Freigabe. Es sollte vorab festgelegt werden, für welche Zwecke und Datenarten es genutzt werden darf. So kann eine Anwendung für öffentliche Informationen und allgemeine Textentwürfe freigegeben sein, während personenbezogene Daten, Geschäftsgeheimnisse oder vertrauliche Vertragsinhalte ausgeschlossen bleiben. Diese Grenzen müssen für die Beschäftigten verständlich beschrieben werden.

Reicht ein Auftragsverarbeitungsvertrag für die Freigabe aus?

Nein. Ein Vertrag zur Auftragsverarbeitung deckt nur einen Teil der Prüfung ab und ist auch nur dann das passende Instrument, wenn der Anbieter tatsächlich als Auftragsverarbeiter tätig wird.

Kann ein bereits eingesetztes Tool nachträglich geprüft werden?

Ja. Eine nachträgliche Prüfung ist sinnvoller, als eine ungeregelte Nutzung einfach fortzusetzen. Dabei sollte zunächst geklärt werden, wer das Tool verwendet, welche Daten Beschäftigte bisher verarbeitet haben und welche Konten oder Schnittstellen eingerichtet sind.

Wie oft sollte eine Freigabe überprüft werden?

Eine Freigabe sollte nicht unbegrenzt gelten. Eine erneute Prüfung kann notwendig werden, wenn der Anbieter seine Bedingungen ändert, neue Funktionen hinzukommen oder das Tool für einen anderen Zweck eingesetzt werden soll.
Auch eine regelmäßige Überprüfung ist sinnvoll, wobei sich das Intervall am Risiko orientieren sollte. Unternehmen sollten Anwendungen mit sensiblen Daten oder weitreichenden Zugriffsrechten häufiger überprüfen.

Ist für jedes KI-Tool eine Datenschutz-Folgeabschätzung erforderlich?

Nein. Eine Datenschutz-Folgeabschätzung wird benötigt, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. Das kann etwa bei umfangreichen Bewertungen von Personen, Überwachungsmaßnahmen oder sensiblen Entscheidungen der Fall sein. Ein einfacher KI-Assistent löst nicht automatisch eine Datenschutz-Folgeabschätzung aus.