Schatten-KI im Unternehmen: Das unsichtbare Risiko zwischen Produktivität und Kontrollverlust

Definition Schatten-KI: Als Schatten-KI (englisch: Shadow AI) bezeichnet man den Einsatz von KI-Anwendungen durch Beschäftigte, der außerhalb der vorgesehenen oder genehmigten betrieblichen Prozesse stattfindet. Dazu gehören beispielsweise private ChatGPT-Accounts, nicht freigegebene Bildgeneratoren, Übersetzungsdienste oder KI-gestützte Programmierwerkzeuge. Die Nutzung entsteht häufig nicht aus böser Absicht, sondern weil Mitarbeitende ihre Arbeit schneller erledigen möchten und dafür unmittelbar verfügbare Werkzeuge einsetzen. Problematisch wird es, wenn sensible Unternehmensdaten, personenbezogene Informationen oder vertrauliche Dokumente ohne ausreichende Prüfung an externe Dienste übermittelt werden. Auch fehlerhafte KI-Ergebnisse, ungeklärte Nutzungsrechte und fehlende Verantwortlichkeiten können erhebliche geschäftliche Risiken verursachen.

Die entscheidende Frage lautet deshalb nicht, ob Mitarbeitende KI nutzen werden. Die Frage lautet, ob Unternehmen diese Nutzung gestalten oder lediglich hoffen, dass schon nichts passieren wird.

Denn Schatten-KI ist mehr als ein Datenschutzproblem. Sie ist ein Symptom für eine Organisation, in der technologische Möglichkeiten, betriebliche Anforderungen und bestehende Governance-Prozesse nicht immer zusammenpassen. Wer das Problem ausschließlich mit Verboten angeht, riskiert, dass die Nutzung inoffiziell weitergeht und noch schwerer erkennbar wird. Wer dagegen sichere Alternativen bereitstellt, klare Spielregeln definiert und Mitarbeitende einbezieht, kann aus einem unkontrollierten Risiko einen strategischen Vorteil machen.

Die gute Nachricht: Unternehmen müssen sich nicht zwischen Sicherheit und Produktivität entscheiden. Sie müssen lernen, beides zusammenzubringen.

Das Produktivitäts-Paradoxon: Warum Schatten-KI das neue Schatten-IT-Problem ist

Stellen wir uns einen ganz normalen Arbeitstag vor. Eine Projektmanagerin muss ein umfangreiches Konzept zusammenfassen, ein Vertriebsmitarbeiter benötigt eine überzeugende Kundenpräsentation und ein Entwickler sucht nach einer Erklärung für einen komplizierten Programmierfehler. Die interne IT hat noch keine offizielle KI-Lösung bereitgestellt, die Freigabe eines neuen Werkzeugs würde mehrere Wochen dauern und die nächste Deadline wartet nicht auf den Abschluss eines Governance-Prozesses.

Was passiert? Die Projektmanagerin öffnet ChatGPT, der Vertriebsmitarbeiter lässt sich von einer KI beim Formulieren helfen und der Entwickler kopiert einen Codeausschnitt in einen Online-Assistenten. Wenige Minuten später sind die Aufgaben erledigt oder zumindest deutlich weiter fortgeschritten. Die Mitarbeitenden sind zufrieden, die Produktivität steigt und niemand hat das Gefühl, etwas besonders Riskantes getan zu haben.

Genau hier beginnt das Problem. Denn während die Beschäftigten ihre Arbeit optimieren, verliert das Unternehmen möglicherweise den Überblick darüber, welche Daten wohin übertragen werden, welche Anbieter Zugriff erhalten und auf welcher vertraglichen Grundlage die Verarbeitung stattfindet.

Schatten-KI entsteht häufig dort, wo Prozesse zu langsam sind

Das Muster kennen IT-Verantwortliche bereits aus der Zeit vor dem KI-Boom. Mitarbeitende verwendeten private Cloud-Speicher, nicht genehmigte Dateikonverter oder eigenständig beschaffte Projektmanagement-Tools, wenn offizielle Lösungen ihren Arbeitsalltag nicht ausreichend unterstützten. Diese Entwicklung wurde als Schatten-IT bekannt. Generative KI überträgt dieses Muster auf eine neue Ebene, weil viele Werkzeuge ohne Installation, Beschaffung oder technische Vorkenntnisse direkt im Browser verfügbar sind.

Der entscheidende Unterschied liegt in der Art der Verarbeitung. Ein klassisches Werkzeug speichert möglicherweise eine Datei oder synchronisiert einen Kalender. Ein generatives KI-System verarbeitet dagegen häufig Inhalte, die Mitarbeitende aktiv in Eingabefelder kopieren. Das können E-Mails, Quellcode, Vertragsauszüge, interne Strategiepapiere, Kundendaten oder Personalinformationen sein. Die Grenze zwischen einer harmlosen Anfrage und der Übermittlung vertraulicher Informationen ist dabei oft nur einen Tastendruck entfernt.

Hinzu kommt ein psychologischer Faktor: KI liefert schnell sichtbare Ergebnisse. Wer innerhalb weniger Minuten einen brauchbaren Entwurf erzeugt, erlebt einen unmittelbaren Produktivitätsgewinn. Der mögliche Schaden durch eine unzulässige Datenübermittlung ist dagegen unsichtbar und tritt womöglich erst Monate später zutage. Diese zeitliche Asymmetrie macht Schatten-KI besonders tückisch.

Wie verbreitet ist Schatten-KI tatsächlich?

Die Verbreitung ist erheblich, auch wenn die tatsächliche Nutzung naturgemäß schwer zu messen ist. Eine repräsentative Bitkom-Befragung von 604 Unternehmen in Deutschland mit mindestens 20 Beschäftigten ergab im Oktober 2025, dass 8 Prozent der Unternehmen den Einsatz privater KI-Tools durch Mitarbeitende als weit verbreitet einschätzten. Weitere 17 Prozent berichteten von Einzelfällen, während ebenfalls 17 Prozent vermuteten, dass Beschäftigte solche Werkzeuge nutzten, ohne dies sicher zu wissen. Zusammengenommen gingen damit vier von zehn Unternehmen zumindest davon aus, dass private KI-Zugänge im Arbeitsalltag zum Einsatz kommen.

Diese Zahlen sind ein wichtiger Hinweis, sollten aber korrekt interpretiert werden. Sie bedeuten nicht, dass in 40 Prozent aller Unternehmen täglich Schatten-KI verwendet wird. Die Untersuchung erfasste Einschätzungen von Unternehmen und unterschied zwischen verbreiteter Nutzung, Einzelfällen und bloßen Vermutungen. Gerade diese Unsicherheit ist jedoch ein Governance-Problem: Wer die tatsächliche Nutzung nicht kennt, kann Risiken nur eingeschränkt bewerten.

Ein weiteres Ergebnis der Untersuchung ist aufschlussreich. Lediglich 23 Prozent der befragten Unternehmen hatten bereits Regeln für den Einsatz generativer KI aufgestellt. Weitere 31 Prozent planten entsprechende Vorgaben. Zwischen dem technischen Fortschritt und der organisatorischen Reaktion bestand somit eine erkennbare Lücke.

Für Führungskräfte ergibt sich daraus eine unbequeme, aber wertvolle Erkenntnis: Wenn Ihr Unternehmen keine Schatten-KI erkennt, ist das noch kein Beleg dafür, dass sie nicht existiert.

Es kann genauso gut bedeuten, dass niemand systematisch danach fragt.

Die vier größten Shadow-AI-Risiken im B2B-Kontext

Nicht jede Verwendung eines öffentlichen KI-Werkzeugs ist automatisch gefährlich. Wer einen öffentlich verfügbaren Produkttext zusammenfassen oder eine allgemeine Formulierung verbessern lässt, bewegt sich in einer anderen Risikokategorie als jemand, der vertrauliche Vertragsdaten oder personenbezogene Informationen übermittelt. Eine pauschale Bewertung aller KI-Anwendungen führt deshalb ebenso wenig weiter wie die Annahme, kostenlose Werkzeuge seien grundsätzlich unsicher und kostenpflichtige automatisch sicher.

Entscheidend sind der konkrete Anwendungsfall, die verarbeiteten Daten, die technischen und vertraglichen Schutzmaßnahmen sowie die Folgen eines möglichen Fehlers. Unternehmen benötigen daher eine risikobasierte Betrachtung, die Informationssicherheit, Datenschutz, Recht und Fachbereiche miteinander verbindet. Die folgenden vier Risikofelder bilden dafür einen praxistauglichen Ausgangspunkt.

Risikofeld eins: Abfluss von geistigem Eigentum und Geschäftsgeheimnissen

Stellen wir uns vor, ein Produktteam entwickelt eine neue Preisstrategie. Die Analyse enthält geplante Marktpositionierungen, interne Kalkulationen und noch nicht veröffentlichte Produktmerkmale. Ein Mitarbeiter möchte daraus eine Präsentation erstellen und kopiert das gesamte Dokument in einen öffentlich zugänglichen KI-Dienst. Die Präsentation wird überzeugend, die Arbeit ist erledigt und das Team spart Zeit. Doch die Organisation hat möglicherweise gerade Informationen offengelegt, die einen erheblichen Wettbewerbsvorteil darstellen.

Welche Folgen eine solche Übermittlung hat, hängt vom konkreten Dienst, dessen Einstellungen, den geltenden Vertragsbedingungen und den technischen Verarbeitungsprozessen ab. Es ist fachlich falsch, pauschal zu behaupten, dass jeder Prompt automatisch zum Training eines öffentlichen Sprachmodells verwendet wird. Anbieter unterscheiden sich unter anderem hinsichtlich der Verwendung von Eingaben für Modellverbesserungen, der Speicherung von Daten und der verfügbaren Kontrollmöglichkeiten. Trotzdem kann bereits eine Verarbeitung oder Speicherung außerhalb der genehmigten Unternehmensumgebung ein relevantes Risiko darstellen.

Besonders kritisch sind folgende Informationsarten:

• Quellcode und nicht veröffentlichte Softwarearchitekturen
• Geschäftspläne, Kalkulationen und Preisstrategien
• Vertragsentwürfe und vertrauliche Verhandlungspositionen
• Produkt-Roadmaps und interne Entwicklungsunterlagen
• Zugangsdaten, API-Schlüssel und technische Konfigurationen

Diese Kategorien sind nicht nur theoretische Beispiele. Sie bilden Informationen ab, die Mitarbeitende bei der täglichen Arbeit regelmäßig bearbeiten und deshalb möglicherweise als unproblematisch betrachten. Ein Entwickler kann beispielsweise einen Fehler schneller analysieren, indem er einen Codeausschnitt mit einem KI-Assistenten bespricht. Enthält dieser Ausschnitt jedoch Zugangsdaten, interne Endpunkte oder vertrauliche Logik, wird aus einer technischen Hilfestellung ein Sicherheitsvorfall.

Für Unternehmen kommt ein weiterer Aspekt hinzu: Geschäftsgeheimnisse genießen nicht allein deshalb rechtlichen Schutz, weil sie intern als vertraulich bezeichnet werden. Nach dem deutschen Geschäftsgeheimnisgesetz sind unter anderem angemessene Geheimhaltungsmaßnahmen erforderlich. Eine dokumentierte Datenklassifizierung, verbindliche Richtlinien und kontrollierte KI-Zugänge unterstützen daher nicht nur die IT-Sicherheit, sondern können auch für den Schutz von Geschäftsgeheimnissen relevant sein.

Die zentrale Maßnahme lautet deshalb: Mitarbeitende müssen erkennen können, welche Informationen sie in welche KI-Systeme eingeben dürfen. Eine abstrakte Aufforderung, vertrauliche Daten zu schützen, reicht dafür nicht aus.

Risikofeld zwei: DSGVO-Verstöße und unzulässige Datenverarbeitung

Der zweite Risikobereich betrifft personenbezogene Daten. Ein Personalverantwortlicher möchte beispielsweise eine umfangreiche Sammlung von Bewerbungsunterlagen auswerten lassen. Eine Führungskraft möchte Mitarbeiterfeedback zusammenfassen. Ein Kundenbetreuer kopiert eine Supportanfrage inklusive Namen, E-Mail-Adresse und Vertragsnummer in einen KI-Chat, um eine Antwort zu formulieren.

In allen drei Fällen kann eine Verarbeitung personenbezogener Daten vorliegen. Damit stellen sich Fragen nach einer geeigneten Rechtsgrundlage, der Zweckbindung, der Datenminimierung, der Transparenz und gegebenenfalls weiteren datenschutzrechtlichen Anforderungen. Auch die Rolle des jeweiligen Anbieters und mögliche Übermittlungen in Drittländer müssen im konkreten Fall geprüft werden.

Die DSGVO verbietet nicht pauschal jede Verarbeitung personenbezogener Daten mithilfe von KI. Entscheidend ist, ob die konkrete Verarbeitung rechtmäßig ausgestaltet ist und die einschlägigen Anforderungen erfüllt. Ein Unternehmen kann sich deshalb nicht darauf verlassen, dass eine Anfrage zulässig ist, nur weil sie technisch funktioniert oder der verwendete Dienst von Millionen Menschen genutzt wird.

Für die betriebliche Praxis sind insbesondere folgende Fragen relevant:

• Welche personenbezogenen Daten werden verarbeitet?
• Ist die Verarbeitung für den vorgesehenen Zweck erforderlich?
• Welche Rechtsgrundlage trägt den konkreten Einsatz?
• Welche Daten werden gespeichert und wie lange?
• Wer erhält Zugriff auf die Daten und welche Unterauftragnehmer sind beteiligt?
• Sind zusätzliche Schutzmaßnahmen oder eine Datenschutz-Folgenabschätzung erforderlich?

Diese Fragen müssen nicht für jede harmlose Textanfrage in einem mehrwöchigen Prüfverfahren beantwortet werden. Sie sind jedoch unverzichtbar, wenn KI-Systeme regelmäßig personenbezogene Daten verarbeiten oder besonders sensible Anwendungsfälle unterstützen.

Eine weitere Gefahr entsteht durch die unbedachte Weitergabe vollständiger Dokumente. Häufig genügt es, einzelne Informationen zu anonymisieren oder den Sachverhalt abstrakt zu beschreiben. Aus „Bitte formuliere eine Antwort auf diese Kundenbeschwerde“ wird beispielsweise „Formuliere eine sachliche Antwort auf eine Beschwerde über eine verspätete Lieferung“. Die KI benötigt in vielen Fällen weder den Namen des Kunden noch seine vollständige Bestellhistorie.

Datenminimierung ist damit nicht nur eine Datenschutzpflicht, sondern auch eine wirksame Sicherheitsstrategie.

Risikofeld drei: Halluzinationen, Fehlentscheidungen und Haftung

Generative KI kann überzeugende Antworten liefern, die sachlich falsch, unvollständig oder frei erfunden sind. Solche Fehler werden als Halluzinationen bezeichnet. Besonders problematisch ist dabei nicht allein die Fehlerquote, sondern die Art der Darstellung: Eine KI formuliert falsche Aussagen häufig ebenso flüssig und selbstbewusst wie korrekte Informationen.

Im Unternehmensalltag kann das erhebliche Konsequenzen haben. Ein Mitarbeiter übernimmt einen vermeintlich passenden Programmcode, ohne ihn ausreichend zu testen. Ein Vertriebsteam verspricht einem Kunden eine Funktion, die das Produkt gar nicht unterstützt. Eine Führungskraft erhält eine Zusammenfassung, in der wichtige Einschränkungen fehlen. Oder ein Fachbereich übernimmt rechtliche Aussagen aus einer KI-generierten Analyse, ohne die genannten Rechtsgrundlagen zu überprüfen.

Die Verantwortung verschwindet nicht dadurch, dass ein KI-System an der Erstellung beteiligt war. Je nach Situation können vertragliche Pflichten, gesetzliche Anforderungen, Organisationspflichten oder andere Verantwortlichkeiten betroffen sein. Welche Haftungsfolgen tatsächlich eintreten, lässt sich nicht pauschal bestimmen. Entscheidend sind unter anderem der konkrete Einsatz, die betroffenen Personen, die Art des Fehlers und die geltenden rechtlichen Rahmenbedingungen.

Unternehmen sollten deshalb für KI-generierte Ergebnisse verbindliche Prüfregeln definieren. Bei einfachen internen Textentwürfen kann eine kurze Plausibilitätskontrolle genügen. Bei sicherheitskritischem Code, externen Rechtsaussagen, finanziellen Entscheidungen oder Informationen mit erheblicher Außenwirkung sind dagegen deutlich strengere Prüfungen erforderlich.

Besonders wichtig ist die Frage, wer das Ergebnis fachlich verantwortet. Ein KI-Werkzeug ist kein Ersatz für die erforderliche Kompetenz der Person, die sein Ergebnis verwendet oder freigibt. Auch ein automatisierter Prozess benötigt definierte Verantwortlichkeiten und nachvollziehbare Kontrollmechanismen.

Ein praktischer Grundsatz lautet daher: Je größer die mögliche Auswirkung eines Fehlers, desto höher müssen die Anforderungen an Verifikation, Dokumentation und menschliche Kontrolle sein.

Risikofeld vier: Compliance-Verstöße und fehlende Nachweisbarkeit

Das vierte Risikofeld entsteht, wenn KI-Anwendungen nicht mit den bestehenden Sicherheits- und Compliance-Prozessen des Unternehmens abgestimmt sind. Gerade in regulierten oder sicherheitskritischen Branchen genügt es nicht, dass ein Werkzeug gute Ergebnisse liefert. Die Organisation muss auch nachvollziehen können, welche Systeme eingesetzt werden, welche Daten verarbeitet werden und welche Schutzmaßnahmen greifen.

Das betrifft beispielsweise Unternehmen mit Anforderungen aus ISO/IEC 27001, Dienstleister mit vertraglichen Sicherheitsvorgaben oder Zulieferer, die im Rahmen von TISAX-bezogenen Anforderungen Nachweise erbringen müssen. Dabei ist wichtig, präzise zu bleiben: Weder ISO 27001 noch TISAX enthalten ein pauschales Verbot sämtlicher nicht genehmigter KI-Anwendungen. Entscheidend ist, welche Anforderungen im jeweiligen Geltungsbereich gelten und ob die Organisation ihre Informationswerte, Risiken, Zugriffe und Schutzmaßnahmen angemessen steuert.

Schatten-KI kann bestehende Kontrollmechanismen unterlaufen. Ein Unternehmen hat möglicherweise klare Vorgaben zur Speicherung vertraulicher Dokumente, überwacht aber nicht, ob Beschäftigte dieselben Dokumente an externe KI-Dienste übertragen. Die Informationssicherheitsrichtlinie ist vorhanden, doch der konkrete Arbeitsprozess wurde bei ihrer Umsetzung nicht berücksichtigt.

Hinzu kommen Nachweisprobleme. Wenn niemand weiß, welche KI-Dienste verwendet werden, lassen sich Risiken nur eingeschränkt bewerten. Ebenso schwierig wird es, Auskunft über die Verarbeitung bestimmter Informationen zu geben, vertragliche Verpflichtungen zu überprüfen oder nach einem Vorfall den Umfang einer möglichen Datenübermittlung zu rekonstruieren.

Ein belastbares Kontrollsystem sollte deshalb mindestens folgende Aspekte berücksichtigen:

• ein dokumentiertes Verzeichnis genehmigter KI-Anwendungen
• klare Regeln zur Klassifizierung und Verarbeitung von Informationen
• definierte Verantwortlichkeiten für Freigabe und Betrieb
• angemessene technische Schutzmaßnahmen und Protokollierung
• nachvollziehbare Prüf- und Eskalationsprozesse

Dabei geht es nicht darum, jede einzelne Interaktion mit einer KI lückenlos zu überwachen. Ziel ist vielmehr, ein angemessenes Schutzniveau zu schaffen und relevante Vorgänge nachvollziehbar zu machen.

Wer Schatten-KI als Teil seiner Informationssicherheitsstrategie behandelt, erkennt schnell: Die Lösung liegt nicht in einer einzelnen Firewall-Regel, sondern in einem Zusammenspiel aus Organisation, Technik und Verhalten.

Der Vier-Punkte-Aktionsplan für IT-Leadership

Bis hierhin könnte man zu einem ernüchternden Schluss kommen: KI ist nützlich, aber riskant; Mitarbeitende handeln eigenständig und die IT muss aufpassen. Eine solche Perspektive greift jedoch zu kurz. Schatten-KI ist auch ein Hinweis darauf, wo Unternehmen ungenutzte Produktivitätspotenziale haben und wo ihre Prozesse nicht mehr mit der Geschwindigkeit moderner Werkzeuge mithalten.

Die Aufgabe der IT-Leitung besteht deshalb nicht allein darin, Risiken zu unterbinden. Sie muss einen Rahmen schaffen, in dem sinnvolle KI-Anwendungen schnell, sicher und nachvollziehbar eingeführt werden können. Dafür braucht es keine monatelange Transformationsinitiative, sondern einen pragmatischen Einstieg mit vier aufeinander abgestimmten Maßnahmen.

Maßnahme eins: Mit einer anonymen Bedarfsanalyse beginnen

Bevor Unternehmen Regeln verschärfen oder technische Sperren einrichten, sollten sie herausfinden, welche Probleme Mitarbeitende tatsächlich lösen wollen. Eine kurze, anonyme Befragung ist dafür häufig ein besserer Ausgangspunkt als ein Rundschreiben mit der Überschrift „Ab sofort ist die Nutzung nicht genehmigter KI verboten“.

Frage beispielsweise, welche KI-Werkzeuge bereits genutzt werden, welche Aufgaben damit erledigt werden und welche Funktionen im offiziellen Arbeitsumfeld fehlen. Interessant sind auch die Gründe für die Nutzung: Geht es um Zeitersparnis, bessere Textqualität, Übersetzungen, Programmierunterstützung oder die Auswertung umfangreicher Dokumente? Solche Informationen helfen dabei, nicht nur Symptome zu bekämpfen, sondern die Ursachen zu verstehen.

Wichtig ist eine vertrauensvolle Kommunikation. Die Befragung sollte nicht als verdeckte Suche nach Regelverletzungen verstanden werden. Mitarbeitende müssen erkennen, dass das Unternehmen die tatsächlichen Arbeitsbedingungen verbessern möchte. Andernfalls ist die Wahrscheinlichkeit hoch, dass gerade die wertvollsten Informationen zurückgehalten werden.

Eine mögliche Bedarfsanalyse umfasst folgende Fragen:

• Welche KI-Werkzeuge verwendest du beruflich oder würden du gerne verwenden?
• Welche konkreten Aufgaben unterstützen diese Werkzeuge?
• Welche Probleme verhindern derzeit eine offizielle Nutzung?
• Welche Datenarten müssten in den Anwendungsfällen verarbeitet werden?
• Welche Sicherheitsfunktionen und Hilfestellungen benötigst du?

Die Ergebnisse sollten anschließend nach Fachbereichen, Anwendungsfällen und Risikokategorien ausgewertet werden. Dabei können auch Workshops mit ausgewählten Beschäftigten helfen, typische Arbeitsabläufe genauer zu verstehen.

Ein zusätzlicher Nutzen entsteht, wenn das Unternehmen die Ergebnisse sichtbar zurückspielt. Wer erlebt, dass Rückmeldungen tatsächlich zu besseren Werkzeugen oder einfacheren Freigabeprozessen führen, beteiligt sich eher an zukünftigen Governance-Maßnahmen.

Maßnahme zwei: Sichere Enterprise-Gateways bereitstellen

Der nächste Schritt ist die Bereitstellung geeigneter, offiziell genehmigter KI-Werkzeuge. Unternehmen können beispielsweise kommerzielle Unternehmensangebote von KI-Anbietern, integrierte Assistenten ihrer bestehenden Softwareplattformen oder selbst betriebene beziehungsweise kontrolliert gehostete Lösungen prüfen.

Wichtig ist, dass die Auswahl anhand konkreter Anforderungen erfolgt. Ein Unternehmensabo allein ist kein Sicherheitsnachweis. Auch bei einer Enterprise-Lösung müssen Verantwortliche prüfen, welche Daten verarbeitet werden, ob Eingaben zum Modelltraining verwendet werden, welche Speicherfristen gelten und welche Administrations- und Kontrollfunktionen verfügbar sind.

Das gilt auch für Funktionen wie Zero Data Retention. Der Begriff bezeichnet je nach Anbieter und Vertragsmodell unterschiedliche Möglichkeiten, Daten nicht oder nur unter genau definierten Bedingungen zu speichern. Eine solche Funktion darf nicht einfach vorausgesetzt werden, nur weil ein Produkt als Enterprise-Lösung vermarktet wird. Unternehmen müssen die tatsächliche Verfügbarkeit, den Geltungsbereich und mögliche Ausnahmen anhand der aktuellen Vertragsbedingungen und technischen Dokumentation überprüfen.

Ein sinnvoller Auswahlprozess berücksichtigt mindestens:

• Datenschutz: Welche Daten werden verarbeitet, gespeichert oder weitergegeben?
• Informationssicherheit: Welche Authentifizierungs-, Berechtigungs- und Schutzmechanismen sind verfügbar?
• Administration: Lassen sich Nutzer, Funktionen und Richtlinien zentral verwalten?
• Vertragliche Bedingungen: Sind Auftragsverarbeitung, Speicherfristen und gegebenenfalls Drittlandtransfers angemessen geregelt
• Integration: Kann das Werkzeug sicher in bestehende Arbeitsprozesse eingebunden werden?
• Wirtschaftlichkeit: Welche Kosten entstehen bei der erwarteten Nutzung?

Die Einführung sollte mit klar abgegrenzten Anwendungsfällen beginnen. Ein Unternehmen könnte zunächst Textentwürfe, interne Wissensaufbereitung oder die Unterstützung bei unkritischen Programmieraufgaben erlauben. Anwendungen mit personenbezogenen Daten, vertraulichen Entwicklungsinformationen oder weitreichenden automatisierten Entscheidungen benötigen dagegen eine gesonderte Bewertung.

Ein weiterer Punkt ist die Benutzerfreundlichkeit. Wenn die sichere Lösung umständlich, langsam oder funktional deutlich schlechter ist als die frei verfügbare Alternative, werden Beschäftigte weiterhin nach Ausweichmöglichkeiten suchen. Gute Governance muss daher auch die Qualität des angebotenen Werkzeugs berücksichtigen.

Maßnahme drei: Schatten-KI in einen Positivprozess überführen

Viele Unternehmen behandeln neue Technologien nach einem bekannten Muster: Eine Fachabteilung stellt einen Antrag, die IT prüft die technische Sicherheit, der Datenschutz bewertet die Datenverarbeitung, die Rechtsabteilung untersucht die Verträge und irgendwann wird entschieden. Diese Arbeitsteilung ist grundsätzlich sinnvoll. Problematisch wird sie, wenn es keinen klaren Ablauf gibt, Zuständigkeiten unklar bleiben oder Anfragen wochenlang unbearbeitet liegen.

Ein definierter Positivprozess schafft Abhilfe. Mitarbeitende sollen einen konkreten KI-Anwendungsfall unkompliziert melden können und zeitnah erfahren, ob er bereits erlaubt ist, unter welchen Bedingungen er genutzt werden darf oder welche zusätzlichen Prüfungen notwendig sind. Dabei muss nicht jede Anfrage durch sämtliche Instanzen laufen. Die Prüftiefe richtet sich nach dem tatsächlichen Risiko.

Ein einfaches Reifegrad-Assessment kann die erste Einordnung übernehmen. Es bewertet beispielsweise den Schutzbedarf der verarbeiteten Daten, die Tragweite möglicher Fehler, den Automatisierungsgrad und die betroffenen Personengruppen. Auf dieser Grundlage lässt sich entscheiden, ob ein Anwendungsfall unmittelbar freigegeben werden kann oder eine vertiefte Prüfung benötigt.

Ein praxistaugliches Modell unterscheidet drei Kategorien:

Kategorie A: Standardanwendungen mit geringem Risiko. Dazu gehören beispielsweise die sprachliche Überarbeitung unkritischer Texte oder die Erstellung allgemeiner Ideenlisten. Für diese Fälle reichen häufig eine genehmigte Anwendung und klare Nutzungsregeln aus.

Kategorie B: Anwendungen mit erhöhtem Prüfbedarf. Dazu zählen beispielsweise die Verarbeitung interner Dokumente oder die Unterstützung fachlicher Analysen. Hier müssen Datenzugriff, Vertraulichkeit, Ergebnisprüfung und die vertraglichen Bedingungen genauer betrachtet werden.

Kategorie C: Anwendungen mit hohem Risiko oder besonderen regulatorischen Anforderungen. Beispiele sind bestimmte personalbezogene Anwendungsfälle, sicherheitskritische Automatisierungen oder Systeme, die Entscheidungen mit erheblichen Auswirkungen unterstützen. Hier können vertiefte rechtliche, technische und organisatorische Prüfungen erforderlich sein.

Diese Kategorien sind ein unternehmensinternes Steuerungsmodell und keine offiziellen Risikoklassen des EU AI Act. Die regulatorische Einstufung eines KI-Systems muss gegebenenfalls gesondert erfolgen.

Der Vorteil eines solchen Prozesses liegt auf der Hand: Mitarbeitende erhalten eine echte Alternative zur heimlichen Nutzung. Gleichzeitig gewinnt das Unternehmen Transparenz über den Bedarf und kann seine KI-Strategie anhand realer Anwendungsfälle weiterentwickeln.

Maßnahme vier: Prompt-Security-Trainings etablieren

Technische Schutzmaßnahmen sind wichtig, aber sie lösen nicht jedes Problem. Ein Unternehmen kann die beste KI-Plattform bereitstellen und trotzdem gefährdet bleiben, wenn Beschäftigte vertrauliche Daten unbedacht kopieren oder generierte Ergebnisse ungeprüft übernehmen. Deshalb gehört die Befähigung der Mitarbeitenden zu jeder ernsthaften Strategie gegen Schatten-KI.

Dabei geht es nicht darum, alle Beschäftigten zu KI-Experten auszubilden. Sie sollen verstehen, welche Aufgaben sich für KI eignen, welche Risiken bei der Eingabe von Informationen entstehen und wie Ergebnisse angemessen geprüft werden. Die Schulungen müssen sich an den tatsächlichen Tätigkeiten orientieren. Ein Entwickler benötigt andere Beispiele als eine Person aus dem Personalwesen oder dem Vertrieb.

Besonders wirksam sind kurze, konkrete Lerneinheiten. Statt ausschließlich abstrakte Datenschutzregeln zu präsentieren, kann ein Training zwei Varianten derselben Anfrage gegenüberstellen: einmal mit vollständigen Kundendaten und einmal mit einem anonymisierten Beispielsachverhalt. Der Unterschied wird dadurch unmittelbar nachvollziehbar.

Ein solides Prompt-Security-Training sollte folgende Inhalte abdecken:

• Datenklassifizierung: Welche Informationen sind öffentlich, intern, vertraulich oder besonders schutzbedürftig?
• Sichere Eingaben: Wie lassen sich personenbezogene Daten, Geschäftsgeheimnisse und Zugangsdaten aus Prompts heraushalten
• Ergebnisprüfung: Wie überprüft man Fakten, Quellen, Berechnungen und Code?
• Urheberrecht und Nutzungsrechte: Welche Fragen sind bei KI-generierten Texten, Bildern und Softwareartefakten zu beachten
• Verantwortung: Wer darf Ergebnisse freigeben und wann ist eine fachliche Prüfung erforderlich?
• Vorfallmeldung: Was ist zu tun, wenn sensible Informationen versehentlich übermittelt wurden?

Die Trainings sollten regelmäßig aktualisiert werden, weil sich Werkzeuge, Funktionen und Risiken verändern. Besonders wichtig ist eine niedrigschwellige Meldemöglichkeit für versehentliche Datenübermittlungen. Wer aus Angst vor Konsequenzen einen Vorfall verschweigt, vergrößert möglicherweise den Schaden.

Ein gutes Training erzeugt deshalb nicht nur Regelkenntnis, sondern Handlungssicherheit. Mitarbeitende sollen wissen, was sie tun dürfen, was sie vermeiden müssen und an wen sie sich bei Unsicherheit wenden können.

Schatten-KI-Richtlinien: Welche Regeln Unternehmen wirklich brauchen

Eine KI-Richtlinie muss nicht hundert Seiten lang sein. Sie muss verständlich, verbindlich und im Arbeitsalltag anwendbar sein. Besonders wichtig ist die Unterscheidung zwischen allgemeinen Grundsätzen und konkreten Regeln für einzelne Werkzeuge oder Anwendungsfälle.

Eine gute Richtlinie beantwortet zunächst die grundlegenden Fragen: Welche KI-Dienste sind freigegeben? Welche Daten dürfen verarbeitet werden? Welche Anwendungen benötigen eine zusätzliche Genehmigung? Wie müssen KI-generierte Ergebnisse geprüft werden? Und was passiert, wenn ein Fehler oder eine versehentliche Datenübermittlung auftritt?

Darüber hinaus sollten Unternehmen festlegen, wer für die Pflege der Richtlinie verantwortlich ist. Eine KI-Governance-Funktion kann beispielsweise gemeinsam mit Informationssicherheit, Datenschutz, Recht und den Fachbereichen regelmäßige Überprüfungen organisieren. Die konkrete Besetzung richtet sich nach Unternehmensgröße, Risikoprofil und vorhandenen Strukturen.

Eine klare Ampellogik macht Regeln verständlich

Die meisten Mitarbeitenden wollen nicht bei jeder Anfrage erst ein juristisches Gutachten lesen. Sie benötigen eine Orientierung, die auch unter Zeitdruck funktioniert. Eine Ampellogik kann diese Aufgabe übernehmen, wenn sie sauber definiert und mit den tatsächlichen Datenklassen sowie den genehmigten Werkzeugen verknüpft wird.

Diese Tabelle ist ein vereinfachtes Beispiel und muss an die Datenklassifizierung des jeweiligen Unternehmens angepasst werden. Insbesondere bedeutet die gelbe Kategorie nicht automatisch, dass jede interne Information in eine Enterprise-KI eingegeben werden darf. Die Zulässigkeit hängt auch dort von den konkreten Daten, dem Einsatzzweck und den technischen sowie vertraglichen Schutzmaßnahmen ab.

Eine gute Richtlinie benennt außerdem die zugelassenen Werkzeuge und die jeweiligen Einsatzgrenzen. Wenn ein Dienst für allgemeine Textarbeit freigegeben ist, folgt daraus nicht automatisch eine Freigabe für Personalentscheidungen, vertrauliche Quellcodeanalysen oder die Verarbeitung von Gesundheitsdaten.

Auch der Umgang mit KI-generierten Inhalten sollte geregelt werden. Je nach Anwendungsfall können eine Kennzeichnung, eine Dokumentation der KI-Unterstützung oder eine zusätzliche Freigabe erforderlich sein. Dabei sollte das Unternehmen zwischen einer internen Arbeitshilfe und einem extern veröffentlichten Ergebnis unterscheiden.

Governance bedeutet mehr als Verbote und Kontrolle

Eine Schatten-KI-Richtlinie sollte nicht nur festlegen, was verboten ist. Sie muss auch erklären, wie Mitarbeitende neue Anwendungen beantragen, bestehende Freigaben einsehen und bei Unsicherheiten Unterstützung erhalten können. Sonst entsteht ein Regelwerk, das zwar auf dem Papier vollständig aussieht, im Alltag aber umgangen wird.

Genauso wichtig ist die Verhältnismäßigkeit. Ein unkritischer Textentwurf sollte nicht denselben Prüfaufwand auslösen wie eine Anwendung, die personenbezogene Daten verarbeitet oder sicherheitsrelevante Entscheidungen beeinflusst. Wenn alle Fälle gleich behandelt werden, entstehen unnötige Wartezeiten und die Governance verliert ihre Glaubwürdigkeit.

Führungskräfte spielen dabei eine besondere Rolle. Wenn sie selbst KI-Anwendungen nutzen, müssen sie die gleichen Grundregeln einhalten wie ihre Teams. Eine Richtlinie, die nur für Mitarbeitende gilt, während das Management vertrauliche Unterlagen unkontrolliert in externe Werkzeuge überträgt, wird kaum Akzeptanz finden.

Sinnvoll ist deshalb ein Zusammenspiel aus verbindlichen Regeln, technischen Schutzmaßnahmen und einer offenen Lernkultur. Fehler müssen gemeldet und analysiert werden können, ohne dass jede versehentliche Fehlbedienung automatisch als absichtliches Fehlverhalten behandelt wird. Bei bewussten oder wiederholten Verstößen können selbstverständlich andere arbeitsrechtliche und organisatorische Konsequenzen relevant werden.

Das Ziel ist keine grenzenlose Freiheit. Es ist eine Organisation, in der sichere Nutzung einfacher ist als riskante Umgehung.

EU AI Act, DSGVO und Informationssicherheit: Was Führungskräfte beachten sollten

Schatten-KI ist nicht ausschließlich ein Thema der internen IT. Je nach Anwendung können verschiedene rechtliche und regulatorische Anforderungen relevant werden. Dazu gehören insbesondere die DSGVO, der Schutz von Geschäftsgeheimnissen, vertragliche Verpflichtungen sowie gegebenenfalls Vorgaben aus dem EU AI Act und branchenspezifischen Regelwerken.

Der EU AI Act unterscheidet unter anderem nach dem Risiko und der Art des Einsatzes von KI-Systemen. Nicht jede generative KI-Anwendung ist automatisch ein Hochrisiko-KI-System. Die konkrete Einordnung hängt von den gesetzlichen Kriterien und dem jeweiligen Anwendungsfall ab. Unternehmen sollten daher nicht pauschal alle KI-Werkzeuge als gleich riskant behandeln, sondern ihre Rolle, die vorgesehenen Einsatzbereiche und mögliche regulatorische Verpflichtungen prüfen.

Ein besonders wichtiger Punkt ist die KI-Kompetenz. Artikel 4 des EU AI Act enthält Anforderungen an Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten und weiterer beteiligter Personen zu ergreifen. Dabei sollen unter anderem technische Kenntnisse, Erfahrung, Ausbildung und der konkrete Nutzungskontext berücksichtigt werden. Die Regelung ist nicht mit der Verpflichtung gleichzusetzen, jedem Beschäftigten ein bestimmtes Kompetenzniveau zu garantieren.

Für Unternehmen bedeutet das: Schulungen und klare Nutzungsregeln sind nicht nur ein sinnvoller Bestandteil der Sicherheitsstrategie, sondern können auch zur Erfüllung regulatorischer Anforderungen beitragen. Welche konkreten Pflichten im Einzelfall gelten, sollte anhand des aktuellen Gesetzestextes und der jeweiligen Unternehmensrolle geprüft werden.

Auch die DSGVO bleibt relevant, wenn KI-Systeme personenbezogene Daten verarbeiten. Die Einführung eines neuen Werkzeugs sollte deshalb in die vorhandenen Datenschutz- und Informationssicherheitsprozesse eingebettet werden. Dazu gehören gegebenenfalls eine Prüfung der Rechtsgrundlage, die Bewertung der Auftragsverarbeitung, die Betrachtung internationaler Datentransfers und eine Datenschutz-Folgenabschätzung, sofern deren Voraussetzungen erfüllt sind.

Der wichtigste Grundsatz lautet: Eine KI-Richtlinie ersetzt weder eine Datenschutzprüfung noch eine Informationssicherheitsbewertung. Sie schafft den Rahmen, in dem diese Prüfungen systematisch und nachvollziehbar stattfinden können.

Wie Unternehmen den Erfolg ihrer Schatten-KI-Strategie messen

Eine Strategie ist erst dann belastbar, wenn sich ihre Wirkung nachvollziehen lässt. Die bloße Anzahl genehmigter KI-Werkzeuge sagt wenig darüber aus, ob Mitarbeitende diese sinnvoll einsetzen oder ob Risiken tatsächlich sinken. Führungskräfte benötigen deshalb Kennzahlen, die sowohl die Nutzung als auch die Sicherheit und die Produktivität abbilden.

Ein erster Indikator ist die Transparenz. Wie viele relevante KI-Anwendungsfälle sind bekannt und dokumentiert? Wie viele davon wurden bewertet? Wie lange dauert es durchschnittlich, bis eine neue Anwendung freigegeben oder abgelehnt wird? Diese Werte zeigen, ob der Governance-Prozess handlungsfähig ist oder neue Engpässe erzeugt.

Ein zweiter Schwerpunkt betrifft die Sicherheit. Unternehmen können beispielsweise erfassen, wie viele Beschäftigte eine relevante Schulung abgeschlossen haben, wie häufig unsichere Eingaben in kontrollierten Tests auftreten und ob gemeldete Vorfälle systematisch ausgewertet werden. Solche Kennzahlen sollten nicht isoliert betrachtet werden. Ein Anstieg der Meldungen kann beispielsweise bedeuten, dass die Zahl der Vorfälle steigt, aber ebenso, dass Beschäftigte offener mit Fehlern umgehen.

Drittens sollte der tatsächliche Nutzen gemessen werden. Welche Aufgaben werden schneller erledigt? Wo verbessert sich die Qualität? Welche manuellen Arbeitsschritte entfallen? Und bei welchen Anwendungen ist der Prüfaufwand so hoch, dass der erwartete Produktivitätsgewinn nicht erreicht wird?

Ein pragmatisches Kennzahlenset könnte folgendermaßen aussehen:

Die Kennzahlen sollten regelmäßig überprüft und mit qualitativen Rückmeldungen ergänzt werden. Eine hohe Nutzungsquote ist beispielsweise nicht automatisch ein Erfolg, wenn die Beschäftigten Ergebnisse ungeprüft übernehmen oder die zugrunde liegenden Prozesse ineffizient bleiben.

Ebenso wichtig ist der Blick auf unerwünschte Nebenwirkungen. Wenn ein Freigabeprozess zwar sicher, aber so langsam ist, dass Fachbereiche regelmäßig auf nicht genehmigte Lösungen ausweichen, muss das Unternehmen seine Abläufe verbessern. Gute Governance erkennt nicht nur Regelverstöße, sondern auch strukturelle Ursachen.

Fazit: Schatten-KI verschwindet nicht durch Wegsehen

Schatten-KI im Unternehmen ist weder ein vorübergehender Trend noch automatisch ein Zeichen verantwortungslosen Handelns. Sie entsteht häufig dort, wo Beschäftigte neue Möglichkeiten entdecken, ihre Arbeit effizienter zu erledigen, während offizielle Werkzeuge, Prozesse und Richtlinien noch nicht ausreichend entwickelt sind.

Die Risiken sind real. Unbedachte Eingaben können Geschäftsgeheimnisse gefährden, datenschutzrechtliche Probleme auslösen oder die Grundlage für fehlerhafte Entscheidungen schaffen. Gleichzeitig wäre es strategisch kurzsichtig, die Nutzung generativer KI ausschließlich als Sicherheitsproblem zu betrachten. Denn dieselben Werkzeuge, die heute außerhalb der offiziellen Prozesse verwendet werden, können morgen einen messbaren Beitrag zur Produktivität und Qualität leisten.

Der richtige Ansatz beginnt deshalb mit Transparenz. Unternehmen müssen verstehen, welche Werkzeuge eingesetzt werden, welche Aufgaben Beschäftigte damit lösen wollen und welche Informationen dabei verarbeitet werden. Darauf aufbauend brauchen sie sichere Enterprise-Alternativen, einen verständlichen Freigabeprozess, klare Schatten-KI-Richtlinien und regelmäßige Schulungen.

Die entscheidende Führungsaufgabe besteht darin, aus unkontrollierter Nutzung einen verantwortungsvoll gestalteten Innovationsprozess zu machen.

Dafür braucht es keine Kultur des Misstrauens. Es braucht klare Regeln, nachvollziehbare Verantwortlichkeiten und die Bereitschaft, den tatsächlichen Arbeitsalltag ernst zu nehmen. Wenn Mitarbeitende erleben, dass Sicherheit nicht automatisch zusätzliche Bürokratie bedeutet und gute Ideen nicht in endlosen Freigabeschleifen verschwinden, entsteht ein tragfähiger Rahmen für den produktiven Einsatz von KI.

Vielleicht ist das die wichtigste Erkenntnis: Schatten-KI zeigt nicht nur, wo Unternehmen Risiken haben. Sie zeigt auch, wo Menschen bereits heute nach besseren Wegen suchen, ihre Arbeit zu erledigen.

Wer diesen Impuls aufgreift und klug steuert, macht aus einem blinden Fleck einen strategischen Ansatzpunkt.

Häufig gestellte Fragen zu Schatten-KI im Unternehmen

Was versteht man unter Schatten-KI?

Schatten-KI bezeichnet die Nutzung von KI-Anwendungen außerhalb der vorgesehenen oder genehmigten betrieblichen Prozesse. Beispiele sind private ChatGPT-Accounts, nicht freigegebene Bildgeneratoren oder externe Programmierassistenten. Entscheidend ist nicht allein, ob ein Werkzeug kostenlos oder kostenpflichtig ist, sondern ob seine Nutzung innerhalb der betrieblichen Governance stattfindet.

Welche Risiken hat die Nutzung von ChatGPT im Unternehmen?

Die Risiken hängen vom konkreten Einsatz und den verwendeten Einstellungen ab. Besonders relevant sind die mögliche Offenlegung vertraulicher Informationen, die unzulässige Verarbeitung personenbezogener Daten, fehlerhafte KI-Ergebnisse und ungeklärte Nutzungsrechte. Unternehmen sollten deshalb sowohl den jeweiligen Anbieter als auch die Datenarten und den Anwendungsfall prüfen.

Ist Schatten-KI grundsätzlich verboten?

Nein. Der Begriff beschreibt zunächst eine Nutzung außerhalb genehmigter oder vorgesehener Prozesse. Ob eine konkrete Nutzung rechtlich oder arbeitsvertraglich unzulässig ist, hängt von den geltenden Regeln, den Umständen und den verarbeiteten Daten ab. Unternehmen können durch verbindliche Richtlinien festlegen, welche Anwendungen erlaubt sind und unter welchen Bedingungen sie eingesetzt werden dürfen.

Wie können Unternehmen Schatten-KI verhindern?

Ein vollständiges Verhindern ist in der Praxis schwierig. Erfolgversprechender ist es, Risiken durch sichere Alternativen, verständliche Richtlinien, einen unkomplizierten Freigabeprozess und regelmäßige Schulungen zu reduzieren. Eine anonyme Bedarfsanalyse hilft dabei, die Gründe für die Nutzung nicht genehmigter Werkzeuge zu verstehen und gezielt zu beheben.

Dürfen Mitarbeitende vertrauliche Daten in ChatGPT eingeben?

Das lässt sich nicht pauschal beantworten. Maßgeblich sind unter anderem die verwendete Produktvariante, die geltenden Vertragsbedingungen, die technischen Einstellungen, die Art der Daten und die internen Richtlinien. Vertrauliche Informationen sollten nur dann verarbeitet werden, wenn der konkrete Einsatz ausdrücklich freigegeben und angemessen abgesichert ist.

Welche Rolle spielt der EU AI Act bei Schatten-KI?

Der EU AI Act enthält Anforderungen an bestimmte KI-Anwendungen und an die KI-Kompetenz beteiligter Personen. Artikel 4 sieht Maßnahmen zur Förderung dieser Kompetenz vor. Welche weiteren Pflichten gelten, hängt unter anderem von der Rolle des Unternehmens und dem jeweiligen Anwendungsfall ab. Schatten-KI sollte deshalb in die bestehende KI-Governance eingebunden werden.

Wie geht es in eurem Unternehmen weiter?

Wie geht ihr mit Schatten-KI um? Habt ihr bereits sichere Alternativen bereitgestellt, klare Richtlinien etabliert und eure Mitarbeitenden in die Entwicklung der KI-Governance einbezogen? Oder wisst ihr noch gar nicht genau, welche Werkzeuge in eurem Unternehmen tatsächlich zum Einsatz kommen?

Mich interessiert besonders: Ist Schatten-KI aus eurer Sicht vor allem ein Sicherheitsproblem, oder zunächst ein Hinweis darauf, dass Unternehmen ihren Mitarbeitenden bessere Werkzeuge und schnellere Prozesse anbieten müssen?

Teilt eure Erfahrungen und Perspektiven in den Kommentaren. Gerade bei diesem Thema lohnt sich der Blick über die Grenzen der eigenen IT-Organisation hinaus.