Shadow AI im Mittelstand: was Ihre Mitarbeiter mit ChatGPT tun

Fragen Sie Ihre Mitarbeiter heute, ob sie ChatGPT im Büro nutzen. Die ehrlicheren antworten mit Ja. Die anderen sagen nichts.

Was sich im Hintergrund abspielt, ist größer als die meisten Geschäftsführer ahnen. Und das Risiko ist nicht hypothetisch.

Shadow AI bezeichnet die Nutzung von KI-Tools wie ChatGPT durch Mitarbeiter ohne Freigabe oder Kenntnis der Geschäftsführung. Im Mittelstand ist sie längst Realität, mit Risiken von Datenabfluss bis zu Verstößen gegen den EU AI Act. Die wirksame Antwort ist nicht das Verbot, sondern Governance: klare Regeln, freigegebene Tools und Aufklärung. Ein KI-Audit macht sichtbar, wo Shadow AI im Betrieb bereits stattfindet.

Wie verbreitet Shadow AI wirklich ist

34 % der Beschäftigten in Deutschland nutzen KI-Tools bereits heute über private, nicht freigegebene Accounts außerhalb der geltenden Unternehmensrichtlinien (Bitkom, 2025).

Das ist kein Randphänomen. Bei einem Betrieb mit 100 Mitarbeitern und einem Büroanteil von 60 Personen sind das rein statistisch gut 20 Kolleginnen und Kollegen, die heute schon mit ChatGPT, Perplexity oder ähnlichen Tools arbeiten, ohne dass die Geschäftsführung es weiß.

Was geben sie ein? In der Praxis: Angebotstexte, Kundenkommunikation, interne Protokolle, Gesprächszusammenfassungen. Oft gut gemeint, immer mit dem gleichen blinden Fleck: Die Daten landen auf Servern außerhalb des Unternehmens, verarbeitet von Modellen, die ihre Trainingsgrundlage nicht offenlegen.

Laut dem IBM Cost of a Data Breach Report 2025 hatten bereits 20 % der Unternehmen weltweit einen Sicherheitsvorfall, der auf Schatten-KI zurückgeht, jedes fünfte Unternehmen also, mit im Schnitt 670.000 US-Dollar Mehrkosten gegenüber anderen Sicherheitsvorfällen. Die Frage ist nicht mehr, ob Shadow AI ein Thema ist. Die Frage ist, ob Sie es als Geschäftsführer steuern oder ob es Sie steuert.

Warum Verbote scheitern

Die erste Reaktion vieler Unternehmen ist ein Verbot: „ChatGPT und ähnliche Tools sind auf Unternehmensgeräten nicht erlaubt." Gut gemeint, aber wirkungslos.

Die 34 % aus der Bitkom-Erhebung zeigen: Ein gutes Drittel der Belegschaft arbeitet bereits an offiziellen Vorgaben vorbei. Der Grund ist strukturell, nicht moralisch. KI-Tools wie ChatGPT sind auf jedem Smartphone erreichbar, brauchen keine Installation und liefern schnelle Ergebnisse. Der Druck, mit weniger mehr zu leisten, ist real. Wer ein Tool findet, das Arbeit schneller macht, nutzt es, Richtlinie hin oder her.

Verbote ohne Alternativen schaffen außerdem keine Transparenz, sondern Heimlichkeit. Mitarbeiter wissen dann, dass sie etwas nicht sagen sollen, auch wenn es sinnvoll gewesen wäre. Das ist das Gegenteil von dem, was Geschäftsführer brauchen.

Die Konsequenz: Wer Shadow AI durch Verbote bekämpft, verliert zweimal. Erstens, weil die Nutzung trotzdem stattfindet. Zweitens, weil das Potenzial der Tools für das Unternehmen ungenutzt bleibt.

Was Governance konkret bedeutet

Governance heißt nicht Bürokratie. Es heißt: klare Antworten auf drei Fragen, die Ihre Mitarbeiter täglich beantworten müssen, egal ob Sie sie stellen oder nicht.

Welche Tools sind freigegeben? Benennen Sie konkret, welche KI-Plattformen Ihr Unternehmen einsetzt. Freigegebene Tools sollten EU-Hosting bieten, vertraglich regeln, dass eingegebene Daten nicht für Modelltraining genutzt werden, und DSGVO-konform betreibbar sein. Browserbasierte Gratis-Versionen ohne Vertrag fallen nicht in diese Kategorie. Das klingt nach IT-Entscheidung, ist aber in erster Linie eine Geschäftsführer-Entscheidung: Welches Risiko akzeptieren wir, und welches nicht?

Welche Daten darf ich eingeben? Legen Sie fest, welche Datenkategorien in KI-Systeme eingegeben werden dürfen. Eine Ampel-Klassifikation reicht in der Praxis: Grün für öffentliche oder allgemeine Informationen, Gelb für interne Daten ohne Personenbezug (mit kurzer Rücksprache), Rot für personenbezogene Daten, Kundendaten, NDA-geschützte Inhalte und Betriebsgeheimnisse. Die Ampel muss einmal erklärt und schriftlich festgehalten werden, dann ist sie für die meisten Mitarbeiter handhabbar.

Was passiert, wenn ich unsicher bin? Geben Sie eine konkrete Ansprechperson vor. In Betrieben ohne eigene IT-Abteilung kann das ein Teamleiter sein, der kurz geschult wurde. Entscheidend ist, dass Mitarbeiter wissen, wen sie fragen, ohne Angst vor Konsequenzen.

Diese drei Punkte auf einer A4-Seite, in der nächsten Teambesprechung erklärt und als PDF abgelegt: Das ist der Kern einer Shadow-AI-Governance für den Mittelstand. Keine Rechtsabteilung, kein mehrmonatiges Projekt.

Die EU-AI-Act-Dimension

Der EU AI Act, seit 2024 in Kraft, verlangt unter anderem, dass Unternehmen die in ihrem Betrieb genutzten KI-Systeme kennen und einordnen können. In unserem Artikel zu EU AI Act und DSGVO im Mittelstand haben wir die vier Risikoklassen und die relevanten Fristen aufgeschlüsselt.

Für Shadow AI hat das eine konkrete Konsequenz: Was nicht erfasst ist, kann nicht eingestuft werden. Wenn Mitarbeiter inoffiziell KI-Tools nutzen, fehlt die Grundlage für die Risikoklassifizierung, die der AI Act verlangt.

Das bedeutet nicht, dass Sie sofort in ein Compliance-Problem laufen. Die meisten KI-Anwendungen im Büroalltag fallen in die unterste Risikoklasse. Aber Sie können das nur wissen, wenn Sie wissen, was im Betrieb läuft. Shadow AI macht das strukturell unmöglich.

Bei Betrieben mit 50 bis 500 Mitarbeitern ist die Wahrscheinlichkeit hoch, dass KI bereits in mehreren Bereichen läuft: Vertrieb, Einkauf, HR, Buchhaltung, Kundenservice. Die meisten Geschäftsführer kennen zwei oder drei dieser Fälle. Die anderen kommen ans Licht, wenn etwas schiefgeht.

Drei konkrete Schritte für diese Woche

Erstens: Bestandsaufnahme im Team. Fragen Sie offen, welche KI-Tools im Unternehmen bereits genutzt werden, privat und beruflich. Nicht als Kontrolle, sondern als Information. Wer schon gute Erfahrungen mit einem Tool gemacht hat, weiß oft genau, wo der Hebel liegt. Diese Runde dauert eine halbe Stunde und liefert mehr Klarheit als jedes externe Audit ohne interne Vorarbeit.

Zweitens: Eine freigegebene Alternative benennen. Solange kein freigegebenes Tool existiert, haben Mitarbeiter keine Wahl außer Eigeninitiative oder Verzicht. Beides ist schlechter als ein explizit freigegebenes, vertraglich gesichertes Tool. Wenn Sie noch nichts evaluiert haben, ist das der erste Schritt, bevor Sie Regeln aufstellen.

Drittens: Die Datenkategorien-Ampel einmal erklären. Zehn Minuten in der nächsten Teambesprechung reichen, um den Unterschied zwischen „öffentliche Information" und „personenbezogene Kundendaten" zu verdeutlichen. Dieser Unterschied ist das Wichtigste, das Ihre Mitarbeiter im Umgang mit KI wissen müssen.

Wenn Sie dabei feststellen, dass die Fragen komplizierter werden als erwartet, weil Prozesse über mehrere Abteilungen laufen, Daten unklar kategorisiert sind oder das Bild der tatsächlichen Nutzung lückenhaft bleibt, dann ist das ein Zeichen, dass ein strukturierter Überblick sinnvoll wäre.

Unser KI Impact Audit (1.500 €, Ergebnisse in 48 Stunden) erfasst als ersten Schritt, welche KI-Tools im Betrieb bereits laufen, ob offiziell oder inoffiziell. Das schafft die Grundlage für Governance-Entscheidungen, AI-Act-Einordnung und die Frage, welche KI-Hebel sich für Ihr Unternehmen konkret lohnen.

Zum KI Impact Audit →