Braucht man für KI eine eigene IT-Abteilung?

Für die meisten KI-Anwendungsfälle im Mittelstand braucht es keine eigene IT-Abteilung und keine Programmierer. Die produktivsten Einstiege, etwa Angebotsvorbereitung, Dokumentenanalyse oder Kundenkommunikation, laufen über fertige, konfigurierbare Tools statt über Eigenentwicklung. Die eigentliche Einstiegshürde ist Wissen, nicht Technik: zu wissen, welcher Anwendungsfall sich lohnt. Genau das klärt ein KI-Audit vorab.

Der Satz, den ich am häufigsten höre

Als CIO bei DF Automotive, einem E-Commerce-Unternehmen mit gut 100 Mitarbeitenden, und seither in Gesprächen mit Dutzenden Mittelständlern höre ich einen Einwand immer wieder: "Wir haben doch gar keine IT-Abteilung, die sowas aufsetzen könnte." Der Satz klingt vernünftig. Er ist trotzdem der falsche Ausgangspunkt.

Er setzt voraus, dass KI wie ein internes Softwareprojekt funktioniert: mit Lastenheft, Entwicklungsteam, monatelanger Bauzeit. Die meisten wirksamen KI-Anwendungen im Mittelstand funktionieren anders. Sie werden konfiguriert, nicht programmiert.

Warum der Mittelstand beim Thema KI zurückhängt

Laut IfM Bonn (2025) setzen rund 25 % der kleinen und mittleren Unternehmen in Deutschland bereits KI ein. Im Baugewerbe liegt die Quote nach einer EU-Erhebung aus dem Jahr 2024 bei etwa 10 %, im übrigen Handwerk dürfte sie sich in einer ähnlichen Größenordnung bewegen. Handwerk und kleinere Betriebe hängen damit spürbar hinter dem KMU-Durchschnitt zurück.

Der Grund ist selten fehlende Technik. Es ist die Annahme, man bräuchte zuerst eine eigene IT-Mannschaft, um überhaupt anzufangen. Diese Annahme kostet Betriebe genau die Zeit, in der Wettbewerber mit derselben Ausgangslage längst erste Abläufe automatisiert haben.

Die drei Wege, wie KI heute tatsächlich in den Betrieb kommt

1. Fertige Tools mit Konfiguration. Chat-Assistenten, Dokumentenanalyse, Angebots- und Kommunikationswerkzeuge, die sich per Einstellungen an den eigenen Ablauf anpassen lassen. Kein Code, keine Entwicklungszeit im klassischen Sinn.
2. Baukasten-Plattformen. Werkzeuge, die Abläufe über klare Regeln verknüpfen, Posteingang, Dokumentenprüfung, Weiterleitung, ohne dass jemand im Team programmieren muss. Die Logik ist nachvollziehbar, nicht das Ergebnis einer Blackbox.
3. Eigenentwicklung. Nötig nur bei sehr spezifischen, wettbewerbsrelevanten Anwendungsfällen, die kein Standardwerkzeug abdeckt. Das ist üblicherweise die zweite oder dritte Ausbaustufe einer KI-Reise, nicht der Einstieg.

Die meisten Mittelständler brauchen für ihren ersten und zweiten Anwendungsfall nichts von der dritten Stufe.

Was Sie stattdessen wirklich brauchen

Nicht IT-Personal, sondern drei andere Dinge:

• Einen benannten Ansprechpartner. Jemand, der den betroffenen Ablauf im Detail kennt und Entscheidungen treffen darf, ohne bei jedem Schritt eskalieren zu müssen. Technisches KI-Wissen ist dabei kein Auswahlkriterium.
• Klarheit über den ersten Anwendungsfall. Ein konkretes, wiederkehrendes Problem mit messbarem Aufwand heute, nicht eine vage Vorstellung von "wir sollten mal KI machen".
• Bereitschaft zur Iteration. Die erste Version eines Ablaufs ist selten die letzte. Das ist normal und kein Zeichen einer falschen Tool-Wahl.

Mein Fazit: Die Frage ist nie, ob ein Betrieb groß genug für eine IT-Abteilung ist. Die Frage ist, ob jemand im Haus genau weiß, welcher Ablauf sich zuerst lohnt. Das ist eine Wissensfrage, keine Personalfrage.

Wo Sie anfangen sollten

Welches Tool infrage kommt, ist erst die zweite Frage. Die erste haben wir im Beitrag Welches KI-Tool soll ich nehmen? eingeordnet: Sie kommt nach der Anwendungsfall-Klärung, nicht davor.

Ein KI-Audit liefert genau diese Klärung: welche Abläufe in Ihrem Betrieb sich am schnellsten rechnen, mit welchem Werkzeug-Typ, ganz ohne eigene IT-Abteilung.

KI Impact Audit buchen →