KI im Unternehmen einführen: 6 Schritte für KMU

KI im Unternehmen einzuführen scheitert selten an der Technik. Es scheitert daran, dass niemand festlegt, wofür. Laut ifo-Umfrage vom Mai 2026 nutzen 54,5 % der Unternehmen in Deutschland KI in ihren Geschäftsprozessen, bei kleinen Unternehmen sind es 51,2 % (ifo Institut). In vielen kleinen Betrieben heißt „nutzen“ allerdings: Einzelne tippen Kundenanfragen in ihr privates Chat-Konto, ohne Regeln und ohne dass jemand weiß, was es bringt. Diese Anleitung zeigt dir, wie du daraus in sechs Schritten einen geordneten Einsatz machst.

Warum KI-Projekte in KMU oft versanden

Drei Muster sind typisch:

Tool vor Problem: Es wird eine Lizenz gekauft, bevor klar ist, welche Aufgabe besser werden soll. Nach drei Wochen nutzt sie kaum noch jemand.
Keine Regeln: Ohne Vorgaben trauen sich die Vorsichtigen nicht, und die Mutigen kopieren Kundendaten in Gratis-Tools.
Kein Vorher-Wert: Wer nicht weiß, wie lange eine Aufgabe vorher gedauert hat, kann nach dem Test nicht sagen, ob es sich gelohnt hat.

KI im Unternehmen einführen: In 6 Schritten

Anwendungsfälle finden, die sich lohnen

Fang nicht beim Tool an, sondern bei der Arbeit. Lass jede Person eine Woche lang notieren, welche Aufgaben sie wiederholt erledigt und wie lange sie dauern. Gute Kandidaten für KI haben drei Merkmale: Sie kommen oft vor, sie bestehen aus Text oder Tabellen, und ein Mensch kann das Ergebnis schnell prüfen.

Aufgabe	Häufigkeit	Eignung für KI
Antworten auf Standard-Anfragen entwerfen	täglich	hoch
Besprechungsnotizen zusammenfassen	mehrmals pro Woche	hoch
Händler oder Lieferanten recherchieren	wöchentlich	hoch, mit Quellenangabe
Lieferscheine auslesen und ablegen	täglich	hoch, als Automatisierung
Verträge rechtlich bewerten	selten	gering, Fehler sind teuer

Ein Beispiel aus einem meiner Kundenprojekte: Eine Händler-Recherche dauerte vorher rund 30 Minuten. Mit einem KI-Ablauf, der einen Bericht samt Quellen liefert, sind es etwa 2 Minuten. Aufgaben mit so viel Wiederholung gehören an den Anfang deiner Liste.

Die Bewertung kann dir die KI vorbereiten. Gib dabei nur die Aufgaben ein, keine Kundendaten:

Ich leite ein Unternehmen mit 12 Mitarbeitern (Großhandel für Gastronomiebedarf).
Hier sind unsere wiederkehrenden Büroaufgaben mit geschätztem Zeitaufwand pro Woche:
[Liste]
Bewerte jede Aufgabe: Wie gut eignet sie sich für KI-Unterstützung?
Welche Daten wären betroffen? Was passiert, wenn die KI einen Fehler macht?
Gib mir eine Tabelle und empfiehl drei Aufgaben für einen ersten Test.

Das passende Tool wählen

Für den Start reicht fast immer ein KI-Assistent im Business-Tarif. Welcher passt, hängt vor allem davon ab, womit ihr schon arbeitet:

Ausgangslage	Naheliegende Wahl
Ihr arbeitet mit Microsoft 365 (Outlook, Teams, Excel)	Microsoft 365 Copilot
Ihr arbeitet mit Google Workspace	Gemini in Google Workspace
Viel Text, lange Dokumente, eigene kleine Werkzeuge	Claude Team oder ChatGPT Business

Entscheidend ist der Tarif, nicht nur der Anbieter. Business-Tarife laufen unter gewerblichen Bedingungen: Eure Eingaben werden standardmäßig nicht zum Training der Modelle verwendet, es gibt einen Auftragsverarbeitungsvertrag und eine zentrale Verwaltung der Zugänge. Die Preise liegen je nach Anbieter bei rund 20 bis 35 € pro Person und Monat. Claude Team kostet zum Beispiel 20 $ pro Platz und Monat bei jährlicher Zahlung, 25 $ bei monatlicher, jeweils zuzüglich Mehrwertsteuer (Anthropic, Stand: Oktober 2026). Private Gratis-Konten sind für Firmendaten tabu. Was das bei Anthropic konkret heißt, steht im Ratgeber Ist Claude DSGVO-konform?.

Datenschutz klären und eine KI-Richtlinie schreiben

Bevor echte Daten ins Tool gehen, brauchst du drei Dinge.

Auftragsverarbeitungsvertrag: Verarbeitet der Anbieter personenbezogene Daten in deinem Auftrag, verlangt Art. 28 DSGVO einen solchen Vertrag (EUR-Lex). Die großen Anbieter sehen ihn in ihren Business-Tarifen vor. Lade ihn herunter und leg ihn zu deinen Unterlagen.

Eine klare Datenregel: Am verständlichsten ist eine Ampel. Grün: öffentliche Informationen und eigene Texte ohne Personenbezug, in jedem freigegebenen Tool. Gelb: interne Unterlagen und Kundendaten, nur im Business-Tool. Rot: Gesundheitsdaten, Personalakten, Passwörter, gar nicht.

Eine kurze KI-Richtlinie: Ein bis zwei Seiten reichen. Welche Tools sind erlaubt, welche Daten dürfen hinein, wer prüft Ergebnisse vor der Weitergabe, wer ist Ansprechpartner? Was genau hineingehört, steht im Ratgeber KI-Richtlinie für Unternehmen.

Gibt es einen Betriebsrat, binde ihn früh ein. Der Arbeitgeber muss ihn über die Planung von Arbeitsverfahren „einschließlich des Einsatzes von Künstlicher Intelligenz“ rechtzeitig unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG). Kann das Tool Verhalten oder Leistung der Beschäftigten auswerten, etwa über Nutzungsprotokolle, kommt in der Regel ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG dazu.

Einen Pilot mit kleinem Team starten

Starte mit drei bis fünf Personen, zwei bis drei Anwendungsfällen und einem festen Zeitraum von vier bis sechs Wochen. Nimm Leute, die Lust darauf haben, und mindestens eine skeptische Person. Skeptiker finden die Schwachstellen.

Vor dem Start hältst du den Ausgangswert fest: Wie lange dauert ein Angebotstext heute? Wie viele Anfragen bleiben länger als einen Tag liegen? Während des Pilots trefft ihr euch einmal pro Woche für 15 Minuten: Was hat funktioniert, was nicht, welcher Prompt war gut? Die guten Prompts landen in einer gemeinsamen Sammlung, zum Beispiel dieser:

Formuliere eine Antwort auf diese Kundenanfrage.
Ton: freundlich und sachlich. Anrede so, wie der Kunde schreibt (du oder Sie).
Nutze nur Informationen aus der Anfrage und aus unserer Preisliste unten.
Wenn etwas fehlt, vermute nichts, sondern formuliere eine Rückfrage.
[Anfrage]
[Preisliste]

Die Leute befähigen

Ein Tool, das niemand sicher bedienen kann, bleibt ungenutzt. Dazu kommt eine gesetzliche Pflicht: Nach Art. 4 der KI-Verordnung (EU) 2024/1689 müssen Unternehmen, die KI-Systeme einsetzen, Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Seit dem 27. Juli 2026 gilt dafür die abgeschwächte Fassung aus dem „Digital Omnibus“ (Verordnung (EU) 2026/1744): Ein bestimmtes Kompetenzniveau musst du nicht garantieren (EUR-Lex). Halte trotzdem fest, was du tust: wer wann wozu geschult wurde und welche Richtlinie gilt. Damit kannst du im Zweifel belegen, dass du Maßnahmen ergriffen hast. Mehr dazu im Ratgeber zur KI-Schulungspflicht.

Wirksam wird Schulung, wenn sie an den echten Aufgaben aus dem Pilot ansetzt. Eine Stunde, in der jemand seinen eigenen Angebotstext mit KI überarbeitet, bringt mehr als ein Tag Folien über Prompt-Formeln. Drei Inhalte gehören immer dazu: was die KI gut kann, wo sie Fehler macht (erfundene Fakten, veraltete Informationen) und welche Daten tabu sind.

Ergebnisse messen und entscheiden

Am Ende des Pilots vergleichst du mit dem Ausgangswert. Sinnvolle Kennzahlen sind Zeit pro Vorgang, Durchlaufzeit, Fehlerquote und die Einschätzung des Teams. Ein Rechenbeispiel: Spart ihr pro Angebotstext 20 Minuten und schreibt 15 Angebote pro Woche, sind das 5 Stunden pro Woche. Dem stehen bei fünf Lizenzen rund 100 bis 175 € im Monat gegenüber.

Dann entscheidest du pro Anwendungsfall: ausrollen, anpassen oder stoppen. Ein gestoppter Anwendungsfall ist kein Scheitern, sondern ein Ergebnis.

Wann sich Automatisierung statt Chat lohnt

Der Chat ist der Einstieg. Den größeren Hebel haben oft kleine Automatisierungen, bei denen niemand mehr kopieren und einfügen muss. Drei Beispiele aus meinen Kundenprojekten:

Excel-Automatisierung: Eine tägliche Aufgabe, die vorher Handarbeit war, läuft jetzt per Doppelklick.
Dokumentenablage: Lieferscheine werden gescannt, automatisch ausgelesen, benannt und abgelegt.
Etiketten-Verwaltung: Die KI-Lösung arbeitet mit 98 % Genauigkeit. Das heißt umgekehrt: Für die übrigen Fälle braucht es eine Prüfung durch einen Menschen.

Solche Lösungen setzen voraus, dass der Ablauf im Pilot verstanden ist. Wie du Büroabläufe Schritt für Schritt automatisierst, steht im Ratgeber Büroarbeit mit KI automatisieren.

Die häufigsten Fehler bei der KI-Einführung

Alle auf einmal: Eine Lizenz für alle ohne klare Anwendungsfälle erzeugt Neugier in Woche eins und Stillstand in Woche vier.
Verbot statt Regel: Ein generelles KI-Verbot verhindert die Nutzung nicht. Es verlagert sie auf private Handys, wo du keine Kontrolle mehr hast.
Ergebnisse ungeprüft weitergeben: KI-Texte klingen überzeugend, auch wenn sie falsch sind. Zahlen, Preise und rechtliche Aussagen prüft immer ein Mensch.
Niemand ist zuständig: Jemand muss die Prompt-Sammlung pflegen, Fragen beantworten und neue Ideen sammeln. Plane dafür ein bis zwei Stunden pro Woche ein.

Wie lange dauert die Einführung?

Mit zwei Wochen Vorbereitung und sechs Wochen Pilot bist du nach rund zwei Monaten an dem Punkt, an dem du mit Zahlen statt Bauchgefühl entscheidest. Der Aufwand dafür ist überschaubar, wenn du klein anfängst und erst ausweitest, was sich bewährt hat. Wer das Team dabei gemeinsam anlernen will, kann den Einstieg auch als begleitete Sitzung in kleiner Gruppe machen.

Bau es mit mir

An deinem Projekt, in deinem Tempo. 375 € pro Person und Stunde, stundenweise abgerechnet.

15 Minuten kennenlernen

Häufige Fragen

Muss der Betriebsrat bei der Einführung von KI mitreden?

Ja. Der Arbeitgeber muss ihn über den geplanten Einsatz von KI rechtzeitig unterrichten (§ 90 BetrVG). Kann ein Tool Verhalten oder Leistung der Beschäftigten auswerten, hat der Betriebsrat in der Regel zusätzlich ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG.

Was kostet es, KI im Unternehmen einzuführen?

Die Lizenzen sind der kleinere Teil: Business-Tarife kosten rund 20 bis 35 € pro Person und Monat (Stand: Oktober 2026). Mehr Aufwand stecken in Pilot, Schulung und die Anpassung eurer Abläufe.

Muss ich meine Mitarbeiter in KI schulen?

Wer KI-Systeme im Betrieb einsetzt, muss nach Art. 4 der KI-Verordnung Maßnahmen ergreifen, um die KI-Kompetenz der Beschäftigten zu fördern. Ein bestimmter Kurs oder ein Zertifikat ist nicht vorgeschrieben.

Welche Beispiele für KI im Unternehmen gibt es?

Typisch sind Entwürfe für E-Mails und Angebote, Zusammenfassungen von Besprechungen, Recherche mit Quellen, das Auswerten von Excel-Listen und das automatische Auslesen und Ablegen von Belegen.