KI im Unternehmen einführen: Die Schritt-für-Schritt-Anleitung

Wer KI im Unternehmen einführen will, profitiert von einer klaren Schrittfolge: Ausgangslage prüfen, Pilotprojekt wählen, Datenschutz klären, Mitarbeiter mitnehmen, dann messen und ausbauen. Diese fünf Schritte reichen, um im Mittelstand KI im Unternehmen einzuführen, ohne Planlosigkeit und teure Fehlstarts. In diesem Leitfaden finden Sie jeden Schritt mit konkreten Kriterien, eine Übersicht in drei Ausbaustufen und eine Checkliste.

Viele Einführungen scheitern nicht an der Technik, sondern an der Vorbereitung. Eine Einführung in einem kleinen Betrieb dauert selten Monate, wenn ein einzelner Prozess als Pilot gewählt und sauber gemessen wird. Das Grundprinzip lautet: erst ein konkretes Problem lösen, dann ausbauen.

Der Leitfaden beschreibt jeden Schritt mit konkreten Kriterien, dazu eine Übersicht in drei Ausbaustufen und eine Checkliste für den Praxiseinsatz. Wer die Grundbegriffe nachlesen möchte, findet in unserem Artikel KI einfach erklärt die wichtigsten Konzepte in verständlicher Sprache.

Warum KI-Einführungen meist scheitern

Einführungen scheitern selten an der Qualität der Werkzeuge, sondern fast immer an fehlender Vorbereitung und fehlender Messung. Vier Ursachen wiederholen sich dabei und lassen sich bereits in der Planung vermeiden.

Die erste Ursache ist ein fehlendes Ziel. Wer KI einführt, ohne vorher festzulegen, welches Problem gelöst werden soll, kann hinterher nicht sagen, ob die Einführung erfolgreich war. Formulieren Sie ein Ziel mit einer Zahl, zum Beispiel: Die Zeit für die Erstellung eines Angebots sinkt von durchschnittlich zwei Stunden auf unter eine Stunde.

Die zweite Ursache sind zu viele Parallelprojekte. Teams, die gleichzeitig Posteingang, Rechnungen, Angebote und Chatbot umstellen, verlieren den Überblick, Fehler lassen sich keiner Ursache zuordnen. Die dritte Ursache ist unklare Datenlage: Werden Dokumente überwiegend als Papier oder Scan verarbeitet, fehlt die digitale Grundlage. Die vierte Ursache ist eine Gruppe von Mitarbeitern, die nicht einbezogen wird und das neue Werkzeug deshalb meidet.

Dazu kommt die fünfte Ursache: Es wird nicht gemessen. Ohne vorher festgelegte Kennzahlen bleibt unklar, ob ein Werkzeug wirklich entlastet, und die Entscheidung über den nächsten Schritt wird zur Meinungssache. Dieser Leitfaden baut darauf auf: Jeder der fünf Schritte endet mit einem überprüfbaren Ergebnis, vom Suchraster über die Vorher-Messung bis zur Nutzungsquote.

Die Ursachen sind bekannt, und keine davon hängt von einer Spezialsoftware ab. Wer die fünf Schritte nacheinander durchläuft und nach jedem Schritt ein Ergebnis notiert, hat die Wahrscheinlichkeit eines Fehlstarts deutlich gesenkt. Deshalb lohnt der Planungsaufwand am Anfang, auch wenn er sich ohne erkennbaren Fortschritt anfühlt.

Schritt 1: Abläufe und Datenlage prüfen

Der erste Schritt ist eine Bestandsaufnahme, keine Technikentscheidung. Notieren Sie für die wichtigsten Abläufe, wie oft sie vorkommen, wie regelmäßig sie ablaufen und welche Eingangsdaten digital vorliegen. Dafür reicht ein Nachmittag im Team, keine teure Analyse.

Suchen Sie Vorgänge mit drei Merkmalen: Sie laufen häufig und regelmäßig ab, sie folgen einer wiederholbaren Struktur und ihre Ausgangsdaten liegen digital vor. Typische Kandidaten sind E-Mail-Sortierung, Angebotserstellung, Rechnungsprüfung und Terminkoordination. Antworten Sie außerdem auf vier Fragen:

• Wie viele Vorgänge entstehen pro Woche?
• Welcher Arbeitsschritt wiederholt sich dabei immer gleich?
• Liegen Eingangsdaten als E-Mail, digitales Dokument oder saubere Datei vor?
• Wer ist heute für den Vorgang verantwortlich und wie lange braucht er dafür?

Schauen Sie sich parallel dazu an, welche Software bereits im Einsatz ist. Viele Programme enthalten inzwischen eigene KI-Funktionen, die sich ohne neue Systeme nutzen lassen. Einen Überblick über die Wege, KI in bestehende Software zu integrieren, gibt unser Artikel KI in bestehende Software integrieren.

Für jede Kandidatenliste hilft ein Prozess-Steckbrief. Er enthält vier Zeilen: Auslöser, beteiligte Personen, wiederkehrender Arbeitsschritt und Ausgangsdaten. Ein Beispiel: Auslöser ist der Eingang einer Anfrage per Mail, beteiligt sind zwei Mitarbeiter, wiederkehrend ist die Erstellung eines Angebotsentwurfs, Ausgangsdaten sind die Anfrage und die Preisliste. Allein das Aufschreiben dieser vier Zeilen zeigt meist, wo Dokumente an mehreren Stellen liegen und wo eindeutig geregelt ist, was passieren soll.

Klären Sie außerdem, wo Ihr Firmenwissen heute gespeichert ist. Liegen Handbücher, Musterschreiben und Preislisten zentral oder in den Köpfen Einzelner? KI-Anwendungen arbeiten mit dem Wissen, das sie als Daten erreichen. Wenn relevante Inhalte in getrennten Ordnern, Mail-Postfächern und Tabellen liegen, gehört ihre Bündelung in eine Wissensdatenbank zu den ersten Vorarbeiten, bevor die eigentliche Einführung startet. Wie Sie Firmenwissen für KI aufbereiten, zeigt unser Artikel KI-Wissensdatenbank für Unternehmen.

Schritt 2: Pilotprojekt mit schnellem Nutzen wählen

Der zweite Schritt wählt genau einen Pilotprozess aus. Das Kriterium ist die Kombination aus schnellem, sichtbarem Ergebnis und geringem Risiko. Ein gelungener Pilot überzeugt das Team und liefert Zahlen für die nächste Stufe.

Geeignete Pilotprojekte sind Vorgänge, bei denen ein Fehler leicht korrigierbar ist und keine sensiblen Daten betroffen sind. Beispiele: Entwürfe für Antwortmails, Zusammenfassungen von Sitzungen, Vorschläge für Angebotstexte oder das Auslesen von Rechnungen. Konkrete Anwendungen aus sieben Abteilungen finden Sie in unserem Artikel KI im Unternehmen: Beispiele nach Abteilung.

Definieren Sie zum Pilotprojekt eine Messvorgabe vor dem Start. Notieren Sie die aktuelle Bearbeitungszeit, die Fehlerquote und die Zufriedenheit der Beteiligten, bevor das Werkzeug zum Einsatz kommt. Ohne diesen Vorher-Wert fehlt später der Vergleich.

Legen Sie zugleich fest, wann der Pilot als Erfolg gilt. Eine brauchbare Vorgabe nennt Frist und Schwelle, zum Beispiel: Nach vier Wochen soll die Zeit pro Angebot um 30 Prozent sinken, ohne dass Kundenbeschwerden zunehmen. Achten Sie darauf, dass im ersten Prozess keine Entscheidungen ohne menschliche Freigabe ablaufen. Entwürfe, Vorschläge und Sortierungen dürfen die KI liefern, die Bestätigung bleibt beim Menschen. Diese Trennung senkt das Risiko und gibt dem Team ein klares Maß an Kontrolle.

Nutzen Sie den Pilot außerdem für eine ehrliche Fehlerliste. Notieren Sie, in welchen Fällen die Anwendung falsch sortiert, unpassende Entwürfe liefert oder an Grenzen stößt. Die Liste ist keine Kritik, sondern die Grundlage für Schritt 5: Anhand der dokumentierten Fälle entscheiden Sie, ob Regeln, Datenvorbereitung oder Schulung der bessere Hebel sind.

Schritt 3: Datenschutz und Tool-Auswahl klären

Der dritte Schritt klärt zwei Fragen gleichzeitig: Welche Daten dürfen in welches Werkzeug, und welches Werkzeug passt zu Budget und Anforderungen. Beide Entscheidungen gehören zusammen, denn eine spätere Umstellung kostet mehr als eine saubere Ersteinordnung.

Starten Sie mit der Datenfrage. Trennen Sie personenbezogene, vertrauliche und unkritische Daten und legen Sie fest, welche Kategorien in Cloud-Werkzeuge dürfen. Für die Verarbeitung personenbezogener Daten durch einen Anbieter ist eine Rechtsgrundlage nötig, bei Leistungen im Auftrag ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Detaillierte Leitplanken bietet unser Artikel KI im Unternehmen und Datenschutz.

Die EU-KI-Verordnung verlangt seit Februar 2025, dass jedes Unternehmen, das KI einsetzt, den KI-Kompetenzaufbau seiner Mitarbeiter unterstützt oder fördert. Durch den Digital Omnibus von Juli 2026 ist die Regel abgeschwächt worden, ein vorgeschriebenes Format oder Zertifikat existiert nicht, eine Dokumentation wird empfohlen. Für die Tool-Auswahl heißt das: prüfen, wer im Haus die Anwendung betreut und wer geschult wird.

Kriterien für knappe Budgets

Für kleine Unternehmen zählen drei Kriterien besonders: Kostenmodell, Datenverbleib und Einführungsaufwand. Achten Sie auf Lizenzen pro Nutzer oder Nutzungsumfänge statt auf versteckte Verbrauchskosten, fragen Sie nach Serverstandorten und testen Sie das Werkzeug zwei Wochen im Pilotteam.

Richtwerte für den Monatspreis gängiger KI-Abo-Modelle liegen je nach Umfang im zweistelligen Euro-Bereich pro Nutzer (Richtwert, Stand September 2026). Konkrete Listenpreise ändern sich laufend, prüfen Sie deshalb die aktuelle Anbieterseite. Ein teureres Werkzeug lohnt sich erst, wenn die Messzahlen aus Schritt 2 einen Mehrnutzen zeigen.

Die Auswahl ist heute größer als vor zwei Jahren. Neben US-Anbietern gibt es europäische Alternativen mit EU-Hosting, etwa Mistral aus Frankreich oder Langdock aus Berlin, die sich für datensensible Vorgänge anbieten. Stellen Sie zwei Fragen: Wo liegen die Daten tatsächlich, und was passiert mit den Eingaben? Unternehmenslizenzen großer Anbieter verarbeiten Eingaben standardmäßig nicht zum Training ihrer Modelle, bei dezentralen Einstiegsversionen ist das unklar. Prüfen Sie die konkreten Bedingungen beim Anbieter, bevor Sie personenbezogene Daten verarbeiten.

Achten Sie beim Vertrag auf die Kernpunkte einer Auftragsverarbeitung nach Art. 28 DSGVO: eindeutige Weisungsbindung, verschwiegenes Personal, Unterstützung bei Betroffenenrechten und die Möglichkeit, die Daten bei Vertragsende heraus- und löschen zu lassen. Ein Anbieter, der diese Punkte nicht schriftlich bestätigt, scheidet für personenbezogene Verarbeitungen aus. Für rein interne, nicht personenbezogene Vorgänge gelten die Anforderungen entsprechend lockerer, eine klare Datenkategoriegrenze schützt trotzdem.

Datenschutz-Folgenabschätzung bei hohem Risiko

Verarbeiten Sie besonders sensible Daten wie Gesundheitsdaten oder Bewertungen von Beschäftigten, prüfen Sie, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist. Gleiches gilt, wenn ein KI-Werkzeug Leistungs- oder Verhaltenskontrolle ermöglicht. Bei solchen Vorhaben sollte früh der Datenschutzbeauftragte oder ein externer Berater einbezogen werden.

Schritt 4: Mitarbeiter mitnehmen

Der vierte Schritt beginnt am Tag der Projektankündigung, nicht am Tag der Freischaltung. Mitarbeiter nutzen eine neue Anwendung dann, wenn sie den Nutzen für sich selbst erkennen und keine Angst vor negativen Folgen haben. Nehmen Sie sich Zeit für transparente Kommunikation und Schulung.

Berichten Sie offen, was das Werkzeug kann und was nicht, und betonen Sie, dass die Bearbeitung in den verantworteten Händen bleibt. Führen Sie den Pilot mit freiwilligen Nutzern ein, die Rückmeldung geben und als Multiplikatoren im Team wirken. Der rechtliche Rahmen für KI-Kompetenz ist dabei eine Chance: Die EU-KI-Verordnung unterstützt die Schulung, sie ist also kein Anhängsel, sondern Teil der Einführung.

Drei typische Ängste und Antworten

Wie Sie die Schulung konkret aufbauen, mit Curriculum und Fördermöglichkeiten, zeigt unser Ratgeber KI-Schulung für Mitarbeiter. Die Agentur für Arbeit bezuschusst Weiterbildung über das Qualifizierungschancengesetz, was die Schulungskosten für kleine Budgets senken kann.

Planen Sie den Wissenstransfer als festen Bestandteil des Pilotprojekts. Bewährt haben sich eine kurze Einführung für alle Betroffenen, ein tieferer Workshop für die zwei bis drei Kernnutzer und ein fester Ansprechpartner für Rückfragen in den ersten Wochen. Wer die Fragen der ersten Woche sammelt und beantwortet, verhindert, dass sich Frustration festsetzt.

Existiert in Ihrem Betrieb ein Betriebsrat, beziehen Sie ihn frühzeitig ein. Nach § 87 Abs. 1 Nr. 6 BetrVG hat er ein Mitbestimmungsrecht, wenn eine technische Einrichtung zur Leistungs- oder Verhaltenskontrolle geeignet ist, und nach § 90 BetrVG ein Unterrichtungsrecht. Die Einführung von KI in Personalprozessen sollte daher nicht an ihm vorbei laufen, Details finden Sie in unserem Artikel KI und Betriebsrat.

Schritt 5: Messen, lernen, ausbauen

Der fünfte Schritt entscheidet über die Zukunft der Einführung: Nach vier bis sechs Wochen vergleichen Sie die Messwerte mit der Ausgangslage aus Schritt 2. Erst wer messen kann, weiß, ob sich der Ausbau lohnt und welcher nächste Prozess ansteht.

Beispielrechnung mit offengelegten Annahmen: Ein Team von zehn Personen bearbeitet pro Woche 300 eingehende Mails. Annahme: sechs Minuten Bearbeitungszeit pro Mail, davon zwei Minuten reine Sortier- und Lesearbeit. Eine Posteingangs-Assistenz, die Mails sortiert und Antwortentwürfe liefert, kann von diesen zwei Minuten je Vorgang einen großen Teil zurückgeben, bei voller Ausschöpfung rechnerisch rund zehn Stunden pro Woche und damit vierzig Stunden im Monat. Die Werkzeugkosten lägen nach dem oben genannten Richtwertmodell darunter. Rechnen Sie Ihre Werte selbst ein, die tatsächlichen Ergebnisse variieren je nach Vorlauf und Team.

Vergleichen Sie nach jedem Ausbauzyklus drei Kennzahlen: Bearbeitungszeit, Fehlerquote und Nutzungsquote im Team. Steigt die Nutzungsquote nicht, hilft mehr Schulung statt mehr Technik. Sinkt die Fehlerquote nicht, prüfen Sie die Datenqualität, bevor Sie das Werkzeug weiter ausrollen. Eine systematische Vorgehensweise für diesen Ausbau bietet unser Leitfaden KI-Strategie für Unternehmen.

Halten Sie die Ergebnisse schriftlich fest, damit die Einführung unabhängig von einzelnen Personen wird. Führen Sie ein kurzes Log mit Datum, betroffenem Prozess, Messwert vorher und nachher sowie der getroffenen Entscheidung. Diese Dokumentation hilft doppelt: Sie belegt gegenüber dem Team und gegebenenfalls gegenüber dem Betriebsrat einen sachlichen Ablauf, und sie verhindert, dass beim Personalwechsel Wissen verloren geht.

Wichtig ist außerdem ein klares Stopp- und Ausstiegskriterium. Wenn ein Pilot nach der vereinbarten Frist keine Verbesserung zeigt, ist das kein Gesichtsverlust, sondern ein Ergebnis: Der Prozess ist entweder zu wenig regelhaft oder die Datenlage zu schwach. Dann lautet die nächste Entscheidung: Prozess bereinigen, Werkzeug wechseln oder einen anderen Kandidaten wählen, statt weiter Zeit und Geld in eine Sackgasse zu stecken.

Rollen und Verantwortung: Wer macht was

Eine Einführung ohne klare Verantwortlichkeiten scheitert an der Tagesroutine, sobald der Pilot endet. Bestimmen Sie deshalb früh drei Rollen, die auch in einem Fünf-Personen-Betrieb besetzbar sind: ein Projektverantwortlicher, ein technischer Ansprechpartner und ein fachlicher Nutzer.

Der Projektverantwortliche trägt das Ziel, die Termine und die Messung. Das ist in kleinen Betrieben oft die Geschäftsführung selbst, denn nur sie kann Prioritäten setzen und das Rollout gegen den Tagesbetrieb durchsetzen. Der technische Ansprechpartner legt Zugänge an, pflegt Regeln und hält Kontakt zum Anbieter, er braucht keine Programmierkenntnisse, aber Verlässlichkeit. Die fachlichen Nutzer arbeiten mit dem Werkzeug und melden Fehlerfälle, sie sind die Quelle aller Verbesserungen.

Ergänzend prüfen Sie, wer für Datenschutz zuständig ist. Viele Betriebe unterhalb der Schwelle von zwanzig Beschäftigten benennen keinen eigenen Datenschutzbeauftragten, müssen die Anforderungen an Art. 28-DSGVO-Verträge und Rechtsgrundlagen aber trotzdem einhalten. Hier lohnt eine externe Unterstützung bei der Ersteinordnung, spätere Korrekturen sind teurer als die einmalige Beratung. Die laufende Betreuung der Werkzeuge kann ein externer Dienstleister übernehmen, die fachliche Verantwortung bleibt im Betrieb.

KI im Unternehmen einführen in drei Stufen

Die Einführung lässt sich an die Größe und das Budget des Betriebs anpassen. Die folgende Tabelle zeigt drei Ausbaustufen mit Richtwerten, Stand September 2026. Die Spannen sind bewusst grob, sie ersetzen kein Angebot.

Die Stufen lassen sich überspringen. Ein Betrieb, der bereits digital sauber arbeitet, startet direkt in der Standardstufe. Wichtig ist nur: Vor dem Sprung in die Vertieftstufe stehen belastbare Zahlen aus den ersten beiden Zyklen.

Die Checkliste für die Einführung

Nutzen Sie diese Checkliste für Ihr erstes Projekt. Sie folgt exakt den fünf Schritten aus diesem Leitfaden.

• Ziel formuliert mit konkreter Zahl und Frist
• Kandidatenprozesse gesammelt und nach Häufigkeit, Regelmäßigkeit und digitaler Datenlage bewertet
• Ein Pilotprozess gewählt, Vorher-Werte für Zeit und Fehlerquote notiert
• Datenkategorien festgelegt: was darf in welches Werkzeug
• Anbieter nach Datenverbleib und Kostenmodell geprüft, AVV bei Auftragsverarbeitung geklärt
• Datenschutz-Folgenabschätzung bei hohem Risiko geprüft
• Team informiert, Ängste angesprochen, freiwillige Piloten gefunden
• Schulung für die Kernnutzer terminiert und eingeplant
• Messkennzahlen nach vier bis sechs Wochen festgelegt
• Nächsten Ausbauschritt mit Ergebnissen aus Schritt 5 geplant

Wer unsicher ist, welcher Ausbaupfad zum eigenen Betrieb passt, findet im Artikel Prozesse mit KI automatisieren die passenden Kriterien, um die eigenen Vorgänge zu bewerten.