KI im Unternehmen einführen: Fahrplan in 6 Schritten

SK

Redaktion SEO & KI-Suche

16. November 2026 · 13 Min. Lesezeit

KI im Unternehmen einführen: leuchtender KI-Chip auf einer Platine

Wer KI im Unternehmen einführen will, braucht mehr als ein Chatbot-Abo für alle. Erfolgreiche Projekte starten mit einem klaren Problem, einem kleinen Pilot und sauberen Regeln für Daten, Recht und Mitbestimmung. Dieser Fahrplan zeigt dir in sechs Schritten, wie du vom ersten Use Case zur Skalierung kommst und welche Pflichten aus EU AI Act, DSGVO und Betriebsverfassungsgesetz du dabei im Blick behalten musst.

Warum du KI im Unternehmen einführen solltest: der Stand 2026

Die Frage, ob Unternehmen KI nutzen, ist weitgehend beantwortet. Laut einer repräsentativen Umfrage von Bitkom Research unter 603 Unternehmen ab 20 Beschäftigten (veröffentlicht im September 2026) setzen inzwischen 57 Prozent künstliche Intelligenz ein. Ein Jahr zuvor waren es 36 Prozent, zwei Jahre zuvor 20 Prozent. Nur noch 4 Prozent sagen, KI sei bei ihnen kein Thema.

Die amtliche Statistik zeigt den gleichen Trend auf niedrigerem Niveau, weil sie auch kleinere Betriebe erfasst. Das Statistische Bundesamt meldete für 2024, dass 20 Prozent der Unternehmen ab zehn Beschäftigten KI nutzen, nach 12 Prozent im Jahr 2023. Bei Großunternehmen lag der Anteil bei 48 Prozent, bei kleinen Firmen bei 17 Prozent.

Spannender als die Verbreitung sind die Hürden. In der Bitkom-Studie 2026 nennen Unternehmen, die noch keine KI einsetzen, vor allem diese Gründe:

  • fehlendes technisches Know-how (85 Prozent)
  • rechtliche Unsicherheit (66 Prozent)
  • schwer kalkulierbare Kosten (63 Prozent)
  • fehlendes Personal (51 Prozent)

Unter den KI-Nutzern stehen Datenschutzanforderungen (66 Prozent) und rechtliche Unsicherheit (56 Prozent) ganz oben. Genau diese Punkte adressiert ein strukturierter Fahrplan. Wer KI im Unternehmen einführen möchte, scheitert selten an der Technik, sondern an fehlender Klarheit über Ziele, Daten und Verantwortung.

Schritt 1: Ziele und Use Cases festlegen

Wenn du KI im Unternehmen einführen willst, beginnst du beim Geschäftsproblem und erst später beim Tool. Frag dich, wo heute Zeit verloren geht, wo sich Arbeit ständig wiederholt und wo Entscheidungen auf zu wenig Information beruhen. Daraus entsteht eine Liste möglicher Use Cases.

Typische Einstiegsfelder sind Textarbeit (Entwürfe, Zusammenfassungen, Übersetzungen), Wissenssuche in internen Dokumenten, Kundenkommunikation und Datenanalyse. Wie das konkret aussieht, zeigen unsere Beiträge zu KI im Vertrieb und KI im Kundenservice.

Bewerte jeden Use Case nach drei Kriterien:

  • Nutzen: Wie viel Zeit, Geld oder Qualität gewinnst du realistisch?
  • Machbarkeit: Sind die nötigen Daten vorhanden und zugänglich?
  • Risiko: Geht es um personenbezogene Daten, Entscheidungen über Menschen oder sicherheitskritische Prozesse?

Ganz oben auf der Liste landen Anwendungen mit hohem Nutzen, guter Datenlage und geringem Risiko. Ein Assistent für interne Textentwürfe ist ein besserer erster Kandidat als ein System, das Bewerbungen vorsortiert.

Workshop-Wand mit Haftnotizen, um KI im Unternehmen einführen und Use Cases priorisieren zu können
Ein Use-Case-Workshop bringt Fachbereiche, IT und Datenschutz an einen Tisch. Foto: Unsplash

Schritt 2: Bestandsaufnahme von Daten, Systemen und Kompetenzen

Bevor du KI im Unternehmen einführen kannst, brauchst du ein ehrliches Bild vom Ist-Zustand. Drei Fragen helfen bei der Bestandsaufnahme.

Welche Daten hast du?

KI-Systeme sind nur so gut wie die Informationen, auf die sie zugreifen. Prüfe, wo relevante Dokumente liegen, wie aktuell sie sind und wer Zugriff hat. Verstreute Laufwerke, veraltete Wikis und unklare Berechtigungen bremsen jedes Projekt.

Welche Systeme laufen schon?

Viele Unternehmen nutzen bereits Software mit eingebauten KI-Funktionen, etwa im CRM, im Office-Paket oder im Ticketsystem. Inventarisiere diese Funktionen. Oft ist der schnellste Weg, vorhandene Lizenzen sinnvoll zu nutzen, statt neue Werkzeuge einzukaufen.

Wer nutzt KI bereits inoffiziell?

Mitarbeitende greifen häufig auf private Accounts frei verfügbarer Chatbots zurück. Diese Schatten-KI ist ein Datenschutzrisiko, verrät dir aber auch, wo der Bedarf am größten ist. Eine kurze anonyme Umfrage im Team liefert hier wertvolle Hinweise.

Schritt 3: Einen Pilot sauber aufsetzen

Bevor du KI im Unternehmen einführen und breit ausrollen kannst, beantwortet ein Pilot eine einzige Frage: Bringt dieser Use Case unter realen Bedingungen den erwarteten Nutzen? Damit die Antwort belastbar ist, legst du vorher fest, was Erfolg bedeutet.

  • Klarer Umfang: ein Prozess, ein Team, ein festes Zeitfenster von etwa acht bis zwölf Wochen.
  • Ausgangswert: Miss vor dem Start, wie lange die Aufgabe heute dauert und wie hoch die Fehlerquote ist.
  • Erfolgskriterien: zum Beispiel eingesparte Minuten pro Vorgang, Qualität der Ergebnisse, Zufriedenheit der Nutzer.
  • Abbruchkriterien: Definiere, ab wann du das Projekt stoppst.

Wähle für den Pilot ein Team, das motiviert ist und den Prozess gut kennt. Diese Menschen werden später zu Multiplikatoren. Dokumentiere Erfahrungen laufend, auch Fehlschläge. Ein Pilot, der zeigt, dass ein Use Case nicht funktioniert, spart dir eine teure Fehlinvestition.

Schritt 4: Tools und Anbieter auswählen

Erst jetzt wählst du die Technik. Viele, die KI im Unternehmen einführen, drehen diese Reihenfolge um und kaufen Lizenzen zu früh. Grundsätzlich hast du drei Optionen:

  • KI-Funktionen in bestehender Software: schnell verfügbar, wenig Integrationsaufwand, aber begrenzt anpassbar.
  • Allgemeine KI-Assistenten als Business-Version: flexibel für viele Aufgaben, wichtig sind hier Vertragsbedingungen zu Datenverarbeitung und Training.
  • Eigene Lösungen auf Basis von Sprachmodellen: etwa ein Assistent, der auf interne Dokumente zugreift. Das bietet die meiste Kontrolle, verlangt aber Entwicklungs- und Betriebskompetenz.

Prüfe bei jedem Anbieter, wo die Daten verarbeitet werden, ob Eingaben zum Training genutzt werden, welche Löschfristen gelten und ob ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO angeboten wird. Achte außerdem auf Schnittstellen, Rollen- und Rechtekonzepte sowie auf die Möglichkeit, Nutzung und Kosten zentral auszuwerten.

Preise für KI-Lizenzen ändern sich häufig und hängen von Nutzerzahl und Vertragsmodell ab. Hole deshalb aktuelle Angebote ein, statt mit Listenpreisen aus Artikeln zu planen.

Schritt 5: Mitarbeitende schulen und KI-Kompetenz aufbauen

Wer KI im Unternehmen einführen will, muss vor allem Menschen mitnehmen, denn Technik allein verändert keine Arbeitsweise. Die Bitkom-Studie 2026 zeigt, dass 70 Prozent der Unternehmen ihre Beschäftigten zu KI schulen. Gleichzeitig schätzen 66 Prozent die KI-Kompetenz ihrer Belegschaft als gering ein. Die Lücke ist also groß.

Gute Schulungen sind rollenbezogen. Sachbearbeitung braucht andere Inhalte als Führungskräfte oder die IT. Diese Bausteine gehören fast immer dazu:

  • Grundlagen: Was können Sprachmodelle, wo halluzinieren sie?
  • Praxis: gute Prompts, Ergebnisse prüfen, Quellen gegenchecken
  • Regeln: Welche Daten dürfen in welches Tool?
  • Verantwortung: Der Mensch bleibt für das Ergebnis zuständig.

Ergänze Schulungen um feste Ansprechpersonen und einen internen Austausch, etwa in einem Kanal für Tipps und Beispiele. Wer Texte mit KI erstellt, findet in unserem Leitfaden zur KI-Content-Optimierung weitere Ansätze für die Qualitätssicherung.

Team im Büro bei einer Schulung, um KI im Unternehmen einführen und KI-Kompetenz aufbauen zu können
Rollenbezogene Schulungen machen aus Pilotnutzern Multiplikatoren. Foto: Unsplash

Schritt 6: Skalieren und dauerhaft verankern

Hat der Pilot überzeugt, rollst du den Use Case schrittweise auf weitere Teams aus. Skalierung heißt dabei mehr als neue Lizenzen. Du brauchst Verantwortliche für Betrieb und Weiterentwicklung, ein Budget und regelmäßige Auswertungen. Wer KI im Unternehmen einführen und dauerhaft verankern möchte, plant diese Rollen von Anfang an ein.

Bewährt hat sich ein kleines KI-Kernteam mit Vertretern aus Fachbereichen, IT, Datenschutz und gegebenenfalls Betriebsrat. Es priorisiert neue Use Cases, pflegt die KI-Richtlinie und hält ein Verzeichnis aller eingesetzten Systeme. Dieses Verzeichnis brauchst du ohnehin, um deine Pflichten aus dem EU AI Act nachweisen zu können.

Plane außerdem den Umgang mit KI-Agenten. Laut Bitkom nutzen 11 Prozent der Unternehmen, die sich mit KI befassen, bereits solche Agenten, weitere 29 Prozent planen den Einsatz. Agenten handeln eigenständiger als Chatbots, deshalb brauchen sie klar begrenzte Rechte und Freigabeschritte.

EU AI Act: Welche Pflichten gelten, wenn du KI im Unternehmen einführen willst?

Die europäische KI-Verordnung (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und gilt gestaffelt. Mit dem Digital Omnibus on AI, der Verordnung (EU) 2026/1744, hat die EU im Juli 2026 mehrere Fristen verschoben und Regeln angepasst. Die Änderungsverordnung wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli 2026 in Kraft. Den Text findest du auf EUR-Lex.

Für die meisten Firmen, die KI im Unternehmen einführen und als Betreiber nutzen, ist dieser Stand wichtig (Oktober 2026):

  • Seit 2. Februar 2025: Verbote bestimmter KI-Praktiken (Art. 5) und die Pflicht zur KI-Kompetenz (Art. 4).
  • Seit 2. August 2025: Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, etwa große Sprachmodelle.
  • Seit 2. August 2026: große Teile der Transparenzpflichten nach Art. 50. Für generative Systeme, die vor diesem Datum auf den Markt kamen, gilt die Kennzeichnung synthetischer Inhalte durch die Anbieter ab 2. Dezember 2026.
  • 2. Dezember 2027: Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III, zum Beispiel KI in Personalauswahl oder Kreditwürdigkeitsprüfung (ursprünglich 2. August 2026).
  • 2. August 2028: Hochrisiko-KI in regulierten Produkten nach Anhang I, etwa Medizinprodukte oder Maschinen.

KI-Kompetenz nach Art. 4

Der Digital Omnibus hat Art. 4 neu gefasst. Anbieter und Betreiber müssen weiterhin Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag mit KI-Systemen arbeiten. Ein bestimmtes Kompetenzniveau jeder einzelnen Person müssen sie laut Neufassung nicht garantieren. Kommission und Mitgliedstaaten sollen die Unternehmen dabei unterstützen, besonders kleine und mittlere.

Für die Praxis heißt das: Schulungen, Leitfäden und Ansprechpersonen bleiben Pflichtprogramm. Dokumentiere, wer wann welche Schulung erhalten hat. Die Übersicht der EU-Kommission zum Rechtsrahmen für KI ist ein guter Startpunkt, um Aktualisierungen zu verfolgen.

Risikoklasse jedes Systems prüfen

Wer KI im Unternehmen einführen will, ordnet jedes geplante System einer Risikoklasse zu. Ein Schreibassistent fällt in der Regel nicht unter die Hochrisiko-Regeln. Ein Tool, das Bewerbungen bewertet oder Beschäftigte beurteilt, kann dagegen ein Hochrisiko-System sein. Dann gelten ab Dezember 2027 zusätzliche Betreiberpflichten wie menschliche Aufsicht, Protokollierung und Information der Betroffenen. Hol dir bei Unsicherheit juristischen Rat.

Datenschutz und DSGVO

Datenschutz ist für viele, die KI im Unternehmen einführen, die größte Hürde, wie die Bitkom-Zahlen zeigen. Sobald personenbezogene Daten in ein KI-System fließen, gilt die DSGVO. Diese Punkte solltest du vor dem Start klären:

  • Rechtsgrundlage: Auf welcher Grundlage nach Art. 6 DSGVO verarbeitest du die Daten?
  • Auftragsverarbeitung: Mit externen Anbietern brauchst du in der Regel einen Vertrag nach Art. 28 DSGVO.
  • Drittlandtransfer: Prüfe, ob Daten außerhalb der EU verarbeitet werden und auf welcher Grundlage.
  • Datenschutz-Folgenabschätzung: Bei hohem Risiko für Betroffene ist sie nach Art. 35 DSGVO Pflicht.
  • Automatisierte Entscheidungen: Art. 22 DSGVO setzt enge Grenzen, wenn eine KI allein über Menschen entscheidet.

Die Datenschutzkonferenz (DSK) hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die bei der Auswahl und Nutzung von KI-Anwendungen hilft. Binde deine Datenschutzbeauftragte oder deinen Datenschutzbeauftragten früh ein, idealerweise schon bei der Use-Case-Bewertung.

Betriebsrat: Mitbestimmung nach BetrVG

Gibt es in deinem Betrieb einen Betriebsrat, musst du ihn rechtzeitig beteiligen, wenn du KI im Unternehmen einführen willst. Mehrere Vorschriften des Betriebsverfassungsgesetzes spielen zusammen:

  • § 90 Abs. 1 Nr. 3 BetrVG: Der Arbeitgeber muss den Betriebsrat über die Planung von Arbeitsverfahren und Arbeitsabläufen „einschließlich des Einsatzes von Künstlicher Intelligenz“ rechtzeitig unterrichten.
  • § 87 Abs. 1 Nr. 6 BetrVG: Mitbestimmung bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Die Rechtsprechung legt das weit aus, es reicht, dass ein System dazu geeignet ist.
  • § 80 Abs. 3 BetrVG: Muss der Betriebsrat die Einführung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen insoweit als erforderlich.
  • § 95 Abs. 2a BetrVG: Mitbestimmung bei Auswahlrichtlinien gilt auch, wenn KI beim Erstellen dieser Richtlinien eingesetzt wird.

Das Arbeitsgericht Hamburg entschied im Januar 2024 (Az. 24 BVGa 1/24), dass die Erlaubnis, ChatGPT über private Accounts im Browser zu nutzen, kein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 auslöste, weil der Arbeitgeber keine Nutzungsdaten erhielt. Bei zentral bereitgestellten Tools mit Protokollierung sieht das anders aus. In der Praxis regelt eine Betriebsvereinbarung Zwecke, Auswertungsverbote und Schulungen, und sie schafft Vertrauen in der Belegschaft.

Die KI-Richtlinie im Unternehmen

Eine schriftliche KI-Richtlinie übersetzt Recht und Strategie in klare Alltagsregeln. Spätestens wenn du KI im Unternehmen einführen und mehreren Teams öffnen willst, brauchst du sie. Sie sollte kurz und verständlich sein, damit sie tatsächlich gelesen wird. Diese Inhalte gehören hinein:

  1. Zweck und Geltungsbereich
  2. Liste der freigegebenen Tools und der Weg zur Freigabe neuer Tools
  3. Datenklassen: Was darf in welches Tool, was nie (etwa Kundendaten in private Accounts)?
  4. Prüfpflicht: Ergebnisse vor Verwendung fachlich kontrollieren
  5. Kennzeichnung von KI-Inhalten, wo nötig oder sinnvoll
  6. Urheberrecht und Vertraulichkeit
  7. Schulungspflichten und Ansprechpersonen
  8. Meldeweg für Fehler und Vorfälle

Überprüfe die Richtlinie mindestens jährlich. Neue Tools, Gesetzesänderungen wie der Digital Omnibus und Erfahrungen aus dem Betrieb machen regelmäßige Updates nötig.

Kosten und ROI messen

Die Kosten, wenn du KI im Unternehmen einführen willst, bestehen aus mehr als Lizenzgebühren. Rechne mit diesen Posten:

  • Lizenzen oder Nutzungsgebühren (pro Nutzer oder nach Verbrauch)
  • Integration und Entwicklung, etwa Anbindung an interne Systeme
  • Schulungen und interne Arbeitszeit für Pilot und Rollout
  • Rechtliche Prüfung, Datenschutz-Folgenabschätzung, Betriebsvereinbarung
  • Laufender Betrieb: Support, Monitoring, Pflege der Datenbasis

Für die ROI-Messung brauchst du den Ausgangswert aus dem Pilot. Vergleiche danach Bearbeitungszeit, Durchlaufzeit, Fehlerquote, Kundenzufriedenheit oder Umsatz pro Vorgang. Rechne eingesparte Stunden ehrlich: Gewonnene Zeit zählt nur, wenn sie in wertvolle Arbeit fließt. Welche Kennzahlen sich für Dashboards eignen, beschreibt unser Beitrag zu Marketing-KPIs.

Eine einfache Formel hilft beim Einstieg: ROI = (messbarer Nutzen minus Gesamtkosten) geteilt durch Gesamtkosten. Erfasse zusätzlich qualitative Effekte wie Zufriedenheit der Mitarbeitenden, denn sie entscheiden über die langfristige Akzeptanz.

Präsentation von Kennzahlen im Meeting, nachdem Teams KI im Unternehmen einführen und den ROI messen
Messbare Ausgangswerte machen den Nutzen von KI-Projekten sichtbar. Foto: Unsplash

Typische Fehler, wenn Teams KI im Unternehmen einführen

  • Tool zuerst: Lizenzen kaufen, ohne Use Cases zu kennen.
  • Kein Ausgangswert: Ohne Vorher-Messung lässt sich kein Nutzen belegen.
  • Schatten-KI ignorieren: Verbote ohne Alternative treiben die Nutzung in private Accounts.
  • Betriebsrat zu spät einbinden: Das kostet Zeit und Vertrauen.
  • Schulung als Pflichttermin: Einmalige Präsentationen verändern keine Arbeitsweise.

Fazit

Wer KI im Unternehmen einführen will, gewinnt mit Struktur. Klare Use Cases, eine ehrliche Bestandsaufnahme und ein messbarer Pilot schaffen die Basis. Die richtige Technik, rollenbezogene Schulungen und eine schrittweise Skalierung machen aus Experimenten produktive Werkzeuge.

Recht und Mitbestimmung gehören fest in den Fahrplan. Der EU AI Act verlangt seit Februar 2025 KI-Kompetenz, die Hochrisiko-Pflichten folgen nach dem Digital Omnibus ab Dezember 2027. DSGVO, Betriebsrat und eine gelebte KI-Richtlinie sorgen dafür, dass deine Belegschaft den Wandel mitträgt. Starte klein, miss konsequent und skaliere, was nachweislich funktioniert. So kannst du KI im Unternehmen einführen, ohne dich in Einzelprojekten zu verzetteln.

Häufige Fragen zu KI im Unternehmen einführen

Wie lange dauert es, wenn du KI im Unternehmen einführen willst?

Ein erster Pilot lässt sich in etwa acht bis zwölf Wochen durchführen. Bis KI in mehreren Bereichen fest verankert ist, vergehen meist mehrere Monate, abhängig von Datenlage, Integration und Abstimmung mit Datenschutz und Betriebsrat.

Welche Pflichten hat ein Unternehmen nach dem EU AI Act?

Für alle, die KI im Unternehmen einführen, gelten seit 2. Februar 2025 die Verbote bestimmter KI-Praktiken und die Pflicht, Maßnahmen zur KI-Kompetenz des Personals zu ergreifen. Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach dem Digital Omnibus ab 2. Dezember 2027.

Muss der Betriebsrat bei der KI-Einführung beteiligt werden?

Ja, nach § 90 Abs. 1 Nr. 3 BetrVG muss der Arbeitgeber ihn rechtzeitig über den geplanten Einsatz von KI unterrichten. Kann ein System Verhalten oder Leistung der Beschäftigten überwachen, besteht zusätzlich ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG.

Was gehört in eine KI-Richtlinie?

Eine KI-Richtlinie regelt freigegebene Tools, erlaubte Datenarten, die Prüfpflicht für Ergebnisse, Kennzeichnung, Urheberrecht, Schulungen und einen Meldeweg für Vorfälle. Sie sollte kurz sein und mindestens jährlich überarbeitet werden.

Wie misst man den ROI von KI-Projekten?

Miss vor dem Pilot einen Ausgangswert, etwa Bearbeitungszeit oder Fehlerquote, und vergleiche ihn mit den Werten nach der Einführung. Der ROI ergibt sich aus messbarem Nutzen minus Gesamtkosten, geteilt durch die Gesamtkosten.