Generative KI: Definition, Beispiele und Einsatz im Unternehmen

Generative KI ist die Form künstlicher Intelligenz, die auf Basis gelernter Muster neue Inhalte wie Texte, Bilder, Code, Audio oder Videos erzeugt, statt vorhandene Daten nur zu ordnen oder auszuwerten.

Von Dragan Matijević · Stand: 13.11.2026

Kaum ein Begriff hat sich so schnell in Gesprächen mit Geschäftsführern festgesetzt wie generative KI. Fast jedes Unternehmen hat inzwischen Mitarbeitende, die mit ChatGPT, Claude oder Copilot Texte schreiben, Mails entwerfen oder Dokumente zusammenfassen lassen. Oft passiert das ohne Plan und ohne Regeln. Die Frage ist deshalb selten, ob generative KI im Unternehmen ankommt, sondern wie.

Ich bin seit 1998 im Vertrieb und berate heute als freier KI-Berater mittelständische Unternehmen. In diesem Ratgeber erkläre ich, was generative KI ist, wie sie funktioniert, worin sie sich von klassischer und agentischer KI unterscheidet, wo sie im Unternehmen hilft, wo ihre Grenzen liegen und wie ein sinnvoller Einstieg aussieht.

Was ist generative KI?

Generative KI, im Englischen Generative AI oder kurz GenAI, ist ein Teilbereich der künstlichen Intelligenz. Sie erzeugt auf eine Eingabe hin neue Inhalte, die es vorher so nicht gab.

Das Wort „generativ“ kommt vom lateinischen „generare“, erzeugen. Genau das unterscheidet diese Systeme von der KI, die viele Unternehmen schon lange nutzen, oft ohne es zu merken: Spamfilter, Empfehlungen im Onlineshop oder Prognosen in der Warenwirtschaft ordnen Daten ein oder sagen etwas voraus. Generative KI dagegen schreibt einen Text, malt ein Bild oder programmiert eine Funktion.

Dabei kopiert sie nicht einfach vorhandene Inhalte. Sie hat aus sehr vielen Beispielen gelernt, wie Sprache, Bilder oder Code aufgebaut sind, und setzt daraus etwas Neues zusammen, das zu der Eingabe passt. Diese Eingabe heißt Prompt. Sie ist meist ein Satz in normaler Sprache, etwa „Fasse dieses Protokoll in fünf Punkten zusammen“.

Bekannt wurde generative KI einer breiten Öffentlichkeit Ende 2022 mit ChatGPT. Die Technik dahinter ist älter, aber erst seitdem kann jeder sie ohne Fachwissen nutzen. Das erklärt, warum das Thema in so kurzer Zeit in den Unternehmen angekommen ist.

Wie funktioniert generative KI?

Generative KI funktioniert in zwei Phasen: Im Training lernt ein Modell aus großen Datenmengen Muster und Zusammenhänge. In der Nutzung berechnet es Schritt für Schritt, welche Fortsetzung am besten zur Eingabe passt, und erzeugt so einen neuen Inhalt.

Training: Muster aus großen Datenmengen

Am Anfang steht ein Modell, ein mathematisches System mit sehr vielen einstellbaren Werten, ein sogenanntes neuronales Netz. Es wird mit riesigen Mengen an Texten, Bildern, Code oder Tonaufnahmen trainiert. Dabei lernt es keine Fakten im Sinne eines Lexikons, sondern Wahrscheinlichkeiten: Welche Wörter folgen typischerweise aufeinander? Wie sieht ein Gesicht aus? Wie ist eine Programmfunktion aufgebaut?

Solche großen, vielseitig einsetzbaren Modelle heißen Grundmodelle oder Foundation Models. Für Sprache spricht man von großen Sprachmodellen, im Englischen Large Language Models oder kurz LLM. Die meisten heutigen Sprachmodelle beruhen auf der sogenannten Transformer-Architektur, die Zusammenhänge über lange Textpassagen hinweg erfassen kann.

Nutzung: vom Prompt zum Ergebnis

Gibst du einem Sprachmodell eine Eingabe, berechnet es, welches Wort, genauer welcher Wortbaustein, am wahrscheinlichsten als Nächstes passt. Dann das nächste, und so weiter, bis die Antwort fertig ist. Bei Bildern arbeiten viele Systeme anders: Sogenannte Diffusionsmodelle beginnen mit zufälligem Rauschen und formen daraus Schritt für Schritt ein Bild, das zur Beschreibung passt.

Daraus folgt eine wichtige Eigenschaft: Generative KI erzeugt plausible Inhalte, nicht automatisch wahre. Sie weiß nicht, ob eine Aussage stimmt. Sie weiß nur, wie eine passende Antwort typischerweise klingt. Deshalb kommen falsche, aber überzeugend formulierte Antworten vor, oft Halluzinationen genannt.

Anpassung an das eigene Unternehmen

Ein allgemeines Modell kennt weder deine Produkte noch deine Kunden. Es gibt drei übliche Wege, es näher an das eigene Unternehmen zu bringen:

• Gute Prompts: Klare Anweisungen mit Rolle, Ziel, Beispielen und gewünschtem Format verbessern die Ergebnisse oft schon deutlich.
• Eigene Daten anbinden: Das Modell bekommt bei jeder Anfrage passende Ausschnitte aus eigenen Dokumenten mitgeliefert und antwortet auf dieser Grundlage. Dieses Verfahren heißt Retrieval Augmented Generation, kurz RAG.
• Feinabstimmung: Ein Modell wird mit eigenen Beispielen nachtrainiert, um Stil oder Fachsprache besser zu treffen. Das ist aufwendiger und für die meisten Mittelständler nicht der erste Schritt.

Arten und Beispiele generativer KI

Generative KI wird meist danach unterschieden, welche Art von Inhalt sie erzeugt. Viele aktuelle Modelle können mehrere Arten verarbeiten, etwa Text und Bild zugleich. Man nennt sie multimodal.

• Text: Sprachmodelle schreiben, fassen zusammen, übersetzen und beantworten Fragen. Bekannte Anwendungen sind ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google, Microsoft Copilot und Le Chat von Mistral AI.
• Bild: Bildgeneratoren erzeugen Bilder aus einer Beschreibung oder verändern vorhandene Bilder. Beispiele sind Midjourney, DALL-E, Stable Diffusion und Adobe Firefly.
• Code: Programmierassistenten wie GitHub Copilot schlagen Code vor, erklären ihn oder finden Fehler.
• Audio und Sprache: Systeme erzeugen gesprochene Sprache aus Text, übertragen Gespräche in Text oder komponieren Musik.
• Video: Videomodelle erzeugen kurze Clips aus einer Beschreibung oder aus einem Bild.

Für Unternehmen ist Text mit Abstand die wichtigste Art. Der größte Teil der Büroarbeit besteht aus Lesen, Schreiben und Zusammenfassen, und genau dort setzen Sprachmodelle an.

Generative, klassische und agentische KI im Vergleich

Drei Begriffe werden in Gesprächen über KI oft vermischt. Klassische KI ordnet ein und sagt voraus. Generative KI erzeugt Inhalte. Agentische KI verfolgt ein Ziel über mehrere Schritte und handelt dabei selbst. Die Tabelle zeigt die Unterschiede.

Die drei schließen sich nicht aus. Agentische Systeme nutzen generative KI, um Sprache zu verstehen und zu formulieren, und oft auch klassische KI, um einzuordnen.

Wie agentische KI im Detail funktioniert und wo sie sich von generativer KI trennt, erklärt close one im Ratgeber Agentische KI. Für den Alltag reicht eine Faustregel: Generative KI antwortet, agentische KI handelt.

Generative KI im Unternehmen: Einsatzfelder

Generative KI ist kein Werkzeug für eine einzelne Abteilung. Sie hilft überall dort, wo Menschen viel lesen, schreiben, zusammenfassen oder suchen. Die Grafik zeigt die sechs Bereiche, die mir in mittelständischen Unternehmen am häufigsten begegnen.

Vertrieb

Der Vertrieb ist mein Schwerpunkt, und hier sehe ich besonders viel Routinearbeit, die sich mit generativer KI verkürzen lässt: Informationen zu einem Unternehmen vor dem Gespräch zusammentragen, Gesprächsnotizen strukturieren, einen ersten Angebotstext entwerfen oder eine Nachfassmail formulieren. Die Entscheidung, was rausgeht, bleibt beim Menschen. Die Zeit für den ersten Entwurf sinkt. Wie das im Vertrieb konkret aussieht, beschreibt close one im Ratgeber KI im Vertrieb.

Marketing

Im Marketing liefert generative KI Entwürfe für Texte, Beiträge, Newsletter und Bilder, dazu Varianten für unterschiedliche Zielgruppen. Der Engpass verschiebt sich vom Schreiben zum Auswählen und Prüfen. Wer keine klare Positionierung hat, bekommt mit KI nur schneller austauschbare Texte.

Kundenservice

Im Kundenservice schlägt generative KI Antworten auf wiederkehrende Fragen vor, fasst lange Anfragen zusammen und hilft, Wissensartikel aktuell zu halten. Gut funktioniert das, wenn die Antworten auf eigenen, geprüften Unterlagen beruhen.

Verwaltung und Dokumente

Protokolle, Berichte, Übersetzungen, die Auswertung von Verträgen oder Ausschreibungen: Überall, wo Dokumente gelesen und verdichtet werden, spart generative KI Zeit. Wichtig ist hier die Frage, welche Dokumente in welches Werkzeug dürfen.

Internes Wissen

In vielen Mittelständlern steckt das Wissen in den Köpfen weniger Menschen und in verstreuten Ordnern. Mit angebundenen eigenen Daten kann generative KI Fragen wie „Wie läuft bei uns eine Reklamation ab?“ aus den vorhandenen Unterlagen beantworten. Das entlastet erfahrene Kolleginnen und Kollegen und hilft neuen Mitarbeitenden beim Einstieg.

Entwicklung

Wer Software entwickelt oder anpasst, nutzt generative KI zum Vorschlagen, Erklären und Testen von Code. Auch kleine Automatisierungen, etwa Auswertungen in Tabellen, werden damit für Menschen ohne Programmierkenntnisse erreichbar.

Chancen generativer KI

Richtig eingesetzt, bringt generative KI vor allem vier Vorteile:

• Zeit: Erste Entwürfe, Zusammenfassungen und Recherchen entstehen in einem Bruchteil der Zeit. Die gewonnene Zeit fließt in Aufgaben, die Menschen besser können, etwa Gespräche mit Kunden.
• Gleichmäßigere Qualität: Mit guten Vorlagen und Prompts sehen Angebote, Antworten und Berichte einheitlicher aus, unabhängig davon, wer sie schreibt.
• Zugang zu Wissen: Mitarbeitende finden Antworten schneller, ohne erst die richtige Person oder den richtigen Ordner suchen zu müssen.
• Niedrige Einstiegshürde: Die Bedienung in normaler Sprache macht KI für alle zugänglich, nicht nur für IT-Fachleute. Das ist gerade im Mittelstand ein Vorteil, wo es selten eigene KI-Teams gibt.

Diese Vorteile entstehen nicht durch eine Lizenz allein. Sie entstehen, wenn Teams wissen, wofür sie die Werkzeuge nutzen sollen, und wenn die Ergebnisse in die bestehenden Abläufe passen.

Grenzen und Risiken generativer KI

Generative KI hat Schwächen, die jedes Unternehmen kennen sollte, bevor es sie breit einsetzt:

• Falsche Inhalte: Modelle formulieren falsche Aussagen genauso überzeugend wie richtige. Zahlen, Namen, Quellen und rechtliche Aussagen müssen geprüft werden.
• Datenschutz und Geschäftsgeheimnisse: Was in ein externes Werkzeug eingegeben wird, verlässt das Unternehmen. Personenbezogene Daten und vertrauliche Unterlagen brauchen klare Regeln und passende Verträge mit den Anbietern.
• Urheberrecht: Bei Trainingsdaten und bei der Nutzung erzeugter Inhalte sind rechtliche Fragen noch nicht in jedem Punkt geklärt. Das betrifft vor allem Bilder und veröffentlichte Texte.
• Verzerrungen: Modelle übernehmen Muster aus ihren Trainingsdaten, auch einseitige. Das kann Texte, Bewertungen und Bilder färben.
• Schatten-KI: Ohne offizielle Werkzeuge und Regeln nutzen Mitarbeitende private Konten. Dann weiß niemand, welche Daten wohin fließen.
• Abhängigkeit: Wer alles auf einen Anbieter setzt, ist von dessen Preisen, Bedingungen und Änderungen abhängig.
• Austauschbarkeit: Wenn alle mit denselben Werkzeugen schreiben, klingen viele Texte gleich. Eigene Erfahrung und eigene Haltung werden wertvoller, nicht weniger wertvoll.

Keines dieser Risiken ist ein Grund, auf generative KI zu verzichten. Sie sind ein Grund, mit Regeln, Schulung und einer Prüfung durch Menschen zu starten.

Generative KI im Mittelstand einführen

Der Einstieg in generative KI gelingt im Mittelstand in fünf Schritten: Ziel festlegen, Regeln für Daten und Werkzeuge vereinbaren, Teams schulen, einen ersten Anwendungsfall als Pilot starten und das Ergebnis messen.

1. Ziel festlegen: Was soll besser werden? Mehr Zeit für Kundengespräche, schnellere Angebote, weniger Suchen nach Informationen? Ein klares Ziel verhindert, dass KI zum Selbstzweck wird.
2. Regeln vereinbaren: Welche Werkzeuge sind freigegeben? Welche Daten dürfen hinein, welche nicht? Wer prüft Ergebnisse, bevor sie an Kunden gehen? Eine Seite mit klaren Regeln reicht für den Anfang.
3. Teams schulen: Gute Ergebnisse hängen stark davon ab, wie Menschen mit den Werkzeugen arbeiten. Wer weiß, wie man Aufgaben formuliert und Ergebnisse prüft, holt mehr heraus.
4. Pilot starten: Ein Anwendungsfall mit hohem Nutzen und überschaubarem Aufwand, ein Team, ein klarer Zeitraum.
5. Messen und entscheiden: Spart der Pilot Zeit? Stimmt die Qualität? Nutzen die Teams ihn wirklich? Danach wird ausgeweitet, angepasst oder beendet.

Wer mehr als einzelne Werkzeuge einführen will, braucht einen übergeordneten Plan. Wie der aussieht, beschreibe ich im Leitfaden zur KI-Strategie für Unternehmen.

Rechtlicher Rahmen: Hinweis

Für generative KI gelten in der EU neben dem Datenschutzrecht auch die Regeln des EU AI Act, der Verordnung der Europäischen Union über künstliche Intelligenz. Sie enthält unter anderem Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Transparenzpflichten für KI-erzeugte Inhalte und Vorgaben zur KI-Kompetenz der Menschen, die mit KI arbeiten. Welche Pflichten für dein Unternehmen gelten, hängt vom konkreten Einsatz ab. Den Text der Verordnung findest du auf EUR-Lex.

Keine Rechtsberatung. Im Einzelfall Anwalt fragen.

Was ich aus der Praxis mitnehme

Ich arbeite seit über 25 Jahren im Vertrieb, habe Hunderte B2B-Kampagnen umgesetzt und über 495 Vorträge und Webinare gehalten. Generative KI nutze ich nicht nur in der Beratung, sondern baue damit. In Qauf laufen sieben KI-Agenten live in Produktion.

Drei Beobachtungen ziehen sich durch fast alle Unternehmen, mit denen ich spreche:

• Das Werkzeug ist selten das Problem. Die gängigen Sprachmodelle sind für die meisten Aufgaben im Mittelstand gut genug. Was fehlt, sind klare Anwendungsfälle und Regeln.
• Schulung entscheidet über die Wirkung. Zwei Menschen mit demselben Werkzeug bekommen sehr unterschiedliche Ergebnisse. Der Unterschied liegt darin, wie sie fragen und wie sie prüfen.
• Generative KI ist der Einstieg, nicht das Ende. Wer gelernt hat, mit generativer KI zu arbeiten, fragt bald, welche Abläufe sich ganz automatisieren lassen. Dann geht es um KI-Agenten. Den Bau und Betrieb solcher Agenten übernimmt close one.

Wenn du generative KI in deinem Unternehmen geordnet einführen willst, begleite ich das in meiner KI-Beratung für den Mittelstand. Für einen gemeinsamen Start mit Geschäftsführung und Teams eignet sich der KI-Workshop für den Mittelstand: ein Tag mit 8 Stunden, bevorzugt vor Ort bei euch im Unternehmen, auf Wunsch online. Buche ein 30-minütiges Erstgespräch, wenn du klären willst, wo dein Unternehmen steht.

Häufige Fragen

Dragan Matijević, freier KI-Berater für den Mittelstand