Generative KI im Unternehmen: Wo sie wirklich trägt

Kaum ein Thema hat die letzten Jahre in Unternehmen so beschäftigt wie generative KI. Fast jede Firma, mit der wir sprechen, hat inzwischen etwas ausprobiert: ein paar Lizenzen für das Team, einen Chatbot auf der Website, vielleicht einen Piloten im Marketing. Und fast überall stellt sich danach dieselbe Frage: Was davon trägt eigentlich im Alltag, und was war ein gut gemachter Demo-Moment?

Genau darum geht es hier. Wir bei TAISC entwickeln generative KI nicht nur als Konzept, sondern bringen sie in den Produktivbetrieb: als Wissensassistenten, als Automatisierungen in bestehenden Systemen, als Agenten in echten Prozessen. Dieser Beitrag fasst zusammen, was sich dabei als tragfähig erwiesen hat und was nicht.

Sie bekommen eine klare Abgrenzung zur klassischen KI, Use Cases mit Substanz statt Buzzword-Liste, einen nüchternen Vergleich der drei gängigen Bauformen, zwei echte Projektbeispiele mit Zahlen, eine realistische Kosteneinordnung und die Fehler, die in der Praxis am meisten Geld kosten.

Was ist generative KI und was unterscheidet sie von klassischer KI?

Generative KI bezeichnet Modelle, die neue Inhalte erzeugen: Text, Code, Bilder, strukturierte Daten. Der Unterschied zur klassischen KI liegt weniger in der Technik als in der Art der Aufgabe. Klassische Machine-Learning-Modelle ordnen ein: Sie sagen einen Wert vorher, klassifizieren einen Vorgang, erkennen eine Anomalie. Generative Modelle formulieren: Sie schreiben eine Antwort, fassen ein Dokument zusammen, überführen unstrukturierten Text in ein sauberes Datenformat.

Praktisch heißt das: Klassische KI braucht eine große Menge sauber gelabelter historischer Daten und liefert dafür eine eng umrissene, sehr verlässliche Aussage. Generative KI kommt ohne eigenes Training aus, ist am ersten Tag einsatzfähig und deckt eine enorme Bandbreite an Aufgaben ab. Der Preis dafür ist, dass die Ausgabe nicht deterministisch ist. Dieselbe Frage kann zwei leicht unterschiedliche Antworten erzeugen.

Für Unternehmen ist das die entscheidende Eigenschaft. Sie erklärt, warum generative KI dort brilliert, wo bisher Menschen lesen, verstehen und formulieren mussten, und warum sie dort schlecht abschneidet, wo es auf exakte Rechenergebnisse oder hundertprozentige Reproduzierbarkeit ankommt.

Wo generative KI an ihre Grenzen stößt

Drei Grenzen sollte man kennen, bevor man ein Budget freigibt:

• Rechnen und Zählen. Ein Sprachmodell ist kein Taschenrechner. Zahlenlogik gehört in deterministischen Code, den die KI aufruft, nicht in den Modelloutput selbst.
• Fehlender Kontext. Ohne Zugriff auf Ihre Daten kennt das Modell Ihr Unternehmen nicht. Es antwortet dann plausibel, aber allgemein. Das ist der häufigste Grund, warum Piloten im Alltag enttäuschen.
• Kein Gedächtnis über Prozesse hinweg. Ein Modell weiß nicht, was gestern im Ticketsystem passiert ist, solange es niemand hineinreicht. Die Integration ist die Arbeit, nicht das Modell.

Wer diese drei Punkte von Anfang an einplant, umgeht die meisten Enttäuschungen. Wo Ihr Unternehmen dabei steht, lässt sich systematisch prüfen. Wir haben das im KI-Readiness-Check entlang von Daten, Tools und Mindset beschrieben.

Welche Use Cases für generative KI lohnen sich wirklich?

Der verlässlichste Filter ist unangenehm simpel: Ein Use Case lohnt sich, wenn heute Menschen viel Zeit damit verbringen, Texte oder Dokumente zu lesen, zu verstehen und daraus etwas Neues zu formulieren. Je häufiger die Aufgabe anfällt und je weniger kreativ sie ist, desto größer der Hebel.

Konkret sehen wir bei unseren Kunden immer wieder dieselben vier Muster:

Wissen zugänglich machen. Firmenwissen liegt verstreut in SharePoint, Wikis, alten Word-Dateien und Postfächern. Ein Assistent, der darauf antwortet und seine Quelle nennt, spart pro Mitarbeiter täglich Suchzeit. Das ist der mit Abstand häufigste Einstieg und meist auch der mit dem besten Verhältnis von Aufwand und Wirkung.

Unstrukturiertes in Strukturiertes überführen. Eingehende Mails, Bestellungen, Rechnungen, Protokolle, Logfiles: Überall dort, wo heute jemand Informationen abtippt oder in ein Formular überträgt, kann generative KI den Rohtext in saubere Felder überführen, die ein bestehendes System weiterverarbeitet.

Entwürfe erzeugen statt Endergebnisse. Angebote, Berichte, Gutachten, Antwortmails. Der Trick liegt im Wort Entwurf. Wenn ein Mensch am Ende freigibt, sinkt das Risiko drastisch, und die Zeitersparnis bleibt trotzdem groß.

Support und interne Rückfragen entlasten. Wiederkehrende Fragen von Kunden oder Kollegen lassen sich weitgehend vorbeantworten, wenn das System auf den echten Wissensstand zugreifen kann und Unsicherheit ehrlich zugibt, statt zu raten.

Was sich dagegen selten lohnt: generische Textproduktion ohne Prozessbezug, Chatbots ohne Datenanbindung und Pilotprojekte, deren Erfolgskriterium niemand vorher definiert hat. Sie erzeugen Aktivität, aber keinen messbaren Effekt.

Assistent, RAG-System oder Agent: Welche Bauform passt?

In der Praxis laufen fast alle Projekte auf eine von drei Bauformen hinaus. Sie unterscheiden sich vor allem darin, wie tief das System in Ihre Daten und Prozesse eingreift, und damit auch im Aufwand und im nötigen Maß an Kontrolle.

Ein Assistent ist die Chat-Oberfläche mit guten Prompts und klaren Leitplanken, ohne Anbindung an interne Systeme. Der Nutzen entsteht individuell, bei jedem Mitarbeiter einzeln. Das ist ein sinnvoller Einstieg, skaliert aber nicht von allein zu einem Prozessvorteil.

Ein RAG-System verbindet das Modell mit Ihren Dokumenten. Es sucht die passenden Stellen heraus und lässt das Modell nur auf dieser Grundlage antworten, mit Quellenangabe. Das ist der Standardweg für Wissensfragen und für die meisten Unternehmen der Punkt, an dem generative KI zum ersten Mal spürbar wird. Entscheidend für die Qualität ist dabei weniger das Modell als die Datengrundlage.

Ein KI-Agent geht einen Schritt weiter und handelt: Er ruft Systeme auf, schreibt zurück, arbeitet mehrstufige Aufgaben ab. Der Hebel ist am größten, aber auch der Anspruch an Tests, Rechte und Freigaben. Wann sich das lohnt und worauf man achten muss, haben wir im Detail unter KI-Agenten für Unternehmen beschrieben.

Unsere Empfehlung ist fast immer, eine Stufe niedriger zu starten, als es sich anfühlt. Ein funktionierendes RAG-System, das täglich genutzt wird, ist mehr wert als ein Agent, der in der Abnahme steckenbleibt.

Wie sieht generative KI in einem echten Projekt aus?

Zwei Beispiele aus unserer Arbeit, die die beiden häufigsten Muster zeigen.

IntranetGPT: Wissen zugänglich machen. Bei einem mittelständischen IT-Dienstleister lag das Firmenwissen verteilt über SharePoint, HR-Dokumente und interne Richtlinien. Theoretisch war alles da, praktisch fand niemand etwas, ohne Kollegen zu fragen. Wir haben einen RAG-basierten Assistenten gebaut, der Fragen zu Prozessen, Dokumenten, Ansprechpartnern und Richtlinien in natürlicher Sprache beantwortet, angebunden über die Microsoft Graph API an das bestehende SharePoint, ohne dass die vorhandene Infrastruktur angefasst werden musste. Intern kommuniziert wurde eine Reduzierung der Suchzeiten um rund 70 Prozent, und das System ließ sich anschließend auf weitere Wissensbereiche wie HR, IT und Compliance ausweiten. Details dazu im Projekt IntranetGPT.

Logify: Unstrukturiertes lesbar machen. Im IT-Support eines B2B-Softwareunternehmens verbrachten Mitarbeitende Stunden bis Tage damit, große, unstrukturierte Logfiles manuell nach Fehlerursachen zu durchsuchen. Keine Mustererkennung, keine Priorisierung, jeder Fall Handarbeit. Wir haben ein System entwickelt, das die Logfiles automatisch analysiert, Anomalien erkennt und priorisierte Lösungsvorschläge mit Kontext generiert. Entstanden ist es in 48 Stunden auf einem Hackathon, der Weg von dort in den echten Betrieb dauerte deutlich länger: Das On-Premise-Deployment beim Kunden wurde im April 2026 abgeschlossen, zunächst für den internen Einsatz im Support-Team. Mehr dazu im Projekt Logify.

Beide Fälle haben eine Gemeinsamkeit, die wichtiger ist als die Technik: Der Engpass war vorher klar benannt und messbar. Nicht „wir wollen etwas mit KI machen”, sondern „unsere Leute suchen zu lange” beziehungsweise „unser Support liest zu lange Logs”. Genau diese Präzision entscheidet später darüber, ob ein Projekt als Erfolg gilt.

Was kostet generative KI im Unternehmen?

Kosten entstehen an drei Stellen, und die dritte wird fast immer unterschätzt.

Modellkosten sind heute der kleinste Posten. Die Preise pro Token sind in den letzten Jahren deutlich gefallen, und für die meisten internen Anwendungen liegen die laufenden Modellkosten im niedrigen dreistelligen Bereich pro Monat. Wer teure Modelle nur dort einsetzt, wo sie wirklich nötig sind, drückt das weiter.

Entwicklungskosten hängen an der Bauform. Ein Assistent mit Leitplanken ist eine Frage von Tagen. Ein RAG-System mit sauberer Anbindung an bestehende Quellen bewegt sich typischerweise im Bereich weniger Wochen. Ein Agent, der in Systeme schreibt, braucht zusätzlich Zeit für Tests, Rechte und Freigabelogik.

Betriebs- und Pflegekosten sind der Posten, der Projekte kippen lässt. Ein KI-System ist kein fertiges Produkt, das man abnimmt und vergisst. Datenquellen ändern sich, Modelle werden abgelöst, Nutzer stellen Fragen, an die niemand gedacht hat. Wer im ersten Jahr keine Kapazität für Betrieb und Nachschärfen einplant, hat in Wahrheit einen Piloten finanziert und keine Lösung.

Unsere Empfehlung: in klar abgegrenzten Bausteinen denken, jeder mit definiertem Ergebnis und festem Preis, statt in einer großen Summe. Nach jedem Baustein steht eine bewusste Entscheidung, ob der nächste sich lohnt. Wie das bei uns konkret aussieht, steht auf der Seite Services.

Wie bleibt generative KI datenschutzkonform?

Sobald generative KI auf echte Unternehmensdaten trifft, wird Datenschutz zur Architekturfrage und nicht zur Formsache am Ende. Vier Punkte entscheiden in der Praxis:

• Datenresidenz. Verarbeitung in der EU, mit Anbietern und Modellen, die vertraglich zusichern, nicht mit Ihren Daten zu trainieren.
• Rechtekonzept. Ein Wissensassistent darf einem Nutzer nur zeigen, was dieser Nutzer auch im Quellsystem sehen dürfte. Das ist technisch machbar, muss aber von Anfang an eingebaut werden.
• Nachvollziehbarkeit. Antworten mit Quellenangabe sind nicht nur besser für die Nutzer, sie machen das System auch prüfbar.
• Sensible Daten bewusst behandeln. Nicht jeder Datenraum muss angebunden werden. Häufig ist die klügste Entscheidung, personenbezogene Bereiche zunächst außen vor zu lassen.

Je nach Anwendungsfall kommen aus dem EU AI Act zusätzliche Anforderungen hinzu, etwa zu Transparenz und Dokumentation. Das früh mitzudenken ist deutlich günstiger, als es später nachzurüsten.

Wenn besonders sensible Daten im Spiel sind, ist ein Betrieb auf eigener Infrastruktur eine ernsthafte Option. Genau diesen Weg sind wir bei Logify mit dem On-Premise-Deployment gegangen.

Wie kommt man vom Piloten in den Produktivbetrieb?

Der Sprung vom funktionierenden Piloten zum genutzten System ist die Stelle, an der die meisten Initiativen hängenbleiben. Vier Dinge machen den Unterschied:

Ein Erfolgskriterium vor dem Start. Nicht „das Team findet es gut”, sondern eine Zahl: gesparte Minuten pro Vorgang, Anteil automatisch beantworteter Anfragen, Durchlaufzeit. Ohne diese Zahl lässt sich später nicht entscheiden, ob weiterinvestiert wird.

Der Weg in den Arbeitsalltag. Ein Tool, das in einem eigenen Tab lebt, wird nach zwei Wochen nicht mehr geöffnet. Systeme, die dort auftauchen, wo ohnehin gearbeitet wird, im Ticketsystem, im Intranet, im Postfach, werden genutzt.

Ein Mensch in der Schleife, wo es zählt. Bei allem, was nach außen geht oder Geld bewegt, gehört eine Freigabe dazu. Das kostet weniger Zeit als vermutet und nimmt der Einführung viel Widerstand.

Verantwortung im Haus. Es braucht jemanden intern, dem das System gehört: der Feedback sammelt, Lücken meldet und entscheidet, was als Nächstes kommt. Fehlt diese Rolle, verwaist auch eine gute Lösung.

Ergänzend lohnt es sich, die Prozesse rundherum anzuschauen. Welche Abläufe sich für Automatisierung wirklich eignen, haben wir unter KI-Automatisierung durchgerechnet.

Häufige Fragen

Was ist der Unterschied zwischen generativer KI und klassischer KI?

Klassische KI ordnet ein: Sie sagt Werte vorher, klassifiziert Vorgänge oder erkennt Anomalien und braucht dafür große Mengen historischer, gelabelter Daten. Generative KI erzeugt neue Inhalte wie Text, Code oder strukturierte Daten, ist ohne eigenes Training sofort einsatzfähig und deckt eine sehr große Bandbreite an Aufgaben ab. Der Preis dafür ist, dass die Ausgabe nicht deterministisch ist, dieselbe Frage kann leicht unterschiedliche Antworten erzeugen.

Mit welchem Use Case sollten wir starten?

In den meisten Unternehmen ist der Wissenszugang der beste Einstieg: ein System, das auf verstreute Dokumente in SharePoint, Wikis und Laufwerken antwortet und dabei seine Quellen nennt. Der Aufwand ist überschaubar, der Nutzen sofort spürbar, und das Projekt zwingt Sie dazu, Ihre Datenlage zu sortieren, was allen späteren Anwendungsfällen zugutekommt.

Brauchen wir für generative KI ein eigenes Modell oder eigenes Training?

In aller Regel nicht. Für fast alle Unternehmensanwendungen genügt ein bestehendes Modell, dem Sie über Retrieval den passenden Kontext aus Ihren eigenen Daten mitgeben. Eigenes Feintuning lohnt sich erst bei sehr speziellen Formaten oder Fachsprachen und ist teurer im Betrieb, weil es bei jedem Modellwechsel wiederholt werden muss.

Wie gehen wir mit falschen Antworten um?

Drei Maßnahmen helfen am meisten: Antworten immer mit Quellenangabe ausgeben, damit Nutzer prüfen können. Das System so bauen, dass es Unsicherheit zugibt, statt zu raten. Und überall dort, wo etwas nach außen geht oder Geld bewegt, eine menschliche Freigabe einbauen. Das Ziel ist nicht ein System ohne Fehler, sondern eines, dessen Fehler sichtbar und folgenlos bleiben.

Wie lange dauert es bis zu einem produktiven System?

Ein Assistent mit klaren Leitplanken lässt sich in wenigen Tagen aufsetzen. Ein RAG-System mit Anbindung an bestehende Quellen bewegt sich typischerweise im Bereich weniger Wochen bis zum ersten produktiven Einsatz. Agentische Lösungen, die in Systeme zurückschreiben, brauchen zusätzlich Zeit für Tests, Rechte und Freigaben und liegen eher bei Monaten.

Ist generative KI mit sensiblen Unternehmensdaten vertretbar?

Ja, wenn die Architektur stimmt. Entscheidend sind Verarbeitung in der EU, Anbieter und Modelle, die nicht mit Ihren Daten trainieren, ein Rechtekonzept, das die Berechtigungen der Quellsysteme respektiert, und nachvollziehbare Antworten mit Quellen. Bei besonders sensiblen Daten ist zusätzlich ein Betrieb auf eigener Infrastruktur möglich, diesen Weg sind wir bei Logify gegangen.

Fazit

Generative KI ist im Unternehmen kein Experiment mehr, aber auch keine Abkürzung. Der Unterschied zwischen einem Piloten, der versandet, und einem System, das täglich genutzt wird, liegt fast nie am Modell. Er liegt an drei Entscheidungen, die vor der ersten Zeile Code fallen: ein klar benannter Engpass mit messbarem Erfolgskriterium, eine Bauform, die zum Reifegrad passt, und Zugriff auf die eigenen Daten mit sauberem Rechtekonzept.

Wer das beherzigt, kommt schneller und günstiger zu einem Ergebnis, als die vielen gescheiterten Piloten am Markt vermuten lassen. Wer es überspringt, kauft Lizenzen und hofft.

Wenn Sie herausfinden wollen, welcher Use Case bei Ihnen den größten Hebel hat und mit welcher Bauform Sie realistisch starten sollten, lassen Sie uns sprechen. Ein unverbindliches Erstgespräch kostet nichts und bringt in der Regel schon eine ehrliche Einschätzung, ob und wo sich generative KI bei Ihnen lohnt.