Zum Inhalt springen
KI-Strategiepapier.de
0/24 gelesen

Strategiepapier / Teil A · Orientierung

A3Grundlagen und Begriffe

Die Grundbegriffe der KI-Strategie: maschinelles Lernen und generative KI, Sprachmodelle, Prompting, RAG und Fine-Tuning, KI-Agenten, Betriebspraktiken und ein Glossar aller Fachbegriffe.

22 Min. Lesezeit

Ein Prognosemodell, ein Sprachmodell mit Zugriff auf interne Dokumente und ein Agent, der selbstständig handelt, sind drei verschiedene Arten von KI. Sie unterscheiden sich in Architektur, Kosten, Risiko und Regulierung. Wer über eine KI-Strategie entscheidet, muss deshalb wissen, welche Art ein Vorhaben braucht. Ohne gemeinsame Begriffe meinen Fachbereich, IT und Geschäftsführung mit „KI“ jeweils etwas anderes.

KI, maschinelles Lernen, Deep Learning und generative KI

Diese vier Begriffe werden im Alltag oft gleichbedeutend verwendet. Sie bezeichnen aber Bereiche, die ineinander liegen: Jeder Begriff in der folgenden Liste ist ein Teilbereich des vorigen.

  • Künstliche Intelligenz (KI): Oberbegriff für Systeme, die Aufgaben übernehmen, für die sonst menschliches Urteilsvermögen nötig ist. Dazu zählen auch regelbasierte Systeme, deren Entscheidungsregeln Menschen von Hand festgelegt haben.
  • Maschinelles Lernen (englisch Machine Learning, ML): Teilbereich der KI. Das System leitet seine Entscheidungsregeln aus Beispieldaten ab, statt sie von Entwicklern vorgegeben zu bekommen. Prognosemodelle, Bilderkennung und Sprachmodelle beruhen alle auf maschinellem Lernen.
  • Deep Learning: Teilbereich des maschinellen Lernens, der mit tiefen neuronalen Netzen arbeitet. Ein neuronales Netz ist ein Rechenmodell aus vielen hintereinandergeschalteten Schichten. Beim Training werden die Zahlenwerte des Netzes eingestellt, die Gewichte heißen; große Netze haben Millionen bis Milliarden Gewichte. Deep Learning ist das vorherrschende Verfahren für Daten ohne feste Tabellenstruktur: Bilder, gesprochene Sprache und Text.
  • Generative KI (englisch Generative AI, GenAI): Systeme, die neue Inhalte erzeugen, etwa Text, Bilder, Programmcode oder Audio. Grundlage sind Foundation Models: große Modelle, die auf sehr breiten Datenmengen vortrainiert sind und sich danach für viele verschiedene Aufgaben nutzen lassen.
KI, maschinelles Lernen, Deep Learning und generative KI als ineinanderliegende BereicheVier Begriffe, die ineinanderliegenKünstliche Intelligenz (KI)Oberbegriff für Systeme, die Aufgaben übernehmen, für die sonst menschliches Urteilsvermögen nötig ist, auch regelbasierteMaschinelles Lernen (ML)leitet Entscheidungsregeln aus Beispieldaten ab, statt sie vorgegeben zu bekommenDeep Learningtiefe neuronale Netze mit Millionen bis Milliarden Gewichten; für Bilder, Sprache und TextGenerative KIerzeugt neue Inhalte wie Text, Bilder, Code oder Audio; Grundlage sind Foundation ModelsJeder Begriff ist ein Teilbereich des vorigen. Generative KI ist also immer auch maschinelles Lernen.
KI, maschinelles Lernen, Deep Learning und generative KI als ineinanderliegende BereicheVier Begriffe, die ineinanderliegenKünstliche Intelligenz (KI)Oberbegriff für Systeme, die Aufgabenübernehmen, für die sonst menschlichesUrteilsvermögen nötig ist, auch regelbasierteMaschinelles Lernen (ML)leitet Entscheidungsregeln ausBeispieldaten ab, statt sie vorgegeben zubekommenDeep Learningtiefe neuronale Netze mit Millionen bisMilliarden Gewichten; für Bilder,Sprache und TextGenerative KIerzeugt neue Inhalte wie Text,Bilder, Code oder Audio; Grundlagesind Foundation ModelsJeder Begriff ist ein Teilbereich des vorigen.Generative KI ist also immer auch maschinellesLernen.

Vier ineinanderliegende Bereiche: Künstliche Intelligenz enthält maschinelles Lernen, maschinelles Lernen enthält Deep Learning, Deep Learning enthält generative KI.

Prädiktive und generative KI

Für die Strategie zählt vor allem die Unterscheidung zwischen prädiktiver (vorhersagender) und generativer KI. Beide gehören in eine KI-Strategie, brauchen aber eine andere Architektur, andere Governance (also andere Regeln dafür, wer entscheidet, prüft und freigibt) und andere Kennzahlen.

MerkmalPrädiktive KIGenerative KI
ErgebnisEine Zahl oder eine Klasse: eine Prognose wie der Absatz im nächsten Monat oder eine Klassifikation wie „Betrug“ oder „kein Betrug“.Ein frei formulierter Inhalt, etwa ein Antwortentwurf, eine Zusammenfassung oder Programmcode.
BeispieleBetrugserkennung, Absatzprognose.Antwortentwürfe im Kundenservice, Fragen an interne Dokumente.
MessbarkeitGut messbar, weil sich jede Vorhersage mit dem tatsächlichen Ausgang vergleichen lässt.Schwer messbar, weil es für einen Text viele richtige Fassungen gibt. Die Prüfung braucht Testfälle, Bewertungskriterien und oft menschliche Beurteilung.
Typische RisikenVerzerrte Trainingsdaten (Bias), Drift und eine Genauigkeit, die unbemerkt sinkt.Dieselben Risiken, dazu Halluzination und Prompt Injection.

Drift heißt: Die Daten im Betrieb entfernen sich allmählich von den Daten, mit denen das Modell trainiert wurde, und die Ergebnisse werden schlechter. Halluzination und Prompt Injection gibt es nur bei generativer KI. Eine Halluzination ist eine falsche, aber überzeugend formulierte Aussage; sie kann nur entstehen, wo ein Modell Inhalte frei formuliert. Prompt Injection ist ein Angriff, bei dem jemand Anweisungen in einer Eingabe oder in einem eingebundenen Dokument versteckt, die das Modell dann befolgt; der Angriff setzt voraus, dass ein System freie Eingaben als Anweisungen auslegt. Wie sich Modelle beider Arten messen lassen, beschreibt Kapitel D1; wie sich Verzerrungen erkennen und begrenzen lassen, beschreibt Kapitel B10.

Große Sprachmodelle (LLM)

Generative Anwendungen, die mit Text arbeiten, haben als Kern ein großes Sprachmodell (englisch Large Language Model, LLM). Ein Sprachmodell ist ein Foundation Model für Sprache. Es wird auf sehr großen Textmengen vortrainiert und lässt sich danach für viele Aufgaben nutzen, ohne für jede Aufgabe neu trainiert zu werden: Texte zusammenfassen, übersetzen, einordnen oder Antworten entwerfen.

Drei Begriffe bestimmen Kosten und Grenzen eines Sprachmodells:

  • Token: Ein Sprachmodell zerlegt Text in Token, meist Wortteile. Anbieter rechnen die Nutzung nach der Zahl der Token in Eingabe und Antwort ab.
  • Kontextfenster: Das Kontextfenster ist die größte Zahl an Token, die ein Modell in einer einzelnen Anfrage verarbeiten kann. Es begrenzt, wie viel Dokumenttext eine Anfrage mitgeben kann.
  • Inferenz: Jede Anfrage an ein fertig trainiertes Modell, die eine Ausgabe erzeugt, heißt Inferenz. Die Kosten der Inferenz fallen bei jeder Anfrage an und wachsen deshalb mit der Zahl der Anfragen. Sie sind ein großer Teil der laufenden Kosten, aber nicht alle: Betrieb, Pflege und Überwachung der Anwendung kommen hinzu.

Ein Unternehmen kann ein Sprachmodell auf zwei Wegen beziehen. Die Wahl berührt Datenschutz, Kosten, die Abhängigkeit vom Anbieter und die digitale Souveränität, also die Fähigkeit, auch dann über eigene Daten und Systeme zu bestimmen, wenn ein Anbieter seine Bedingungen ändert oder ausfällt. Die Wahl ist deshalb keine reine IT-Frage.

MerkmalProprietäres Modell über eine ProgrammierschnittstelleOffenes Modell (englisch open-weight) im Eigenbetrieb
Was es istDer Anbieter betreibt das Modell und gibt dessen Gewichte nicht heraus. Die Anwendung schickt jede Anfrage über eine Programmierschnittstelle (englisch Application Programming Interface, API) an den Anbieter.Der Hersteller veröffentlicht die Gewichte des Modells (die beim Training eingestellten Zahlenwerte) zum Herunterladen. Das Unternehmen betreibt das Modell auf eigener oder gemieteter Hardware.
VorteileDas Modell ist sofort verfügbar, die Antwortqualität ist hoch, und es entsteht kein eigener Betriebsaufwand.Die Daten verlassen die eigene Umgebung nicht. Die Kosten hängen von der Hardware ab, nicht von der Zahl der Anfragen, und sind dadurch planbar.
NachteileJede Anfrage kostet. Das Unternehmen wird vom Anbieter abhängig (englisch Vendor Lock-in). Zu klären ist, welche Daten das Unternehmen verlassen und wie der Anbieter sie verwendet.Das Unternehmen braucht eigenen Betrieb, Hardware und Fachpersonal.

Ein offenes Modell ist nicht dasselbe wie Open Source, bei dem alle Bestandteile offenliegen: Trainingsdaten und Trainingsverfahren bleiben oft unveröffentlicht, und die Lizenz kann die Nutzung einschränken. Die Kriterien für die Wahl zwischen beiden Wegen enthält Kapitel B3. Das Bereitstellungsmodell (Cloud, eigenes Rechenzentrum, englisch On-Premises, oder eine Kombination aus beidem) beschreibt Kapitel B5. Die Kostenfolgen und ihre laufende Steuerung, FinOps genannt, behandelt Kapitel D2, die Datenschutzfragen Kapitel B8.

Prompting, RAG und Fine-Tuning

Ein Sprachmodell kennt die internen Dokumente eines Unternehmens nicht, und sein Wissen endet mit dem Stand seines Trainings. Es gibt drei Wege, einem Modell Wissen mitzugeben oder sein Verhalten anzupassen. Sie lassen sich kombinieren.

WegWas geschiehtWann der Weg passtAufwand und Risiko
PromptingEin Prompt, also die Eingabe an das Modell mit Anweisung, Beispielen und Kontext, steuert das Verhalten. Das Modell selbst bleibt unverändert.Für einen schnellen Start, für allgemeine Aufgaben und für Prototypen.Niedrig. Die Qualität der Ergebnisse schwankt, und das Modell kennt kein internes Wissen des Unternehmens.
Retrieval-Augmented Generation (RAG)Zu jeder Anfrage sucht das System passende Abschnitte aus eigenen Dokumenten und gibt sie dem Modell zusammen mit der Anfrage mit.Wenn aktuelles oder internes Wissen gebraucht wird und jede Antwort ihre Quelle nennen soll.Mittel. Die Dokumente müssen aktuell, vollständig und mit Zugriffsrechten versehen sein, und ein Suchindex (das Verzeichnis, über das die Suche die Abschnitte findet) muss aufgebaut und gepflegt werden.
Fine-TuningDie Gewichte des Modells werden mit eigenen Beispieldaten nachtrainiert.Für ein festes Ausgabeformat oder eine feste Tonalität, für eine eng begrenzte Spezialaufgabe und für sehr viele gleichartige Anfragen, bei denen ein kleineres nachtrainiertes Modell günstiger ist als ein großes Modell mit langen Anweisungen.Hoch. Die Trainingsdaten müssen aufbereitet werden, das Training kostet Rechenzeit, und jede Änderung erfordert ein neues Training.
Die drei Wege Prompting, RAG und Fine-Tuning als Stufen mit steigendem Aufwand und RisikoDrei Wege, einem Sprachmodell Wissen und Verhalten mitzugeben1PromptingVerhalten über die Eingabe steuernSchneller Start, allgemeine Aufgaben, PrototypenAUFWAND UND RISIKOniedrig2RAGEigene Dokumente zu jeder Anfrage mitgebenInternes und aktuelles Wissen, QuellenangabeAUFWAND UND RISIKOmittel3Fine-TuningModellgewichte mit eigenen Daten nachtrainierenFestes Format, eng begrenzte SpezialaufgabeAUFWAND UND RISIKOhochFaustregel: erst Prompting, dann RAG, dann Fine-Tuning; nur weitergehen, wenn die vorherige Stufe nachweislich nicht reicht
Die drei Wege Prompting, RAG und Fine-Tuning mit steigendem Aufwand und RisikoDrei Wege, einem Sprachmodell Wissenund Verhalten mitzugeben1PromptingVerhalten über die Eingabe steuern. SchnellerStart, allgemeine Aufgaben, Prototypen.AUFWAND UND RISIKOniedrig2RAGEigene Dokumente zu jeder Anfrage mitgeben.Internes und aktuelles Wissen, Quellenangabe.AUFWAND UND RISIKOmittel3Fine-TuningModellgewichte mit eigenen Datennachtrainieren. Festes Format, eng begrenzteSpezialaufgabe.AUFWAND UND RISIKOhochFaustregel: erst Prompting, dann RAG, dannFine-Tuning; nur weitergehen, wenn die vorherigeStufe nachweislich nicht reicht.

Die drei Wege Prompting, RAG und Fine-Tuning als Stufen mit steigendem Aufwand und Risiko

RAG steht für „Retrieval-Augmented Generation“, auf Deutsch etwa „durch Suche ergänzte Erzeugung“. Die Suche vergleicht dabei nicht nur Stichworte, sondern auch die Bedeutung: Jeder Abschnitt eines Dokuments wird als Embedding gespeichert, also als Zahlenfolge, die seinen Inhalt so darstellt, dass ähnliche Inhalte ähnliche Zahlen bekommen. Eine Vektordatenbank findet zu einer Frage die Abschnitte mit der größten Ähnlichkeit. Das Modell soll seine Antwort auf die mitgegebenen Abschnitte stützen; die Anwendung kann diese Abschnitte als Quelle neben der Antwort anzeigen, und wer die Antwort prüft, kann jede Aussage mit diesen Abschnitten vergleichen. Diese Stützung auf Quellen heißt Grounding. Sie senkt das Risiko von Halluzinationen, schließt sie aber nicht aus.

Ablauf von Retrieval-Augmented Generation: Frage, Suche in der Vektordatenbank, passende Abschnitte, Modell, Antwort mit QuelleWie RAG eine Antwort findetVorbereitung: Jeder Dokumentabschnitt wird als Embedding gespeichert, einer Zahlenfolge, dieseinen Inhalt abbildet.FrageEine Person stellteine Frage an dieAnwendung.SucheDie Vektordatenbankfindet die Abschnittemit der größtenBedeutungsähnlichkeit.Abschnitteund FrageDie passendenAbschnitte gehenzusammen mit der Fragean das Modell.ModellDas Sprachmodellformuliert die Antwortund stützt sie auf dieAbschnitte.Antwort mitQuelleJede Aussage lässtsich mit denangezeigtenAbschnitten prüfen.Die Stützung auf Quellen heißt Grounding. Sie senkt das Risiko von Halluzinationen, schließt sie aber nicht aus.
Ablauf von Retrieval-Augmented Generation: Frage, Suche in der Vektordatenbank, passende Abschnitte, Modell, Antwort mit QuelleWie RAG eine Antwort findetVorbereitung: Jeder Dokumentabschnittwird als Embedding gespeichert, einerZahlenfolge, die seinen Inhaltabbildet.FrageEine Person stellt eine Frage an die Anwendung.SucheDie Vektordatenbank findet die Abschnitte mitder größten Bedeutungsähnlichkeit.Abschnitte und FrageDie passenden Abschnitte gehen zusammen mit derFrage an das Modell.ModellDas Sprachmodell formuliert die Antwort undstützt sie auf die Abschnitte.Antwort mit QuelleJede Aussage lässt sich mit den angezeigtenAbschnitten prüfen.Die Stützung auf Quellen heißt Grounding. Siesenkt das Risiko von Halluzinationen, schließtsie aber nicht aus.

Ablauf von RAG: Vorab wird jeder Dokumentabschnitt als Embedding gespeichert. Eine Person stellt eine Frage, die Vektordatenbank findet die ähnlichsten Abschnitte, diese gehen mit der Frage an das Sprachmodell, das Modell formuliert die Antwort auf Grundlage der Abschnitte, die Antwort wird mit Quelle angezeigt.

Ein Beispiel ist der Anwendungsfall „Antwortvorschläge Kundenservice“: Ein Sprachmodell schreibt zu jeder schriftlichen Kundenanfrage einen Antwortentwurf, den Servicemitarbeitende prüfen, bei Bedarf ändern und versenden. Über RAG bekommt das Modell zu jeder neuen Anfrage ähnliche, bereits beantwortete Anfragen aus der Tickethistorie mitgegeben.

Faustregel: erst Prompting, dann RAG, dann Fine-Tuning. Ein Vorhaben geht nur dann eine Stufe weiter, wenn die vorige nachweislich nicht reicht. Nachweislich heißt: Die Evaluierung, also die Prüfung der Antworten an festen Testfällen mit vereinbarten Bewertungskriterien, zeigt, dass die Qualität unter dem vereinbarten Ziel bleibt. Die Reihenfolge folgt dem Aufwand. Wer ein Modell nachtrainiert, wo ein besserer Prompt oder RAG genügt hätte, zahlt für Datenaufbereitung und Rechenzeit und muss das Training bei jeder Änderung wiederholen. Neues Faktenwissen lernt ein Modell durch Fine-Tuning außerdem nur unzuverlässig; Fine-Tuning legt Form und Verhalten fest, nicht Wissen, das sich ändert. Soll eine Anwendung Fragen aus internen Dokumenten beantworten, ist RAG deshalb der Ausgangspunkt: Eine geänderte Fassung eines Dokuments steht nach der nächsten Aktualisierung des Suchindex zur Verfügung, und die Anwendung zeigt zu jeder Antwort die Quelle, ohne dass ein Modell neu trainiert wird.

KI-Agenten

Ein Sprachmodell beantwortet eine Anfrage. Ein KI-Agent erledigt dagegen eine ganze Aufgabe selbstständig. Der Agent plant die Schritte, ruft Werkzeuge auf (eine Suche, eine Datenbank, ein Fachsystem oder einen anderen Dienst), bewertet die Zwischenergebnisse und macht weiter, bis das Ziel erreicht ist. Ein Chatbot gibt Antworten, ein Agent führt Aktionen aus. Für Systeme dieser Art ist auch der englische Begriff Agentic AI gebräuchlich.

Ein Agent besteht aus vier Bausteinen:

  • Planung: Der Agent zerlegt eine Aufgabe in einzelne Schritte.
  • Werkzeugnutzung (englisch Tool Use): Der Agent nutzt Programmierschnittstellen und Datenquellen und löst Aktionen aus, aber nur solche, die für ihn freigegeben sind. Für die Anbindung von Werkzeugen gibt es offene Standards wie das Model Context Protocol (MCP).
  • Gedächtnis: Der Agent behält Zwischenergebnisse und Kontext über mehrere Schritte hinweg.
  • Orchestrierung: Eine Steuerung legt fest, welcher Agent oder welches Werkzeug wann arbeitet und wer welches Ergebnis an wen weitergibt.

Weil ein Agent handelt, kann er auch Schaden anrichten: eine falsche Zahlung auslösen, eine E-Mail an den falschen Empfänger senden oder Daten löschen. Für jeden Agenten, der Aktionen ausführen darf, gelten deshalb drei Regeln:

  • Menschliche Freigabe (englisch Human-in-the-Loop): Ein Mensch bestätigt jede folgenreiche oder nicht umkehrbare Aktion, bevor der Agent sie ausführt. Dazu gehören Genehmigungen, Zahlungen, der Versand von Nachrichten und Löschungen.
  • Minimale Rechte: Ein Agent erhält nur die Werkzeuge und Zugriffe, die er für seine Aufgabe zwingend braucht.
  • Vollständige Protokollierung: Jede Aktion des Agenten wird protokolliert, damit die interne Revision und die Aufsichtsbehörden später nachvollziehen können, was der Agent wann mit welchen Daten getan hat.
Arbeitsweise eines KI-Agenten als Kreislauf aus Planen, Handeln und Bewerten mit Gedächtnis, dazu drei RegelnWie ein KI-Agent arbeitetGedächtnisKontext überalle Schritte1PlanenAufgabe in Schrittezerlegen2HandelnfreigegebenesWerkzeug aufrufen3BewertenZwischenergebnisprüfenso lange, bis das Ziel erreicht istDREI REGELN FÜR JEDEN HANDELNDEN AGENTENMenschliche FreigabeEin Mensch bestätigt jede folgenreiche oder nichtumkehrbare Aktion.Minimale RechteNur die Werkzeuge und Zugriffe, die die Aufgabe zwingendbraucht.Vollständige ProtokollierungJede Aktion ist nachvollziehbar aufgezeichnet.
Arbeitsweise eines KI-Agenten als Kreislauf aus Planen, Handeln und Bewerten mit Gedächtnis, dazu drei RegelnWie ein KI-Agent arbeitetGedächtnis1PlanenAufgabe inSchrittezerlegen2HandelnfreigegebenesWerkzeugaufrufen3BewertenZwischenergebnisprüfenso lange, bis das Ziel erreicht istDREI REGELN FÜR JEDEN HANDELNDEN AGENTENMenschliche FreigabeEin Mensch bestätigt jede folgenreiche odernicht umkehrbare Aktion.Minimale RechteNur die Werkzeuge und Zugriffe, die die Aufgabezwingend braucht.Vollständige ProtokollierungJede Aktion ist nachvollziehbar aufgezeichnet.

Ein KI-Agent arbeitet im Kreislauf aus Planen, Handeln mit einem freigegebenen Werkzeug und Bewerten des Zwischenergebnisses, bis das Ziel erreicht ist; das Gedächtnis hält den Kontext über alle Schritte. Drei Regeln gelten für jeden handelnden Agenten: menschliche Freigabe folgenreicher Aktionen, minimale Rechte und vollständige Protokollierung.

Die technischen Schutzmaßnahmen beschreibt Kapitel B9, die Rollen, die über Rechte und Freigaben entscheiden, Kapitel B7.

MLOps, LLMOps und AgentOps

Ein Pilot, also ein zeitlich begrenzter Einsatz mit echten Nutzern und echten Daten, zeigt, ob ein Modell funktioniert. Danach muss das Modell im Betrieb überwacht, aktualisiert und bei Fehlern auf einen früheren Stand zurückgesetzt werden. Ohne festgelegte Betriebspraktiken kommt das Modell nicht über den Pilot hinaus, oder es liefert im Betrieb unbemerkt schlechtere Ergebnisse. Für Software gibt es solche Praktiken unter dem Namen DevOps: Software wird in kurzen Abständen automatisiert getestet, ausgeliefert und überwacht. Drei Praktiken übertragen DevOps auf KI.

PraxisGegenstandTypische Aufgaben
MLOps (Machine Learning Operations)Klassische Modelle des maschinellen LernensVersionierung von Daten und Modellen, Training, Auslieferung in den Betrieb (englisch Deployment), Monitoring, also die laufende Überwachung von Qualität, Verfügbarkeit und Kosten, und erneutes Training.
LLMOps (Large Language Model Operations)Generative ModelleZusätzlich zu MLOps: Verwaltung von Prompts und Kontext, Evaluierung frei formulierter Ausgaben, Kontrolle von Halluzinationen und Kosten, Betrieb der RAG-Verarbeitungskette von der Aufbereitung der Dokumente bis zur Suche.
AgentOpsKI-AgentenZusätzlich zu LLMOps: Überwachung der Werkzeugaufrufe und Handlungsketten, Eingriffspunkte für Menschen, Behandlung von Fehlern mitten in einer Handlungskette.

Wer im Unternehmen für diese Praktiken zuständig ist, regelt das Betriebsmodell in Kapitel B6.

Glossar

Die Fachbegriffe der KI-Strategie in alphabetischer Reihenfolge. Die Spalte „Vertiefung“ nennt das Kapitel, das einen Begriff ausführlich behandelt.

BegriffBedeutungVertiefung
A/B-TestVergleich zweier Varianten im laufenden Betrieb. Eine Gruppe arbeitet mit der KI-Lösung, eine Kontrollgruppe ohne sie; der Unterschied in den Ergebnissen zeigt, was die Lösung tatsächlich bringt.Kapitel D1
Agent (KI-Agent, englisch Agentic AI)System, das eine Aufgabe in mehreren Schritten selbstständig plant und über Werkzeuge ausführt.
AgentOpsSiehe LLMOps, MLOps, AgentOps.
API (Application Programming Interface, Programmierschnittstelle)Festgelegter Weg, über den eine Anwendung ein anderes System aufruft, etwa ein Sprachmodell beim Anbieter.
Baseline (Ausgangswert)Der Wert, der vor der Einführung einer KI-Lösung gemessen wird, etwa im Anwendungsfall „Antwortvorschläge Kundenservice“ die Bearbeitungszeit von 20 Minuten je schriftlicher Kundenanfrage (Ticket). Ohne Baseline lässt sich der Nutzen später nicht belegen.Kapitel D1
Bias (Verzerrung)Systematische Schieflage in Daten oder Modell, die für einzelne Personengruppen zu unfairen oder falschen Ergebnissen führt. Ein Modell zur Vorauswahl von Bewerbungen, das mit früheren Personalentscheidungen trainiert wurde, übernimmt zum Beispiel deren Benachteiligungen.Kapitel B10
Business CaseWirtschaftlichkeitsrechnung für ein Vorhaben mit erwartetem Nutzen, einmaligen und laufenden Kosten und dem Zeitpunkt, ab dem sich die Investition bezahlt gemacht hat (Amortisation). Im Anwendungsfall „Antwortvorschläge Kundenservice“ stehen einem erwarteten Nutzen von 180.000 bis 270.000 Euro im Jahr (mittlerer Wert 225.000 Euro) Einmalkosten von 120.000 Euro und laufende Kosten von 45.000 Euro im Jahr gegenüber. Beim mittleren Nutzen hat sich die Investition nach etwa 8 Monaten bezahlt gemacht: 120.000 Euro geteilt durch den Nettonutzen von 180.000 Euro im Jahr (225.000 Euro Nutzen minus 45.000 Euro laufende Kosten), mal 12 Monate.Kapitel B2
Data Owner (Datenverantwortliche)Person, die fachlich für einen Datenbereich verantwortlich ist. Sie entscheidet über Zugriff, Qualitätsanforderungen und zulässige Verwendung der Daten.Kapitel B4
Data Poisoning (Datenvergiftung)Gezielte Manipulation von Trainingsdaten oder Wissensbeständen, damit ein Modell falsche oder schädliche Ergebnisse liefert.Kapitel B9
Datenkarte (englisch Data Card)Dokumentation eines Datensatzes nach dem Muster der Modellkarte: Herkunft, Inhalt, Qualität, Einschränkungen und zulässige Verwendung.Kapitel B10
Deep LearningMaschinelles Lernen mit tiefen neuronalen Netzen, also mit Rechenmodellen aus vielen hintereinandergeschalteten Schichten. Vorherrschendes Verfahren für Bilder, gesprochene Sprache und Text.
DriftVerschlechterung eines Modells im Betrieb. Bei der Datendrift (englisch Data Drift) entfernen sich die aktuellen Eingabedaten von den Trainingsdaten; bei der Modelldrift (englisch Model Drift) sinkt die Güte der Ergebnisse über die Zeit. Erkannte Drift ist ein Anlass, das Modell neu zu trainieren.Kapitel D1
EmbeddingZahlenfolge, die einen Text, ein Bild oder andere Daten so darstellt, dass sich inhaltliche Ähnlichkeit berechnen lässt. Grundlage der Suche in RAG-Systemen.
EU AI ActDie KI-Verordnung der EU (EU AI Act), Verordnung (EU) 2024/1689. Sie stuft KI-Systeme nach ihrem Risiko ein und knüpft daran Pflichten für Anbieter und Betreiber, etwa für Hochrisiko-Systeme und für die Kennzeichnung erzeugter Inhalte. Geändert durch die Verordnung (EU) 2026/1744 („Digital Omnibus on AI“), in Kraft seit 27. Juli 2026.Kapitel B8
EvaluierungSystematische Prüfung von Qualität, Nutzen und Risiko einer KI-Anwendung. Bei generativer KI geschieht sie mit festen Testfällen, Bewertungskriterien und menschlicher Beurteilung.Kapitel D1
Feature (Merkmal)Aus Rohdaten abgeleitete Eigenschaft, die ein Modell verarbeiten kann, etwa das Alter, berechnet aus dem Geburtsdatum.
Feature StoreZentrales, versioniertes Verzeichnis wiederverwendbarer Merkmale mit benannten Verantwortlichen und Qualitätstests. Ein einmal berechnetes Merkmal steht damit allen Modellen zur Verfügung.Kapitel B5
Fine-Tuning (Nachtraining)Nachtrainieren eines vortrainierten Modells mit eigenen Beispieldaten, um Ausgabeformat, Tonalität oder eine Spezialaufgabe festzulegen.
FinOps (Financial Operations)Praxis, die Kosten für Cloud und KI während des Betriebs fortlaufend sichtbar zu machen, den verursachenden Anwendungsfällen zuzuordnen und gemeinsam mit den Fachbereichen zu steuern.Kapitel D2
Foundation Model (auf Deutsch auch Basismodell)Großes, auf sehr breiten Daten vortrainiertes Modell, das als Grundlage für viele Anwendungen dient. Große Sprachmodelle sind die bekannteste Art.
Gate (Entscheidungspunkt)Fester Prüfpunkt am Ende einer Phase des Vorgehensmodells (Bestandsaufnahme, Strategie, Pilot, Skalierung, Betrieb). Das Portfolio Board entscheidet anhand vorher festgelegter Kriterien, ob ein Vorhaben weitergeht, mit Auflagen weitergeht, nachgebessert oder gestoppt wird.Kapitel C1
Generative KI (englisch Generative AI, GenAI)KI, die neue Inhalte erzeugt, etwa Text, Bilder, Programmcode oder Audio.
GovernanceRegeln und Zuständigkeiten dafür, wer über KI-Vorhaben entscheidet, wer sie prüft und freigibt und wer für Ergebnisse und Risiken einsteht.Kapitel B6
GPAI (General-Purpose AI, KI-Modell mit allgemeinem Verwendungszweck)Modell, das sich für viele verschiedene Aufgaben einsetzen lässt, etwa ein großes Sprachmodell. Der EU AI Act regelt solche Modelle in einer eigenen Kategorie mit Pflichten für ihre Anbieter.Kapitel B8
Grounding (Verankerung in Quellen)Verfahren, das die Ausgaben eines generativen Modells auf belegbare Quellen stützt, etwa auf die über RAG mitgegebenen Dokumente. Grounding senkt das Risiko von Halluzinationen.
HalluzinationFalsche, aber überzeugend formulierte Ausgabe eines generativen Modells, etwa ein erfundenes Gerichtsurteil oder eine falsch wiedergegebene Vertragsklausel. Grounding und Evaluierung senken das Risiko, beseitigen es aber nicht.Kapitel D1
Human-in-the-Loop (menschliche Freigabe)Verfahren, bei dem ein Mensch eine folgenreiche Aktion prüft und bestätigt, bevor ein KI-System sie ausführt.Kapitel B9
InferenzNutzung eines fertig trainierten Modells, um eine Ausgabe zu erzeugen. Jede Anfrage an ein Sprachmodell ist eine Inferenz. Die Kosten der Inferenz wachsen mit der Zahl der Anfragen.
KI-KompetenzzentrumZentrales Team, das Fachwissen zu KI bündelt, gemeinsame Plattformen bereitstellt und Standards für alle Fachbereiche setzt.Kapitel B6
KontextfensterGrößte Zahl an Token, die ein Modell in einer einzelnen Anfrage verarbeiten kann. Es begrenzt, wie viel Dokumenttext eine Anfrage mitgeben kann.
LeuchtturmprojektVorhaben mit hohem Wert und hoher Machbarkeit, das früh sichtbaren Nutzen zeigen soll. Sein Erfolg schafft Vertrauen und Budget für die folgenden Vorhaben. In der Priorisierungsmatrix ist es der Quadrant rechts oben.Kapitel B2
LLM (Large Language Model, großes Sprachmodell)Foundation Model für Sprache, vortrainiert auf sehr großen Textmengen.
LLMOps, MLOps, AgentOpsBetriebspraktiken für generative Modelle (LLMOps), für klassische Modelle des maschinellen Lernens (MLOps) und für KI-Agenten (AgentOps). Sie regeln Versionierung, Auslieferung, Überwachung und Aktualisierung im Betrieb.Kapitel B5 (Bausteine der Architektur), D1 (Kennzahlen)
Machbarkeitsnachweis (englisch Proof of Concept, PoC)Kurzer technischer Versuch, der zeigt, ob eine Idee grundsätzlich funktioniert, meist mit Testdaten und ohne echte Nutzer. Anders als ein Pilot prüft ein Machbarkeitsnachweis nicht den Nutzen im Arbeitsalltag.Kapitel C3
Maschinelles Lernen (englisch Machine Learning, ML)Teilbereich der KI, in dem ein System seine Entscheidungsregeln aus Beispieldaten ableitet, statt sie vorgegeben zu bekommen.
MLOpsSiehe LLMOps, MLOps, AgentOps.
Model Context Protocol (MCP)Offener Standard, über den KI-Agenten Werkzeuge und Datenquellen einheitlich anbinden; von Anthropic im November 2024 veröffentlicht. Ein MCP-Server ist das Programm, das ein Werkzeug oder eine Datenquelle über MCP bereitstellt. Aus Sicht der Sicherheit ist jeder angebundene MCP-Server eine eigene Quelle, der das Unternehmen nicht ungeprüft vertrauen darf.Kapitel B9
Modellkarte (englisch Model Card)Dokumentation eines Modells mit Zweck, Trainingsdaten, Annahmen, Grenzen und Risiken. Sie gehört zu den Unterlagen, die vor der Freigabe eines Modells vorliegen sollten.Kapitel B10
MonitoringLaufende Überwachung eines Systems im Betrieb. Bei KI gehören neben Verfügbarkeit und Kosten auch die Qualität der Ergebnisse und die Drift dazu.Kapitel B6
Offenes Modell (englisch open-weight)Modell, dessen Gewichte der Hersteller zum Herunterladen veröffentlicht, sodass ein Unternehmen es selbst betreiben kann. Trainingsdaten und Trainingsverfahren bleiben oft unveröffentlicht; ein offenes Modell ist deshalb nicht dasselbe wie Open Source.Kapitel B3
PilotZeitlich begrenzter Einsatz einer KI-Lösung mit echten Nutzern und echten Daten, der vorher festgelegte Erfolgskriterien prüft. Im Anwendungsfall „Antwortvorschläge Kundenservice“ lautet das Kriterium: Mindestens 50 Prozent der Entwürfe werden ohne Änderung übernommen. Pilot heißt auch die dritte Phase des Vorgehensmodells.Kapitel C3
Portfolio BoardGremium aus benannten Personen der Fachbereiche, der IT, des Datenmanagements, des Risikomanagements und der Finanzen. Es entscheidet über Aufnahme, Reihenfolge und Beendigung von KI-Vorhaben und an den Gates des Vorgehensmodells.Kapitel B7
Product Owner (Product Owner KI)Person, die fachlich für ein KI-Produkt, meist einen einzelnen Anwendungsfall, verantwortlich ist. Sie übersetzt Geschäftsziele in Anforderungen, legt die Reihenfolge der Aufgaben fest, nimmt Ergebnisse ab und misst die Wirkung gegen die Baseline.Kapitel B7
PromptEingabe an ein generatives Modell. Sie enthält die Anweisung und bei Bedarf Beispiele und Kontext.
Prompt InjectionAngriff, bei dem Anweisungen in einer Eingabe oder in einem eingebundenen Inhalt (einer Webseite, einer E-Mail, einem Dokument) versteckt sind und ein Modell oder einen Agenten dazu bringen, etwas anderes zu tun als vorgesehen.Kapitel B9
Quick WinSchnell umsetzbares Vorhaben mit sichtbarem Nutzen. Quick Wins stehen am Anfang einer Roadmap, weil ihr Erfolg früh Vertrauen und Budget für größere Vorhaben schafft.Kapitel C2
RAG (Retrieval-Augmented Generation)Verfahren, das zu jeder Anfrage passende Abschnitte aus eigenen Dokumenten sucht und sie dem Modell zusammen mit der Anfrage mitgibt.Kapitel B5 (Aufbau der Verarbeitungskette), B4 (Anforderungen an die Dokumente)
Red TeamingGeplanter Angriff auf das eigene KI-System durch ein Team, das nicht am Aufbau beteiligt war. Ziel ist, Schwachstellen zu finden, bevor echte Angreifer sie ausnutzen.Kapitel B9
Reifegrad (KI-Reife)Maß dafür, wie weit ein Unternehmen darauf vorbereitet ist, KI-Lösungen zu entwickeln, einzuführen und dauerhaft zu betreiben. Bewertet wird auf Stufen von 1 bis 5 in sieben Dimensionen, darunter Daten, Technologie und Organisation.Kapitel A4
Responsible AI (verantwortungsvolle KI)Grundsätze und Verfahren, mit denen ein Unternehmen dafür sorgt, dass es KI fair, transparent, sicher und unter menschlicher Aufsicht einsetzt.Kapitel B10
Schatten-KI (englisch Shadow AI)KI-Werkzeuge, die Mitarbeitende ohne Freigabe des Unternehmens nutzen, etwa private Zugänge zu Chat-Diensten.Kapitel A2
Scorecard (Bewertungsbogen)Bogen, der Anwendungsfälle anhand gewichteter Kriterien vergleichbar macht. Jedes Kriterium wird von 1 bis 5 bewertet und mit seinem Gewicht multipliziert; daraus ergeben sich ein Wert-Score und ein Machbarkeits-Score. Der Anwendungsfall „Antwortvorschläge Kundenservice“ erreicht einen Wert-Score von 3,3 und einen Machbarkeits-Score von 3,8 und liegt damit im Quadranten „Leuchtturmprojekt“ (hoher Wert, hohe Machbarkeit).Kapitel B2
TCO (Total Cost of Ownership)Alle Kosten einer Lösung über ihre gesamte Nutzungsdauer, also Anschaffung oder Entwicklung, Betrieb, Wartung und Ablösung.Kapitel D2
TokenWortteil, in den ein Sprachmodell Text zerlegt; die kleinste Einheit, die das Modell verarbeitet. Anbieter von Sprachmodellen über eine API rechnen nach der Zahl der Token in Eingabe und Antwort ab.
Unit Economics (Kosten und Nutzen je Einheit)Kosten und Nutzen bezogen auf eine einzelne Einheit, etwa eine Anfrage. Im Anwendungsfall „Antwortvorschläge Kundenservice“ kostet eine Anfrage im Betrieb 1,50 Euro (45.000 Euro laufende Kosten geteilt durch 30.000 Anfragen im Jahr) und bringt im Mittel 7,50 Euro Nutzen (225.000 Euro mittlerer Nutzen geteilt durch 30.000 Anfragen).Kapitel D2
VektordatenbankDatenbank, die Embeddings speichert und zu einer Anfrage die inhaltlich ähnlichsten Einträge findet. In RAG-Systemen übernimmt sie die Suche nach inhaltlich passenden Abschnitten.Kapitel B5
Vendor Lock-in (Anbieterabhängigkeit)Abhängigkeit von einem Anbieter, die einen Wechsel teuer oder praktisch unmöglich macht, etwa weil Daten, Schnittstellen oder Prompts auf dessen Modell zugeschnitten sind.Kapitel B3

Der Lesestand wird nur in diesem Browser gespeichert.

Suche in allen Kapiteln, Vorlagen und Checklisten.