A2. Grundlagen und Begriffe

Wer Architektur, Betrieb, Kosten oder Regulatorik diskutiert, braucht klare Begriffe, sonst reden Fachbereich, IT und Vorstand aneinander vorbei.

Was dieses Kapitel liefert: die gemeinsame Sprache für alles, was folgt. Die ersten Abschnitte ordnen die wichtigsten Konzepte ein, das abschließende Glossar definiert die im gesamten Werk verwendeten Begriffe. Das Kapitel ist bewusst als Nachschlageteil angelegt.

KI, maschinelles Lernen, Deep Learning, generative KI

Diese vier Begriffe werden im Alltag oft synonym verwendet, beschreiben aber ineinander geschachtelte Konzepte:

• Künstliche Intelligenz (KI): Oberbegriff für Systeme, die Aufgaben übernehmen, die normalerweise menschliche Intelligenz erfordern. Dazu zählen auch klassische regelbasierte Systeme.
• Maschinelles Lernen (ML): Teilbereich, in dem Systeme Muster aus Daten lernen, statt explizit programmiert zu werden. Die meisten produktiven „KI"-Anwendungen sind ML.
• Deep Learning: ML-Verfahren auf Basis tiefer neuronaler Netze. Es dominiert dort, wo unstrukturierte Daten (Bild, Sprache, Text) verarbeitet werden.
• Generative KI (GenAI): erzeugt neue Inhalte wie Text, Bild, Code oder Audio. Grundlage sind große, vortrainierte Foundation Models.

Für die Strategie ist die Unterscheidung prädiktiv vs. generativ entscheidend: Prädiktive ML-Modelle (z. B. Betrugserkennung, Absatzprognose) liefern eine Zahl oder Klasse und lassen sich gut messen; ihre typischen Risiken sind verzerrte Trainingsdaten, Drift und unbemerkt sinkende Genauigkeit (siehe Kapitel D1 und B10). Generative Modelle liefern offene Ausgaben und sind schwerer zu evaluieren. Zusätzlich zu den genannten Risiken bringen sie zwei mit, die es nur bei ihnen gibt: Halluzination kann nur entstehen, wenn ein Modell frei formulierte Inhalte erzeugt, und Prompt Injection setzt voraus, dass ein System freie Eingaben als Anweisungen interpretiert; beides trifft auf prädiktive Modelle nicht zu. Beide Modellarten gehören in eine KI-Strategie, erfordern aber unterschiedliche Architektur, Governance und Metriken.

Sprachmodelle (LLM) und Foundation Models

Ein Large Language Model (LLM) ist ein generatives Foundation Model für Sprache. Es wird auf sehr großen Textmengen vortrainiert und kann anschließend für viele Aufgaben genutzt werden, ohne pro Aufgabe neu trainiert zu werden. Zwei Bezugsmodelle prägen heute jede Architekturentscheidung:

• Proprietäre Modelle über API (z. B. von großen Anbietern): schnell verfügbar, hohe Qualität, aber laufende Kosten pro Anfrage, Abhängigkeit vom Anbieter und Fragen zum Datenabfluss.
• Offene Modelle (open-weight) zum Selbstbetrieb: volle Datenhoheit und planbare Kosten, dafür eigener Betriebsaufwand und Hardwarebedarf.

Diese Wahl ist keine reine IT-Frage, sondern berührt Datenschutz, Kostenmodell (FinOps), Vendor Lock-in und Souveränität. Die Entscheidungskriterien dafür liefert Kapitel B3 (Build, Buy oder Partner), die technische Verankerung im Bereitstellungsmodell (Cloud, On-Premises, hybrid) zeigt Kapitel B5 (Zielbild-Architektur), die Kostenfolgen behandelt Kapitel D2 (Kosten und FinOps) und die Datenschutzfragen Kapitel B8 (Regulatorik und Compliance).

Die drei Wege, einem Modell Wissen und Verhalten zu geben

Eine der häufigsten und teuersten Fehlentscheidungen ist, ein Modell zu trainieren, wo ein einfacherer Weg genügt hätte. Es gibt drei grundlegende Ansätze, die sich kombinieren lassen:

Faustregel: Erst Prompting, dann RAG, dann Fine-Tuning. Nur eine Stufe weitergehen, wenn die vorherige nachweislich nicht reicht. RAG ist für die meisten Wissensanwendungen im Unternehmen der richtige Startpunkt, weil es Aktualität und Nachvollziehbarkeit verbindet, ohne Modelle neu zu trainieren.

Agentic AI: KI-Agenten

Ein KI-Agent ist ein System, das nicht nur antwortet, sondern eigenständig mehrschrittige Aufgaben verfolgt: Es plant, ruft Werkzeuge auf (Suche, Datenbank, Fachsystem, andere Dienste), bewertet Zwischenergebnisse und handelt weiter, bis ein Ziel erreicht ist. Der Unterschied zum klassischen Chatbot ist der Übergang von „Antwort geben" zu „Aufgabe erledigen".

Zentrale Bausteine eines Agenten:

• Planung: Zerlegung einer Aufgabe in Schritte.
• Werkzeugnutzung (Tool Use): kontrollierter Zugriff auf APIs, Datenquellen und Aktionen.
• Gedächtnis: Kontext über mehrere Schritte hinweg.
• Orchestrierung: Zusammenspiel mehrerer Agenten oder Werkzeuge.

Agenten erhöhen den Nutzen, aber auch das Risiko: Wer handeln darf, kann Schaden anrichten. Drei Leitplanken sind nicht verhandelbar und werden in den Kapiteln B9 (Sicherheit) und B7 (Rollen) vertieft:

• Human-in-the-Loop bei allen folgenreichen oder irreversiblen Aktionen (Freigaben, Zahlungen, Versand, Löschungen).
• Eng begrenzte Rechte: Ein Agent erhält nur die Werkzeuge und Zugriffe, die er zwingend braucht.
• Vollständige Protokollierung jeder Aktion für Nachvollziehbarkeit und Audit.

Betriebsdisziplinen: MLOps, LLMOps, AgentOps

Damit Modelle nicht im Pilotstatus stecken bleiben, braucht es definierte Betriebspraktiken, das Gegenstück zu DevOps für Software:

• MLOps: Versionierung, Training, Deployment, Monitoring und erneutes Training klassischer ML-Modelle.
• LLMOps: Ergänzungen für generative Modelle: Prompt- und Kontextverwaltung, Evaluierung offener Ausgaben, Halluzinations- und Kostenkontrolle, RAG-Pipelines.
• AgentOps: Überwachung und Steuerung von Agenten: Werkzeug-Aufrufe, Handlungsketten, Eingriffspunkte, Fehlerbehandlung.

Diese Begriffe werden in den Kapiteln B5 (Zielbild-Architektur), B6 (Betriebsmodell und Organisation) und D1 (Metriken und Evaluierung) konkret mit Bausteinen und Kennzahlen unterlegt.

Glossar

Alphabetische Kurzdefinitionen der im gesamten Werk verwendeten Begriffe.

• A/B-Test: Vergleich zweier Varianten im Realbetrieb, um den Mehrwert einer KI-gestützten Lösung gegen eine Kontrollgruppe objektiv zu messen.
• Agent / Agentic AI: System, das mehrschrittige Aufgaben eigenständig plant und über Werkzeuge ausführt.
• Bias (Verzerrung): systematische Schieflage in Daten oder Modell, die zu unfairen oder falschen Ergebnissen für bestimmte Gruppen führt.
• Drift: Auseinanderlaufen von aktuellen Eingabedaten und Trainingsdaten (Data Drift) bzw. Verschlechterung der Modellgüte über die Zeit (Model Drift). Auslöser für erneutes Training.
• Embedding: numerische Darstellung von Text, Bild oder anderen Daten, die semantische Ähnlichkeit messbar macht; Grundlage für die Suche in RAG-Systemen.
• Evaluierung: systematische Prüfung von Qualität, Nutzen und Risiko einer KI-Anwendung (siehe Kapitel D1).
• Feature / Merkmal: aus Rohdaten abgeleitete, für Modelle nutzbare Eigenschaft (z. B. „Alter" aus dem Geburtsdatum).
• Feature Store: zentrales, versioniertes Repository wiederverwendbarer Merkmale mit Verantwortlichen und Qualitätstests.
• Fine-Tuning: Nachtrainieren eines vortrainierten Modells mit eigenen Daten.
• Foundation Model: großes, breit vortrainiertes Modell, das als Basis für viele Anwendungen dient.
• GPAI (General-Purpose AI): KI-Modell mit allgemeinem Verwendungszweck; im EU AI Act eine eigene Regulierungskategorie.
• Grounding: Verankerung generativer Ausgaben in belegbaren Quellen, um Halluzinationen zu reduzieren.
• Halluzination: inhaltlich falsche, aber plausibel formulierte Ausgabe eines generativen Modells.
• Human-in-the-Loop: verpflichtende menschliche Prüfung oder Freigabe vor folgenreichen Aktionen.
• Inferenz: Nutzung eines fertig trainierten Modells zur Erzeugung einer Ausgabe; verursacht die laufenden Betriebskosten.
• Kontextfenster: maximale Menge an Text, die ein Modell pro Anfrage berücksichtigen kann; begrenzt, wie viel Wissen mitgegeben werden kann.
• LLM (Large Language Model): großes generatives Sprachmodell.
• LLMOps / MLOps / AgentOps: Betriebspraktiken für generative Modelle, klassische ML-Modelle bzw. Agenten.
• Modellkarte (Model Card): Dokumentation eines Modells: Zweck, Daten, Annahmen, Grenzen, Risiken. Pflichtartefakt für Governance.
• Datenkarte (Data Card): analoge Dokumentation eines Datensatzes.
• Prompt: Eingabe an ein generatives Modell, die Aufgabe und Kontext beschreibt.
• Prompt Injection: Angriff, bei dem schädliche Anweisungen über Eingaben oder eingebundene Inhalte das Verhalten eines Modells oder Agenten kapern.
• RAG (Retrieval-Augmented Generation): Verfahren, das relevante eigene Dokumente zur Laufzeit sucht und dem Modell als Kontext mitgibt.
• Token: kleinste Verarbeitungseinheit eines Sprachmodells (Wortbestandteil); Abrechnungs- und Kostenbasis bei API-Modellen.
• Vendor Lock-in: Abhängigkeit von einem Anbieter, die einen Wechsel teuer oder praktisch unmöglich macht.

Hinweis: Begriffe der Regulatorik (Anbieter, Betreiber, Hochrisiko, Annex III, Konformitätsbewertung) werden in Kapitel B8 (Regulatorik und Compliance) definiert und dort im Zusammenhang erläutert.