B6. Betriebsmodell und Organisation
Während die Architektur festlegt, welche technischen Bausteine nötig sind, beantwortet das Betriebsmodell, wer sie entwickelt, betreibt und verantwortet, und ob KI zentral gesteuert oder in die Fachbereiche verteilt wird. Die Vorgabe dafür liefert Kapitel B1: Dort hat die Geschäftsführung die Gesamtverantwortung vergeben, hier wird die Organisation darunter gestaltet. Ohne klares Betriebsmodell drohen unkoordinierte Initiativen, Doppelarbeit und fehlende Skalierbarkeit. Ziel ist ein wiederholbares, skalierbares und sicheres Vorgehen über den gesamten Lebenszyklus, von der Idee bis zur Stilllegung.
Abgrenzung: Dieses Kapitel definiert die Organisationsform und die Betriebsprozesse. Die konkreten Rollen, Entscheidungsrechte und Vorlagen (RACI, Rollensteckbrief) stehen gebündelt in Kapitel B7.
Was dieses Kapitel liefert: das Betriebsmodell entlang von sechs Fragen auf drei Ebenen. Zuerst die Organisation selbst, dann der Weg, den ein einzelnes Vorhaben durch sie nimmt, zuletzt die Regeln, die dabei für alle gelten, und die Steuerung, die das Betriebsmodell wirksam hält. Die erste Spalte sagt jederzeit, auf welcher Ebene ein Abschnitt liegt:
| Ebene | Abschnitt | Frage |
|---|---|---|
| Die Organisation | Organisationsform | Wie sind Entscheidungsrechte verteilt: zentral, föderiert oder hybrid? |
| Die Organisation | KI-Kompetenzzentrum | Was leistet das zentrale Team konkret, wie ist es besetzt und finanziert? |
| Der Weg eines Vorhabens | Intake | Wie kommen Ideen geordnet ins Portfolio statt per Zuruf? |
| Der Weg eines Vorhabens | Lebenszyklusmanagement | Welche Freigaben braucht ein KI-Modell von der Idee bis zur Stilllegung? |
| Regeln und Steuerung | Was für alle Vorhaben verbindlich gilt | Welche Arbeitsweisen sind Pflicht, wer überwacht sie, wie werden Partner gesteuert? |
| Regeln und Steuerung | Das Betriebsmodell steuern und weiterentwickeln | Woran misst sich das Betriebsmodell und wie bleibt es wirksam? |
Organisationsform: zentral, föderiert oder hybrid
Die Organisationsform bestimmt, wie Entscheidungsrechte und Kompetenzen verteilt sind. Dies ist die zentrale Strukturentscheidung des Betriebsmodells.
| Organisationsform | Funktionsweise | Stärken | Risiken | Gegenmaßnahmen |
|---|---|---|---|---|
| Zentral (KI-Kompetenzzentrum) | Ein zentrales Team bündelt Expertise, stellt die Plattform bereit, setzt Standards | Einheitlichkeit, hohe Wiederverwendung, schnelle Skalierung | Flaschenhals bei vielen Projekten | Servicekatalog, transparente Priorisierung, Kapazitätssteuerung |
| Föderiert (mit Leitplanken) | Fachbereiche entwickeln eigene Produkte auf gemeinsamen Bausteinen | Nähe zum Geschäft, Geschwindigkeit, Innovation | Inkonsistenz, Doppelarbeit, Architektur-Drift | Harte Leitplanken, Pflichtprüfungen, Communities of Practice |
| Hybrid | Zentrale Leitplanken und Bausteine, dezentrale Umsetzung | Balance aus Einheitlichkeit und Flexibilität | Unklare Grenzen zentral/dezentral | Klare Mandate, dokumentierte Schnittstellen |
Auswahlhilfe: Welche Organisationsform passt wann
Die Tabelle ordnet typischen Ausgangslagen eine Organisationsform zu; die Begründung nennt jeweils den ausschlaggebenden Faktor:
| Situation | Empfehlung | Begründung |
|---|---|---|
| Einstiegsphase, wenige Expert:innen, erste Piloten | Zentral | Knappe Kompetenz wird gebündelt statt verstreut; Standards entstehen einmal statt dreimal |
| Mehrere Bereiche mit eigenen produktiven Anwendungsfällen, Plattform etabliert | Hybrid | Zentrale sichert Standards und Plattform, Fachbereiche liefern Produkte mit Geschäftsnähe |
| Hohe KI-Reife in mehreren Bereichen, starke dezentrale Teams | Föderiert mit Leitplanken | Zentrale Steuerung würde bremsen; verbindliche Leitplanken halten das Ganze konsistent |
| Stark reguliertes Geschäft (Finanz, Gesundheit) | Zentral oder hybrid mit zentralen Prüf- und Freigabefunktionen | Compliance-, Sicherheits- und Modellrisiko-Prüfungen müssen einheitlich und unabhängig bleiben |
Die Organisationsform ist keine Einmalentscheidung: Die meisten Organisationen starten zentral und föderalisieren mit wachsender Reife. Das Signal für den Übergang liefert das Reifegradprofil (siehe Kapitel A3): Wenn Fachbereiche wiederholt auf das Zentrum warten, obwohl sie die Kompetenz hätten, bremst die Struktur statt zu sichern.
Das KI-Kompetenzzentrum konkret
Das KI-Kompetenzzentrum ist das zentrale Team, das Plattform, Standards und Unterstützung bündelt. Für die zentrale und die hybride Form ist es der Kern des Betriebsmodells. Auch die föderierte Form kommt selten ohne aus: Dort ist das Zentrum kleiner, hält aber die gemeinsamen Leitplanken, Pflichtprüfungen und Plattformbausteine, auf denen die Fachbereiche aufsetzen. Wer föderiert arbeitet, nutzt diesen Abschnitt also für den Zuschnitt dieses kleinen Kerns, wer zentral oder hybrid arbeitet für das ganze Team.
Damit das Zentrum arbeitsfähig wird, sind vier Dinge festzulegen: sein Auftrag, seine Besetzung, seine Finanzierung und seine Erfolgskriterien. Zusammen ergeben sie den Steckbrief des Zentrums.
Auftrag (Servicekatalog). Der Auftrag legt fest, wofür das Zentrum zuständig ist. Das Werkzeug dafür ist ein Servicekatalog: eine verbindliche Liste der Leistungen, die das Zentrum den Fachbereichen anbietet, so wie ein Dienstleister sein Angebot beschreibt. Zu ermitteln ist, welche dieser Leistungen das eigene Zentrum übernimmt und zusagt. Der Nutzen ist doppelt: Die Fachbereiche wissen, was sie erwarten dürfen und wo sie es bekommen, und das Zentrum ist davor geschützt, zur diffusen Anlaufstelle für “alles mit KI” zu werden. Was nicht im Katalog steht, ist nicht seine Aufgabe. Die Tabelle zeigt die üblichen fünf Leistungsblöcke als Ausgangspunkt:
| Leistung | Inhalt |
|---|---|
| Plattformdienste | Modellzugänge (Gateway), RAG-Infrastruktur, Entwicklungsumgebungen, Monitoring (siehe Kapitel B5) |
| Delivery-Unterstützung | Umsetzung von Anwendungsfällen mit dem Fachbereich, von Discovery bis Übergabe |
| Prüf- und Freigabeleistungen | Sicherheits-, Regulatorik- und Ethik-Prüfungen koordinieren (siehe Kapitel B8 bis B10) |
| Standards und Vorlagen | Modellkarten, Evaluations-Suiten, Prompt-Bibliothek, Referenzarchitekturen pflegen |
| Befähigung | Schulungspfade, Communities of Practice, Beratung der Fachbereiche (siehe Kapitel B11) |
Startbesetzung. Klein und komplementär statt groß und homogen: eine Leitung mit Geschäfts- und Technikverständnis, 1 bis 2 Data/ML Engineers, 1 Data Scientist bzw. GenAI-Expert:in, anteilig Architektur-, Sicherheits- und Compliance-Kompetenz aus den bestehenden Funktionen. Wachstum folgt der Nachfrage, nicht dem Organigramm.
Finanzierung. Drei Grundmuster, oft kombiniert: zentrales Budget für Plattform und Standards (Gemeingut), Verrechnung der Delivery-Leistung an die beauftragenden Fachbereiche, nutzungsbasierte Zuordnung der Modell- und Plattformkosten (Showback/Chargeback, siehe Kapitel D2). Reine Zentralfinanzierung macht das Zentrum zum Gratis-Dienstleister ohne Priorisierungsdruck; reine Verrechnung würgt die frühen, unsicheren Vorhaben ab.
Erfolgskriterien. Das Kompetenzzentrum wird an denselben Maßstäben gemessen wie das Programm: Durchlaufzeit von Idee zu Pilot, Anteil wiederverwendeter Bausteine, Zufriedenheit der Fachbereiche, Zeit bis zur Freigabe. Ein Zentrum, das nur sich selbst beschäftigt, fällt an diesen Kennzahlen auf.
Intake: von der Idee ins Portfolio
Die beiden vorigen Abschnitte haben die Organisation gebaut: die Struktur und das Team darin. Ab hier wechselt die Perspektive auf ein einzelnes Vorhaben und den Weg, den es durch diese Organisation nimmt. Er beginnt beim Intake, dem definierten Weg, auf dem Ideen ins Portfolio kommen. Ohne ihn entsteht Zuruf-Steuerung: Wer am lautesten fragt, wird bedient.
| Schritt | Was passiert | Wer |
|---|---|---|
| 1. Einreichung | Idee wird mit dem Anwendungsfall-Steckbrief (siehe Kapitel B2) eingereicht; bewusst niedrigschwellig | Fachbereich |
| 2. Screening | Kurzprüfung: Ethik-Screening (siehe Kapitel B10), grobe Regulatorik-Einstufung (siehe Kapitel B8), Datenverfügbarkeit | KI-Kompetenzzentrum, 1 bis 2 Wochen |
| 3. Bewertung | Scorecard Wert × Machbarkeit gemeinsam mit dem Fachbereich | Kompetenzzentrum + Fachbereich |
| 4. Portfolioentscheidung | Aufnahme, Ablehnung oder Warteliste; Einordnung in die Roadmap-Welle (siehe Kapitel C2) | Portfolio Board (siehe Kapitel B7) |
Prüftiefe skaliert mit dem Risiko: Der Intake behandelt nicht alle Ideen gleich. Risikoarme Anwendungsfälle durchlaufen Screening und Freigaben im verkürzten Verfahren: Das Ethik-Screening endet für sie ohne Auflagen, und minimales regulatorisches Risiko löst keine besonderen Pflichten aus. Der volle Prüfumfang bleibt den sensiblen Fällen vorbehalten. So schützt die Governance, ohne risikoarme Vorhaben auszubremsen.
Auch Ablehnungen werden dokumentiert und kommuniziert: Ein transparentes Nein hält die Einreichenden im Prozess, ein stilles Versanden treibt sie in die Shadow AI (siehe Kapitel A1).
Lebenszyklusmanagement von KI-Modellen
Jedes KI-Modell durchläuft denselben Weg: Es beginnt als Idee, wird entwickelt und trainiert, getestet, geht in den Betrieb und wird irgendwann stillgelegt. Das Betriebsmodell legt fest, dass keiner dieser Übergänge einfach passiert, sondern jeder eine verbindliche Freigabe durch eine benannte Instanz braucht. Genau das unterscheidet gesteuerten Betrieb von Wildwuchs: Ohne Freigaben landet ein ungeprüftes Modell in der Produktion, und ein abgeschaltetes hinterlässt ungelöschte Daten. Die Grafik zeigt den Weg mit seinen Freigabepunkten, die Tabelle darunter benennt je Übergang die Freigabe und die zuständige Instanz. Für generative Modelle und Agenten gelten zusätzlich LLMOps- bzw. AgentOps-Praktiken (siehe Kapitel A2).
| Lebenszyklus-Schritt | Verbindliche Freigabe | Durch |
|---|---|---|
| Idee → Entwicklung | Portfolioentscheidung (Intake oben) | Portfolio Board |
| Entwicklung: Datenzugriff | Datenfreigabe mit Zweckbindung | Data Owner (siehe Kapitel B7) |
| Test → Produktion | Sicherheits-, Compliance- und Ethikfreigabe; Evaluationsnachweis gegen Schwellenwerte | Unabhängige Prüfinstanzen (siehe Kapitel B8 bis B10, D1) |
| Betrieb: wesentliche Änderung (neues Modell, neue Datenquelle) | Erneute Kurzprüfung; bei Hochrisiko erneute Konformitätsbewertung prüfen | Service Owner + Prüfinstanzen |
| Betrieb → Stilllegung | Geordneter Rückbau: Abschaltplan, Datenlöschung nach Löschregeln, Archivierung der Nachweise | Service Owner + Data Owner |
Das laufende Monitoring (korrekte Funktion, keine Verzerrungen, rechtzeitige Erneuerung) gehört dem Service Owner und ist in Kapitel D1 mit Kennzahlen unterlegt.
Was für alle Vorhaben verbindlich gilt: Standards, Governance und Partner
Damit endet der Weg des einzelnen Vorhabens, und der Blick geht zurück auf die Organisation. Dieser Abschnitt legt nicht fest, was ein bestimmtes Modell tun muss, sondern welche Regeln die Organisation für jedes Vorhaben verbindlich setzt. Drei Festlegungen gehören dazu: welche Arbeitsweisen Pflicht sind (Standards und Werkzeuge), wer ihre Einhaltung überwacht (Governance und Compliance) und wie externe Partner gesteuert werden (Partner und Lieferkette). Sie gelten in jeder Organisationsform, auch der föderierten.
Standards und Werkzeuge
Skalierbarer Betrieb braucht wiederholbare Prozesse für Datenaufbereitung, Training, Deployment und Monitoring. Das Betriebsmodell legt fest, welche Standards verbindlich sind; alles andere bleibt Teamentscheidung. Ein bewährter Mindestsatz:
- Versionierung von Code, Daten, Modellen und Prompts; reproduzierbare Builds
- Modell- und Datenkarte je produktivem Modell
- Evaluations-Suite mit Schwellenwerten vor jedem Deployment (siehe Kapitel D1)
- Deployment nur über die CI/CD-Pipeline, keine manuellen Produktivänderungen
- Monitoring inkl. Drift und Kosten je Anwendungsfall (siehe Kapitel D2)
Abweichungen sind möglich, aber begründungspflichtig und dokumentiert. So bleibt der Standard durchsetzbar, ohne Sonderfälle zu blockieren.
Nachweise automatisiert erzeugen: Wer diese Standards über die CI/CD-Pipeline durchsetzt, erhält die Compliance-Nachweise als Nebenprodukt: Modellkarte, Evaluationsbericht und Protokolle werden bei jedem Deployment automatisch erzeugt und versioniert abgelegt, statt von Hand nachgepflegt zu werden. Das senkt den Dokumentationsaufwand erheblich und liefert Prüfern jederzeit den aktuellen Stand statt einer veralteten Handakte.
Governance und Compliance
Der Betrieb erfordert klare Regeln für Sicherheit, Datenschutz und Ethik sowie die Umsetzung regulatorischer Anforderungen (EU AI Act, branchenspezifische Normen, siehe Kapitel B8). Das Betriebsmodell legt Audits, Risikoanalysen und Dokumentationspflichten fest und benennt, wer die Einhaltung überwacht. Der Grundsatz der Aufgabentrennung gilt strukturell: Prüf- und Freigabefunktionen sind organisatorisch von Entwicklung und Betrieb getrennt (siehe Kapitel B7, Segregation of Duties), auch im föderierten Modell.
Partner und Lieferkette
Viele Unternehmen nutzen externe Partner (Cloud, Beratung, spezialisierte Plattformen). Das Betriebsmodell definiert Auswahl, Steuerung und Überwachung, inklusive Umgang mit Abhängigkeiten, Exit-Strategien und Qualitäts- und Sicherheitsanforderungen (Auswahlkriterien und Fragenkatalog: Kapitel B3; Vertragsdetails: Kapitel D2). Für regulierte Branchen kommen die Auslagerungs- und Drittparteianforderungen der Aufsicht hinzu.
Das Betriebsmodell steuern und weiterentwickeln
Das Betriebsmodell ist kein Projekt mit Enddatum. Drei Aufgaben halten es dauerhaft wirksam: seine Ergebnisse messen (Erfolgsmessung), die nötigen Fähigkeiten sichern (Kompetenz und Wissen) und Prozesse und Standards regelmäßig nachschärfen (kontinuierliche Verbesserung).
Erfolgsmessung
Zwei Dinge sind hier zu messen, und sie geraten leicht durcheinander.
- Die KI-Lösungen: Das Betriebsmodell legt fest, welche technischen KPIs (etwa Modellgüte, Verfügbarkeit) und Business-KPIs (Kostensenkung, Umsatz, Kundenzufriedenheit) je Vorhaben erhoben werden. Ein transparenter Reporting-Mechanismus erlaubt dem Management, Fortschritt zu verfolgen und nachzusteuern (Kennzahlensystem: Kapitel D1; Berichtswege: Kapitel D4).
- Das Betriebsmodell selbst: Durchlaufzeiten je Lebenszyklus-Schritt und Freigabedauern zeigen, ob die Prozesse tragen oder bremsen.
Kompetenz und Wissen
Ein Betriebsmodell trägt nur mit den passenden Fähigkeiten. Programme für Aus- und Weiterbildung sowie Communities of Practice verteilen und sichern Wissen und verringern die Abhängigkeit von Einzelpersonen. Die Talentstrategie samt Kompetenz-Matrix wird in Kapitel B11 ausgearbeitet; das Kompetenzzentrum trägt die Befähigung als Leistung im Servicekatalog (oben).
Kontinuierliche Verbesserung
Technologie, Datenlage und Regulierung ändern sich laufend. Das Betriebsmodell wird deshalb selbst regelmäßig geprüft: eine jährliche Wirksamkeitsprüfung der Governance, quartalsweise Auswertung der Durchlaufzeiten und Engpässe, und ein definierter Weg, über den Teams Verbesserungen an Standards und Prozessen vorschlagen. Communities of Practice tragen Best Practices zwischen den Bereichen.
Checkliste: tragfähiges Betriebsmodell
Die Checkliste prüft, ob das Betriebsmodell die sechs Fragen vom Kapitelanfang beantwortet:
- Organisationsform bewusst gewählt und begründet; Übergangssignale (Reifegrad) definiert
- KI-Kompetenzzentrum mit Servicekatalog, Startbesetzung, Finanzierungsmodell und Erfolgskriterien aufgesetzt
- Intake-Prozess von Einreichung bis Portfolioentscheidung etabliert; Prüftiefe nach Risiko gestaffelt; Ablehnungen werden kommuniziert
- Verpflichtende Freigaben je Lebenszyklus-Schritt definiert (Tabelle oben)
- Verbindlicher Mindestsatz an Standards festgelegt; Abweichungen begründungspflichtig; Nachweise automatisiert aus der Pipeline erzeugt
- Governance- und Compliance-Verantwortung zugewiesen; Prüffunktionen unabhängig
- Partnerauswahl- und Exit-Regeln vorhanden
- Reporting-Mechanismus etabliert; Durchlaufzeiten des Betriebsmodells selbst gemessen
- Kompetenzaufbau eingeplant; Wissen über Communities of Practice gesichert
- Mechanismus zur kontinuierlichen Verbesserung verankert