D3. Risikomanagement
KI bringt Risiken mit, die über Erfolg oder Scheitern entscheiden können. Die Chancenseite wird auf Strategieebene in Kapitel B1 bewertet; hier wird die Risikoseite gesteuert.
Was dieses Kapitel liefert: das Werkzeug, um KI-Risiken zu erfassen, zu bewerten, zu behandeln und zu überwachen. Diese vier Schritte bilden den Kreislauf in der Abbildung, und die vier nummerierten Abschnitte dieses Kapitels sind genau diese Schritte. Kernartefakt ist das Risiko-Register, das jeden einzelnen Risikoeintrag durch alle vier Schritte begleitet.
So greifen die Teile ineinander: Die Risikofelder in Schritt 1 sagen, wonach zu suchen ist. Jedes konkrete Risiko wird eine Zeile im Register und durchläuft dann die weiteren Schritte: bewerten und mit dem Appetit abgleichen (Schritt 2), eine Behandlungsstrategie wählen (Schritt 3), mit einem Frühindikator überwachen und regelmäßig neu prüfen (Schritt 4).
1. Erfassen: Risiken sammeln und ins Register eintragen
Am Anfang steht die Frage, welche Risiken überhaupt in Betracht kommen. Sieben Risikofelder treten bei KI-Vorhaben immer wieder auf. Sie sind das Suchraster: Pro Feld werden die konkreten Risiken des eigenen Vorhabens gesammelt, und jedes davon wird eine eigene Zeile im Register. Ein Feld kann also mehrere Einträge liefern, ein anderes gar keinen. Eine oft unterschätzte Gefahr liegt nicht in der Technik, sondern in fehlendem Vertrauen und fehlender Schnittstellenkompetenz, also Menschen, die Technik, Recht und Kultur verbinden.
Die sieben Risikofelder
| Risikofeld | Beispiele konkreter Risiken (je ein Registereintrag) | Vertiefung |
|---|---|---|
| Datenschutz und Regulatorik | fehlende Rechtsgrundlage, unterlassene Datenschutz-Folgenabschätzung (DSFA), unrechtmäßige Verarbeitung, widersprüchliche Vorgaben je Land | Kapitel B8 |
| Modell- und Ergebnisqualität | Verzerrung und Diskriminierung, Halluzination, Drift, fehlerhafte Diagnosen | Kapitel B10 |
| Sicherheit und Missbrauch | Prompt Injection, Abfluss sensibler Daten, Modelldiebstahl, manipulierte Trainingsdaten | Kapitel B9 |
| Abhängigkeit von Anbietern | Vendor Lock-in, Preis- oder Lizenzsprung, Exportkontrollen, Ausfall eines Anbieters | Kapitel B3 |
| Betrieb und Wirtschaftlichkeit | Kostenentgleisung, mangelnde Verfügbarkeit, fehlende Skalierbarkeit | Kapitel D2 |
| Kompetenz, Akzeptanz und Kultur | Fachkräftelücke, fehlendes Vertrauen, Widerstand, unwirksame Aufsicht | Kapitel B11 |
| Generative KI und Agenten | unkontrollierte Agentenaktionen, Fehlinformation, Urheberrechtsverletzung | Kapitel A2 |
Vorlage: Risiko-Register
Jedes konkrete Risiko wird hier eine Zeile. Beim Erfassen werden Risiko, Kategorie (eines der sieben Felder) und Verantwortliche eingetragen; die Spalten Wahrscheinlichkeit bis Risikowert füllt Schritt 2, die Spalte Strategie füllt Schritt 3. Die Beispielzeile zeigt einen fertig ausgefüllten Eintrag.
| Risiko | Kategorie | Wahrscheinlichkeit (1 bis 5) | Auswirkung (1 bis 5) | Risikowert | Strategie | Gegenmaßnahme | Verantwortlich | Status |
|---|---|---|---|---|---|---|---|---|
| Beispiel: API-Preiserhöhung des Modellanbieters | Abhängigkeit von Anbietern | 3 | 4 | 12 | Mindern | Zweitanbieter qualifiziert, Wechselpfad dokumentiert | FinOps-Leitung | In Umsetzung |
Steuerung: Risiken mit hohem Wert werden aktiv behandelt und im Portfolio Board berichtet (siehe Kapitel B7). Das Register wird mit jedem neuen Anwendungsfall und in festen Rhythmen aktualisiert.
2. Bewerten: Risikowert und Freigabestufe
Jeder Eintrag wird zweifach bewertet. Zuerst der Risikowert: Eintrittswahrscheinlichkeit mal Auswirkung (je 1 bis 5), das Produkt ist der Wert; ab etwa 12 gilt ein Risiko als hoch und verlangt eine aktive Behandlung mit verantwortlicher Person. Dann der Abgleich mit dem Risikoappetit, der festlegt, wie viel das Unternehmen bewusst trägt.
Der Appetit wird nicht je Risikofeld gesetzt, sondern je Schwere der möglichen Folge. Jeder Eintrag, egal aus welchem Feld, hat eine solche Folge: Ein Anbieterausfall trifft das Unternehmen wirtschaftlich, eine unrechtmäßige Verarbeitung rechtlich. Ohne diese Vorgabe entscheidet jedes Projekt für sich, und vergleichbare Risiken werden einmal getragen und einmal gestoppt.
Vorlage: Risikoappetit und Freigabestufen
Die Führung legt den Appetit je Folgenart einmal fest; daraus folgt, wer eine Überschreitung freigeben muss. Die mittleren Spalten zeigen ein Muster, die Schwellen setzt jedes Unternehmen passend zu Branche und Aufsicht.
| Folgenart | Appetit (Muster) | Was das in der Praxis heißt | Freigabe bei Überschreitung |
|---|---|---|---|
| Verletzung von Recht und Datenschutz | Null bis sehr niedrig | Kein Vorhaben geht live, bevor die Rechtsgrundlage steht; im Zweifel Stopp | Vorstand; kein Projektermessen |
| Schaden für Betroffene (Fairness, Sicherheit) | Niedrig | Hochrisiko-Fälle nur mit menschlicher Aufsicht und dokumentierter Abwägung | Risiko- oder Ethikgremium |
| Reputationsschaden | Niedrig bis mittel | Abhängig von der Sichtbarkeit; kundennahe Fälle strenger als interne | Gremium, bei hoher Sichtbarkeit Vorstand |
| Wirtschaftliches Risiko (Kosten, ROI) | Mittel | Bewusste Wetten erlaubt, solange der Verlust begrenzt und tragbar ist | Portfolio Board |
So wird die Vorlage genutzt: Für jeden Eintrag wird der Risikowert mit dem Appetit seiner Folgenart verglichen. Liegt er darüber, greift die Freigabestufe der rechten Spalte: Die Entscheidung ist dann keine Ermessensfrage des Projekts mehr, sondern Sache des dort genannten Gremiums oder des Vorstands (siehe Kapitel B7). Ergebnis ist eine von der Führung getragene Festlegung, an der sich jede spätere Freigabe misst.
3. Behandeln: eine Strategie je Eintrag
Bewertet allein ändert nichts. Für jeden Eintrag im Register wird jetzt genau eine der vier Strategien gewählt und in der Spalte Strategie festgehalten. Ohne diese Entscheidung bleibt das Register eine Beobachtungsliste ohne Wirkung.
| Strategie | Was sie bedeutet | KI-typisches Beispiel |
|---|---|---|
| Vermeiden | Den riskanten Einsatz nicht oder anders umsetzen | Auf vollautomatisierte Entscheidung verzichten, Mensch entscheidet (senkt zugleich die Regulatorik-Einstufung, siehe Kapitel B8) |
| Mindern | Wahrscheinlichkeit oder Auswirkung durch Maßnahmen senken | Schutzarchitektur und Human-in-the-Loop (siehe Kapitel B9), Fairness-Gegenmaßnahmen (siehe Kapitel B10), Zweitanbieter gegen Lock-in |
| Übertragen | Risiko vertraglich oder versicherungsseitig verlagern | Vertragsstrafen und Haftungsregeln mit dem Anbieter (siehe Kapitel B3), Cyber-Versicherung; Achtung: Reputations- und Regulatorik-Verantwortung bleibt beim Betreiber |
| Akzeptieren | Restrisiko bewusst und dokumentiert tragen | Geringe Halluzinationsrate bei internem Assistenten mit geschulten Nutzern; mit Begründung, Verantwortlichem und Überprüfungsdatum |
Grundsatz: Akzeptieren ist legitim, stillschweigendes Akzeptieren nicht. Jede Akzeptanz-Entscheidung trägt einen Namen und ein Datum zur Wiedervorlage.
4. Überwachen: früh warnen und aktuell halten
Ein behandeltes Risiko ist nicht erledigt. Der letzte Schritt hält das Register lebendig: Frühindikatoren warnen, bevor ein Risiko zum Schaden wird, und feste Auslöser erzwingen die Neubewertung.
Frühindikatoren
Frühindikatoren sind Kennzahlen, die sich verschlechtern, bevor aus einem Risiko ein Schaden wird. Sie verbinden das Risikomanagement mit dem laufenden Messwesen (siehe Kapitel D1). Je wesentlichem Risiko wird ein Indikator mit Schwellenwert hinterlegt, dessen Überschreitung eine Prüfung auslöst:
| Risiko | Frühindikator | Was die Verschlechterung ankündigt |
|---|---|---|
| Nachlassende Modellgüte | Steigende Drift, sinkende Trefferquote | Das Modell passt nicht mehr zur Realität, Fehlentscheidungen häufen sich |
| Entgleitende generative Qualität | Steigende Halluzinationsrate, steigende Eingriffs- und Fehlaktionsquote bei Agenten | Die generative oder agentische Lösung wird unzuverlässig |
| Unwirksame Aufsicht | Widerspruchsquote nahe null bei hoher Fallzahl | Die menschliche Prüfung winkt nur durch (siehe Kapitel B10) |
| Schwindende Akzeptanz | Sinkende Nutzungsrate über mehrere Messpunkte, sinkende Schulungsabdeckung | Der Anwendungsfall liefert keinen Wert, weil er nicht genutzt wird |
| Kostenentgleisung | Kosten je Anfrage über Budget, steigender Trend | Der Dauerbetrieb wird unwirtschaftlich |
| Wachsende Anbieterabhängigkeit | Steigender Anteil des Volumens bei einem Anbieter, näher rückendes Vertragsende ohne Alternative | Ein Wechsel wird zunehmend unbezahlbar |
| Verschärfte Sicherheitslage | Steigende Rate abgefangener Angriffe, mehr Anomalien | Das System gerät verstärkt unter Druck |
Nicht jedes Risiko kündigt sich durch einen Trend an. Abrupte, ereignisgetriebene Risiken wie eine neue Regulierung, ein plötzlicher Anbieterausstieg oder ein einzelner schwerer Vorfall haben keinen Frühindikator; sie werden über die Auslöser im nächsten Abschnitt erfasst.
Kontinuierliche Überprüfung
Ein Risiko-Register ist nur so gut wie seine Aktualität. Feste Auslöser für eine erneute Bewertung:
| Auslöser | Was zu prüfen ist |
|---|---|
| Neuer Anwendungsfall | Vollständige Neubewertung nach dem Standardregister |
| Wesentliche Änderung am System (Daten, Modell, Funktion, Integration) | Auswirkung auf bestehende Risikowerte, insbesondere Fairness und Robustheit |
| Ausweitung des Einsatzes (mehr Nutzer, neue Region, höheres Volumen) | Reichweite und mögliche Schadenshöhe steigen, betroffene Risiken neu bewerten |
| Anbieter- oder Modelländerung (Ausstieg, Abkündigung, Preis- oder Konditionswechsel) | Abhängigkeits- und Kostenrisiko neu bewerten, Ausweichplan prüfen |
| Regulatorische Änderung | Abgleich mit Kapitel B8, neue Fristen und Pflichten |
| Vorfall (Sicherheit, Qualität oder Schaden für Betroffene, auch bei Dritten und Anbietern) | Sofortige Neubewertung betroffener Risiken, unabhängig vom Rhythmus |
| Frühindikator überschreitet Schwellenwert | Betroffenes Risiko neu bewerten, bevor der Schaden eintritt |
| Fester Rhythmus (mindestens quartalsweise) | Gesamtes Register durchgehen, erledigte Risiken schließen, neue ergänzen |
Einbettung ins unternehmensweite Risikomanagement
Der gesamte Kreislauf läuft nicht in einem Parallelsystem, sondern im bestehenden unternehmensweiten Risikomanagement. Das Risiko-Register aus diesem Kapitel ist dessen Erweiterung, keine Konkurrenz dazu:
- Ein Register, eine Methodik: dieselbe Bewertungslogik und dieselben Eskalationswege wie für sonstige Unternehmensrisiken; KI-Risiken erhalten eine eigene Kategorie, kein eigenes Werkzeug.
- Bestehende Gremien nutzen: Das Portfolio Board steuert operative KI-Risiken, wesentliche Risiken laufen in das bestehende Risikokomitee bzw. den Vorstandsbericht (siehe Kapitel D4).
- Regulierte Branchen: Das KI-Risiko-Register bedient zugleich die aufsichtlichen Anforderungen (MaRisk/MaGo, DORA) und die Risikomanagement-Pflicht des EU AI Act (Art. 9 für Anbieter, für Betreiber die entsprechenden Pflichten aus Art. 26); gemeinsame Artefakte statt Doppeldokumentation.
- Rückkopplung aus Vorfällen: Erkenntnisse aus Sicherheits- und Qualitätsvorfällen fließen als neue oder neu bewertete Risiken ins Register.
Checkliste: Risikomanagement vor dem Start
Die Checkliste folgt den vier Schritten des Kreislaufs; offene Punkte sind die nächsten Schritte:
- Alle sieben Risikofelder durchgegangen, konkrete Risiken je Feld ins Register eingetragen (Kategorie und Verantwortliche gesetzt)
- Spezifische Risiken generativer KI und Agenten erfasst: Halluzination, Prompt Injection, unkontrollierte Aktionen
- Abhängigkeits- und Vendor-Lock-in-Risiko erfasst
- Risikowert je Eintrag gerechnet (Wahrscheinlichkeit mal Auswirkung)
- Risikoappetit je Folgenart festgelegt, Freigabestufe an Risikowert und Appetit geknüpft
- Regulatorische Einstufung berücksichtigt
- Behandlungsstrategie je Eintrag explizit gewählt (vermeiden, mindern, übertragen, akzeptieren)
- Jede Akzeptanz-Entscheidung trägt Begründung, Verantwortlichen und Wiedervorlagedatum
- Frühindikator je wesentlichem Risiko mit Schwellenwert hinterlegt und mit dem Messwesen verbunden
- Auslöser für erneute Prüfung definiert und im Portfolio Board verankert
- Rückkopplung aus Sicherheits- und Qualitätsvorfällen ins Register geregelt
- Fester Rhythmus für die Gesamtüberprüfung des Registers festgelegt
- Register in das unternehmensweite Risikomanagement eingebettet, keine Parallelstruktur