Fallstudie: Risikosteuerung in einer KI-gestützten Lieferkettenarchitektur

Ein global agierendes Handelsunternehmen implementiert ein KI-System zur Steuerung seiner Lieferketten. Ziel ist es, Risiken frühzeitig zu erkennen, Lieferengpässe zu antizipieren und Beschaffungsentscheidungen dynamisch anzupassen. Das System aggregiert Daten aus unterschiedlichen Quellen: historische Lieferzeiten, geopolitische Indikatoren, Wetterdaten, Marktpreise sowie Echtzeitinformationen von Logistikpartnern. Auf dieser Basis berechnet es kontinuierlich Risikoscores für Lieferanten und schlägt alternative Bezugsquellen vor. Die finalen Entscheidungen über Lieferantenwechsel und Bestellvolumina verbleiben formal bei den zuständigen Supply-Chain-Managern.

In der Einführungsphase zeigt das System deutliche Effizienzgewinne. Risiken werden früher erkannt, Reaktionszeiten verkürzen sich, und die Stabilität der Lieferketten verbessert sich messbar. Die Organisation interpretiert dies als Bestätigung der gewählten Technologie- und Governance-Architektur. Verantwortung bleibt klar zugeordnet: Die operativen Manager treffen die Entscheidungen, die IT-Abteilung betreibt das System, und ein externes Beratungshaus unterstützt bei der Weiterentwicklung der Modelle.

Die Stabilität dieses Arrangements gerät ins Wanken, als es in einer kritischen Phase zu einer Reihe von Fehlentscheidungen kommt. Das System bewertet einen langjährigen Lieferanten aufgrund kurzfristiger geopolitischer Spannungen als hochriskant und empfiehlt einen Wechsel zu einem alternativen Anbieter. Mehrere Manager folgen dieser Empfehlung. Kurz darauf stellt sich heraus, dass die Risikoeinschätzung überproportional auf temporären Datenanomalien beruhte. Der alternative Lieferant kann die Nachfrage nicht zuverlässig bedienen, was zu erheblichen Produktionsausfällen führt.

Die anschließende interne Analyse zeigt, dass die Entscheidung nicht auf einem singulären Fehler beruht, sondern auf einer Verkettung diskreter Wirkungsbeiträge. Die Gewichtung geopolitischer Indikatoren im Modell wurde im Rahmen eines Updates erhöht, um auf frühere Störungen zu reagieren. Gleichzeitig wurden bestimmte Datenquellen automatisiert integriert, deren Validität in Ausnahmesituationen eingeschränkt ist. Das Interface des Systems stellt Risikoscores in einer Weise dar, die starke Ausschläge visuell hervorhebt und damit eine hohe Dringlichkeit suggeriert. Jeder dieser Faktoren für sich genommen ist plausibel; in ihrer Kombination erzeugen sie jedoch eine verzerrte Entscheidungsgrundlage.

An diesem Punkt wird das Zurechnungsproblem virulent. Die Supply-Chain-Manager haben die Entscheidung zum Lieferantenwechsel getroffen und sind formal verantwortlich. Sie argumentieren jedoch, dass die systemische Darstellung der Risiken kaum Spielraum für alternative Interpretationen ließ. Die IT-Abteilung verweist darauf, dass sie lediglich die technische Integration umgesetzt hat. Das externe Beratungshaus betont, dass die Anpassung der Modellparameter auf Basis definierter Anforderungen erfolgte. Verantwortung verteilt sich auf mehrere Ebenen, ohne dass eine klare Zuweisung möglich ist.

Das Framework der Diskreten Wirksamkeit ermöglicht eine differenzierte Rekonstruktion der Ereignisse. Die Fehlentscheidung ist nicht das Ergebnis einer falschen operativen Handlung, sondern die Manifestation mehrerer diskreter Setzungen innerhalb der Entscheidungsarchitektur. Die Anpassung der Modellgewichte, die Auswahl und Integration von Datenquellen sowie die Gestaltung des Interfaces wirken jeweils als eigenständige Wirkungsorte. Die operative Entscheidung aktualisiert lediglich diese vorstrukturierten Wirkungen.

Die Differenz zwischen operativer Handlung und systemischer Mitwirkung wird damit zentral. Die Manager handeln im Rahmen eines durch das System definierten Entscheidungsraums. Ihre Verantwortung ist formal eindeutig, inhaltlich jedoch durch systemische Beiträge geprägt, die außerhalb ihrer unmittelbaren Kontrolle liegen. Gleichzeitig bleiben diese systemischen Beiträge institutionell unterdefiniert. Es existieren keine klaren Verantwortlichkeiten für die Bewertung von Datenquellen in Ausnahmesituationen oder für die Auswirkungen von Interface-Design auf Entscheidungsverhalten.

Die Haftungsfrage verschärft die Situation. Die entstandenen Produktionsausfälle führen zu erheblichen finanziellen Schäden, und das Unternehmen sieht sich mit Regressforderungen konfrontiert. Eine Zuweisung der Haftung an die operativen Manager erscheint unzureichend, da sie die strukturellen Ursachen ignoriert. Eine Haftung des externen Beratungshauses ist schwer durchsetzbar, da die Anpassungen im Rahmen der vereinbarten Spezifikationen erfolgten. Die Organisation erkennt, dass ihre bestehende Verantwortungsarchitektur nicht geeignet ist, die tatsächlichen Wirkungszusammenhänge abzubilden.

Die normative Dimension der Fallstudie zeigt sich in der Frage, wie Risiko definiert und bewertet wird. Das System operiert mit einer quantifizierten Risikologik, die Unsicherheit in numerische Scores übersetzt. Diese Übersetzung ist selbst eine normative Setzung, da sie festlegt, welche Risiken als relevant gelten und wie sie gewichtet werden. In der konkreten Situation führt diese Setzung dazu, dass kurzfristige geopolitische Signale überbewertet werden, während langfristige Stabilitätsindikatoren in den Hintergrund treten. Verantwortung umfasst hier nicht nur die Entscheidung, sondern die Reflexion der zugrunde liegenden Bewertungslogik.

Als Reaktion auf den Vorfall initiiert das Unternehmen eine grundlegende Neugestaltung seiner Governance-Struktur. Zentrale Maßnahme ist die Identifikation und institutionelle Verankerung der diskreten Wirkungsorte innerhalb der Entscheidungsarchitektur. Für die Gewichtung von Modellparametern, die Auswahl von Datenquellen und die Gestaltung von Interfaces werden explizite Verantwortlichkeiten definiert. Zudem werden Mechanismen eingeführt, die es ermöglichen, systemische Veränderungen in ihrer Wirkung auf Entscheidungsprozesse zu simulieren und zu evaluieren, bevor sie produktiv eingesetzt werden.

Die Rolle der operativen Manager wird ebenfalls neu definiert. Sie erhalten erweiterte Kompetenzen und Instrumente, um Systemempfehlungen kritisch zu hinterfragen. Das Interface wird so angepasst, dass es nicht nur Ergebnisse, sondern auch Unsicherheiten und alternative Szenarien sichtbar macht. Ziel ist es, die operative Entscheidung wieder stärker als eigenständigen Verantwortungsakt zu positionieren, ohne die systemische Mitwirkung zu negieren.

Diese Maßnahmen führen zu einer Rebalancierung der Verantwortungsarchitektur. Verantwortung wird nicht länger ausschließlich am Endpunkt des Entscheidungsprozesses verortet, sondern entlang der diskreten Wirkungsbeiträge verteilt. Haftung bleibt komplex, wird jedoch besser begründbar, da die relevanten Einflussfaktoren transparent gemacht und institutionell adressiert sind.

Die Fallstudie zeigt exemplarisch, dass Verantwortung in KI-gestützten Steuerungssystemen nicht durch traditionelle Zurechnungslogiken erfasst werden kann. Sie erfordert eine Perspektive, die die diskreten Setzungen innerhalb der Entscheidungsarchitektur in den Blick nimmt. Das Framework der Diskreten Wirksamkeit bietet hierfür einen analytischen Zugang, der es ermöglicht, implizite Verantwortungsverschiebungen sichtbar zu machen und in eine explizite Governance-Struktur zu überführen. Entscheidend ist dabei die Einsicht, dass Verantwortung dort verortet werden muss, wo Wirkung erzeugt wird – auch wenn diese Wirkung nicht unmittelbar als Handlung erkennbar ist.