Verantwortung als verteilte Architektur: Zurechnung im Schatten systemischer Mitwirkung

Verantwortung war lange als eine lineare Relation gedacht: Eine Handlung führt zu einem Ergebnis, und dieses Ergebnis lässt sich einem Akteur zurechnen. Diese Logik setzt voraus, dass Handlung, Entscheidung und Wirkung in einer nachvollziehbaren Kausalstruktur miteinander verbunden sind. Mit dem Einsatz von KI-Systemen verliert diese Struktur jedoch ihre Eindeutigkeit. Entscheidungen entstehen nicht mehr ausschließlich aus individueller Intentionalität, sondern aus der Interaktion komplexer soziotechnischer Arrangements. Verantwortung wird damit zu einer Frage der Architektur, nicht nur der Handlung.

Das Zurechnungsproblem verschiebt sich in diesem Kontext fundamental. Während klassische Modelle auf der Identifikation eines verantwortlichen Subjekts beruhen, verlangen KI-gestützte Entscheidungsprozesse eine Analyse der Bedingungen, unter denen Entscheidungen überhaupt zustande kommen. Datenqualität, Modelllogik, Trainingsprozesse und organisatorische Einbettung wirken zusammen und erzeugen ein Entscheidungsfeld, in dem die einzelne Handlung nur noch einen Ausschnitt darstellt. Die operative Entscheidung – etwa die Freigabe eines Kredits oder die Priorisierung eines Bewerbers – erscheint weiterhin als klarer Akt. Doch sie ist epistemisch vorstrukturiert durch systemische Mitwirkung, die sich der unmittelbaren Zurechnung entzieht.

Diese Entkopplung führt zu einer Verschiebung der Verantwortungszuschreibung. Organisationen neigen dazu, Verantwortung dort zu verorten, wo Entscheidungen sichtbar werden – an den Schnittstellen zwischen System und Mensch. Die dahinterliegenden Strukturen bleiben hingegen oft unadressiert. So entsteht eine „Verantwortungsverdichtung“ auf operativer Ebene, während die systemische Ebene unterreguliert bleibt. Die Folge ist eine strukturelle Schieflage: Verantwortung wird formal konzentriert, faktisch jedoch diffus verteilt.

Haftungsfragen verschärfen diese Dynamik, da sie eine rechtliche Verdichtung der Verantwortungsfrage erzwingen. In Situationen, in denen Schäden entstehen, muss entschieden werden, wer haftet. Doch die klassische Logik von Verschulden und Kausalität gerät an ihre Grenzen, wenn Entscheidungen durch lernende Systeme geprägt sind. Ein Modell kann auf Basis historischer Daten diskriminierende Muster reproduzieren, ohne dass ein einzelner Akteur dies intendiert oder unmittelbar verursacht hat. Die Haftung lässt sich dann weder eindeutig dem Entwickler noch dem Anwender noch der Organisation als Ganzes zuschreiben. Stattdessen entsteht ein „Haftungsraum“, in dem verschiedene Beiträge unterschiedlich stark gewichtet werden müssen.

In der Praxis reagieren Organisationen häufig mit Vereinfachungsstrategien. Verantwortung wird entweder formalisiert – durch Richtlinien, Compliance-Vorgaben und Freigabeprozesse – oder externalisiert, etwa durch Verweis auf externe Dienstleister oder standardisierte Technologien. Beide Ansätze greifen zu kurz. Formalisierung schafft Klarheit auf dem Papier, ohne die tatsächlichen Entscheidungsdynamiken zu erfassen. Externalisierung verschiebt Verantwortung, ohne sie aufzulösen. In beiden Fällen bleibt die zentrale Frage unbeantwortet: Wie lässt sich Verantwortung in einem System verorten, dessen Wirkungsweise selbst verteilt ist?

Die normative Dimension dieser Frage zeigt sich besonders deutlich an den Grenzbereichen der Verantwortung. Hier geht es nicht mehr nur um die Zurechnung von Fehlern, sondern um die Legitimität von Entscheidungen unter Unsicherheit. KI-Systeme operieren häufig in Kontexten, in denen keine eindeutigen richtigen Antworten existieren, sondern nur Wahrscheinlichkeiten und Abwägungen. Verantwortung bedeutet in diesen Fällen, Entscheidungen zu treffen und zugleich ihre Vorläufigkeit anzuerkennen. Dies erfordert eine neue Form der Rechenschaft, die nicht auf deterministischer Kausalität, sondern auf transparenter Begründung basiert.

Die Differenzierung zwischen operativer Handlung und systemischer Mitwirkung wird in diesem Zusammenhang zu einem analytischen Schlüssel. Operative Handlung ist der Punkt, an dem Entscheidungen sichtbar und adressierbar werden. Systemische Mitwirkung hingegen umfasst die Vielzahl von Faktoren, die diese Entscheidungen ermöglichen und prägen, ohne selbst als Entscheidungen in Erscheinung zu treten. Verantwortung entsteht im Spannungsfeld dieser beiden Ebenen. Sie ist weder vollständig individualisierbar noch vollständig systemisierbar.

Implizite Verantwortungsverschiebungen treten dort auf, wo diese Differenzierung nicht explizit gemacht wird. Wenn etwa ein Mitarbeiter eine KI-gestützte Empfehlung umsetzt, wird seine Handlung als entscheidend wahrgenommen, während die zugrunde liegende Systemlogik unsichtbar bleibt. Umgekehrt kann die Verantwortung auch dem System zugeschrieben werden, wodurch individuelle Verantwortung relativiert wird. Beide Perspektiven greifen zu kurz, da sie jeweils eine Ebene ausblenden. Die eigentliche Herausforderung besteht darin, die Wechselwirkung zwischen beiden Ebenen sichtbar zu machen und institutionell zu verankern.

Eine tragfähige Governance-Architektur muss daher Verantwortung als verteilte Größe begreifen. Dies impliziert erstens die Notwendigkeit, systemische Mitwirkung explizit zu dokumentieren und zu bewerten. Zweitens erfordert es neue Formen der Haftungszuordnung, die kollektive und prozessuale Aspekte berücksichtigen. Drittens müssen Organisationen Mechanismen entwickeln, die es erlauben, Entscheidungen nicht nur ex post zu bewerten, sondern ex ante zu reflektieren – etwa durch Szenarioanalysen, Ethik-Boards oder iterative Prüfprozesse.

Im Kern geht es um eine Rekonfiguration des Verantwortungsbegriffs. Verantwortung kann unter den Bedingungen von KI nicht mehr ausschließlich als individuelle Pflicht verstanden werden, sondern muss als strukturelle Eigenschaft organisationaler Systeme begriffen werden. Diese Verschiebung ist keine Schwächung von Verantwortung, sondern ihre Präzisierung. Sie macht sichtbar, dass Verantwortung dort entsteht, wo Handlung und Struktur aufeinandertreffen – und dass ihre angemessene Gestaltung eine zentrale Aufgabe moderner Governance ist.