Fallstudie: Urteilskraft in der klinischen Entscheidungsunterstützung – Diskrete Wirksamkeit im Spannungsfeld medizinischer KI

Ein universitärer Klinikverbund steht vor der Einführung eines KI-gestützten Systems zur Unterstützung klinischer Entscheidungen in der Onkologie. Ziel ist es, auf Basis umfangreicher Patientendaten, aktueller Studienlagen und genetischer Profile individualisierte Therapieempfehlungen zu generieren. Das System verspricht eine signifikante Verbesserung der Behandlungsqualität, insbesondere in komplexen Fällen mit multiplen Komorbiditäten und uneindeutigen Befunden. Gleichzeitig berührt die Einführung einen sensiblen Kernbereich organisationaler Praxis: die ärztliche Urteilskraft.

Vor der Implementierung des Systems sind Therapieentscheidungen das Ergebnis eines klar strukturierten, diskreten Prozesses. Interdisziplinäre Tumorboards diskutieren einzelne Fälle, wägen diagnostische Befunde, Leitlinienempfehlungen und patientenspezifische Faktoren ab und formulieren eine begründete Therapieempfehlung. Diese Empfehlung ist nicht frei von Unsicherheit, aber sie ist argumentativ fundiert und kollektiv getragen. Entscheidung und Begründung sind eng miteinander verknüpft und institutionell verankert.

Mit der Einführung des KI-Systems verändert sich diese Struktur grundlegend. Für jeden Fall generiert das System eine priorisierte Liste möglicher Therapieoptionen, ergänzt um Wahrscheinlichkeitswerte für Behandlungserfolg und Nebenwirkungen. Diese Outputs werden den Tumorboards vorgelegt und gewinnen schnell an Autorität. In der Anfangsphase zeigt sich eine deutliche Verschiebung: Die Diskussionen orientieren sich zunehmend an den Systemempfehlungen, während alternative Optionen seltener in Betracht gezogen werden. Die Begründungspflicht wird formal erfüllt, inhaltlich jedoch verkürzt. Entscheidungen werden häufig mit Verweis auf die „datenbasierte Evidenz“ des Systems legitimiert.

Diese Entwicklung führt zu ersten Spannungen. In mehreren Fällen weichen klinische Verläufe von den prognostizierten Ergebnissen ab. Insbesondere bei seltenen Tumorarten zeigt sich, dass das System aufgrund begrenzter Trainingsdaten systematische Verzerrungen aufweist. Gleichzeitig äußern erfahrene Ärztinnen und Ärzte Bedenken, dass ihre klinische Expertise zunehmend marginalisiert wird. Die Organisation erkennt, dass die Integration des Systems zwar Effizienz und Konsistenz erhöht, gleichzeitig jedoch die institutionell verankerte Urteilskraft unterminiert.

Als Reaktion initiiert der Klinikverbund eine Reorganisation seiner Entscheidungsarchitektur entlang des Frameworks der Diskreten Wirksamkeit. Ausgangspunkt ist die Analyse, dass die kontinuierliche Datenlogik des KI-Systems die diskreten Entscheidungspunkte im klinischen Prozess überlagert hat. Ziel ist es, diese Punkte wieder sichtbar zu machen und ihre Begründungsstruktur zu stärken.

Im ersten Schritt wird der Entscheidungsprozess explizit in drei diskrete Phasen unterteilt: algorithmische Analyse, klinische Interpretation und finale Therapieentscheidung. Das KI-System wird klar der ersten Phase zugeordnet und als Instrument der Analyse definiert, nicht als Entscheidungsinstanz. Die zweite Phase – die klinische Interpretation – erhält ein eigenständiges Gewicht. Hier sind die Ärztinnen und Ärzte verpflichtet, die Systemempfehlungen im Kontext individueller Patientenfaktoren zu bewerten, Unsicherheiten zu identifizieren und alternative Optionen zu prüfen.

Parallel dazu wird die Begründungspflicht neu strukturiert. Jede Therapieentscheidung muss künftig zwei Ebenen adressieren: die Beziehung zur algorithmischen Empfehlung und die eigenständige klinische Argumentation. Wird eine Systemempfehlung übernommen, ist zu begründen, warum sie im konkreten Fall als angemessen gilt. Wird sie modifiziert oder verworfen, ist darzulegen, welche Faktoren zu dieser Abweichung geführt haben. Diese doppelte Begründung zwingt die Organisation, die Differenz zwischen datenbasierter Analyse und klinischer Urteilskraft explizit zu machen.

Ein zentraler Bestandteil der Reorganisation ist die Neugestaltung der Transparenz. Das KI-System wird so angepasst, dass es nicht nur Ergebnisse liefert, sondern auch zentrale Einflussfaktoren offenlegt: relevante Studien, Gewichtung bestimmter Parameter und Unsicherheitsbereiche der Prognosen. Diese Informationen werden in strukturierter Form bereitgestellt, sodass sie in die klinische Diskussion integriert werden können. Transparenz wird damit zu einem Instrument, das die Ausübung von Urteilskraft unterstützt, anstatt sie zu ersetzen.

Zur Stärkung der institutionellen Reife wird zudem ein erweitertes Review-Format eingeführt. In regelmäßigen Abständen werden ausgewählte Fälle retrospektiv analysiert, wobei der Fokus auf der Qualität der Entscheidungsbegründung liegt. Diese Analysen dienen nicht der individuellen Kontrolle, sondern der kollektiven Reflexion. Sie ermöglichen es, Muster zu erkennen, implizite Annahmen offenzulegen und die Entscheidungsarchitektur kontinuierlich weiterzuentwickeln.

Die Auswirkungen dieser Maßnahmen sind deutlich. Die Qualität der klinischen Entscheidungen verbessert sich insbesondere in komplexen und atypischen Fällen. Die Integration von KI-gestützten Analysen bleibt erhalten, wird jedoch durch eine stärkere Einbettung in klinische Kontextualisierung ergänzt. Gleichzeitig steigt die Akzeptanz des Systems unter den Ärztinnen und Ärzten, da es nicht mehr als Ersatz, sondern als Erweiterung ihrer Urteilskraft wahrgenommen wird.

Von besonderer Bedeutung ist die Veränderung im Umgang mit Unsicherheit. Anstatt Unsicherheit durch algorithmische Präzision zu überdecken, wird sie als integraler Bestandteil des Entscheidungsprozesses anerkannt und explizit adressiert. Diskrete Wirksamkeit bedeutet in diesem Kontext, Unsicherheit an klar definierten Entscheidungspunkten zu bearbeiten und in begründete therapeutische Setzungen zu überführen.

Die Fallstudie zeigt, dass die Integration von KI in hochkomplexe, verantwortungssensible Bereiche wie die Medizin nur dann nachhaltig gelingt, wenn die organisationale Urteilskraft nicht verdrängt, sondern strukturell gestärkt wird. Das Framework der Diskreten Wirksamkeit bietet hierfür eine präzise Orientierung. Es ermöglicht, Entscheidungsprozesse so zu gestalten, dass sie sowohl datenbasiert als auch begründungsfähig bleiben.

In der Konsequenz wird Urteilskraft zu einer institutionell gestaltbaren Ressource. Sie entsteht nicht im Gegensatz zur Technologie, sondern im bewussten Umgang mit ihr. Organisationen, die diese Gestaltung leisten, sind in der Lage, technologische Innovation mit normativer Verantwortung zu verbinden – und damit Entscheidungen zu treffen, die nicht nur wirksam, sondern auch legitim sind.