Die Grenzen technologischer Vernunft
Technologischer Fortschritt gehört zu den prägenden Erfahrungen moderner Gesellschaften. Innerhalb vergleichsweise kurzer historischer Zeiträume haben technische Entwicklungen die Möglichkeiten menschlicher Kommunikation, wirtschaftlicher Produktion, wissenschaftlicher Erkenntnis und gesellschaftlicher Organisation grundlegend verändert. Informationen können nahezu ohne zeitliche Verzögerung übertragen, komplexe Zusammenhänge mit erheblicher Geschwindigkeit analysiert und zahlreiche Tätigkeiten automatisiert werden, deren Ausführung zuvor umfangreiche menschliche Arbeit erforderte. Diese Entwicklung hat Lebensbedingungen verbessert, neue Formen gesellschaftlicher Teilhabe ermöglicht und Handlungsspielräume eröffnet, die früheren Generationen nicht zur Verfügung standen. Gerade ihre Erfolge haben jedoch eine Vorstellung begünstigt, nach der zunehmende technische Leistungsfähigkeit nahezu selbstverständlich mit gesellschaftlichem Fortschritt verbunden sei. Was schneller, präziser oder effizienter erledigt werden kann, erscheint häufig bereits deshalb als Verbesserung. Doch zwischen der Fähigkeit, eine Aufgabe technisch zu lösen, und der Frage, ob diese Aufgabe unter den gegebenen Bedingungen überhaupt gelöst werden sollte, besteht ein grundlegender Unterschied. Technologie kann Mittel bereitstellen, Verfahren optimieren und Handlungsmöglichkeiten erweitern. Sie kann jedoch nicht allein aus ihrer eigenen Funktionsweise bestimmen, welche gesellschaftlichen Ziele verfolgt werden sollten, welche Folgen als vertretbar gelten und welche menschlichen Fähigkeiten auch dann erhalten bleiben müssen, wenn ihre technische Ersetzung möglich erscheint. An dieser Grenze beginnt die Frage nach technologischer Vernunft.
Der Begriff der Vernunft bezeichnet in diesem Zusammenhang mehr als die Fähigkeit, Informationen folgerichtig zu verarbeiten oder aus gegebenen Voraussetzungen zweckmäßige Ergebnisse abzuleiten. Technische Rationalität beruht wesentlich darauf, definierte Aufgaben unter bestimmten Bedingungen möglichst zuverlässig zu erfüllen. Sie benötigt nachvollziehbare Verfahren, überprüfbare Ergebnisse und Kriterien, anhand derer unterschiedliche Lösungen miteinander verglichen werden können. Diese Form der Rationalität besitzt einen unverzichtbaren Wert. Ohne sie wären moderne Infrastrukturen, medizinische Technologien, wissenschaftliche Instrumente und komplexe organisatorische Systeme kaum denkbar. Ihre besondere Stärke liegt jedoch zugleich in einer Begrenzung: Sie setzt Ziele voraus, deren gesellschaftliche Angemessenheit nicht vollständig aus den Verfahren ihrer Umsetzung hervorgeht. Ein System kann Verkehrsströme effizienter organisieren, ohne zu entscheiden, welche Bedeutung öffentlicher Raum für das Zusammenleben besitzen soll. Eine digitale Anwendung kann Verwaltungsverfahren beschleunigen, ohne abschließend zu bestimmen, welche Formen individueller Unterstützung und rechtlicher Überprüfbarkeit erforderlich sind. Ein automatisiertes Entscheidungssystem kann große Informationsmengen verarbeiten, ohne aus dieser Fähigkeit eine eigenständige Legitimation für die Ziele seiner Anwendung abzuleiten. Technologische Vernunft wird deshalb dort problematisch, wo die erfolgreiche Bearbeitung einer Aufgabe mit der umfassenden Begründung ihres Zwecks verwechselt wird.
Diese Verwechslung entsteht häufig nicht durch ausdrückliche theoretische Überzeugungen, sondern durch die alltägliche Erfahrung technischer Zuverlässigkeit. Menschen gewöhnen sich an Systeme, die Informationen ordnen, Wege empfehlen, Risiken berechnen und Entscheidungen vorbereiten. Je häufiger solche Anwendungen zufriedenstellende Ergebnisse liefern, desto selbstverständlicher kann ihre Nutzung werden. Aus wiederholter technischer Bewährung entsteht Vertrauen, das für die praktische Verwendung komplexer Systeme notwendig ist. Dennoch besitzt dieses Vertrauen eine andere Grundlage als das Vertrauen in verantwortliche menschliche Entscheidungen. Ein technisches Verfahren kann unter bestimmten Bedingungen zuverlässig funktionieren und zugleich auf Annahmen beruhen, die außerhalb seines ursprünglichen Anwendungsbereichs problematisch werden. Seine Leistungsfähigkeit hängt von den verfügbaren Informationen, der Definition seiner Aufgaben und den Maßstäben ab, anhand derer seine Ergebnisse beurteilt werden. Diese Voraussetzungen sind nicht immer unmittelbar sichtbar. Gerade dadurch kann technische Autorität entstehen, ohne dass ihre Grenzen ausreichend verstanden werden. Ein Ergebnis erscheint sachlich überzeugend, weil es durch ein komplexes Verfahren erzeugt wurde, obwohl die entscheidenden Wertungen bereits in der Auswahl der Daten, der Festlegung der Ziele oder der Gestaltung des Systems enthalten sein können. Verantwortliche Technologieanwendung verlangt deshalb die Unterscheidung zwischen der Zuverlässigkeit eines Verfahrens und der Angemessenheit seines Einsatzes.
Besonders deutlich wird diese Unterscheidung bei der zunehmenden Automatisierung gesellschaftlich bedeutsamer Entscheidungen. Technische Systeme können Informationen auswerten, Muster erkennen und Empfehlungen erzeugen, die menschliche Entscheidungsträger unterstützen. Unter geeigneten Bedingungen können solche Verfahren die Qualität von Entscheidungen verbessern, weil sie umfangreiche Daten berücksichtigen, wiederkehrende Fehler reduzieren und Zusammenhänge sichtbar machen, die ohne technische Unterstützung schwer erkennbar wären. Zugleich verändert sich durch ihren Einsatz die Architektur der Entscheidung. Nicht mehr sämtliche relevanten Informationen werden unmittelbar von Menschen ausgewählt und beurteilt. Ein Teil dieser Tätigkeit wird in technische Verfahren verlagert, deren Ergebnisse anschließend als Grundlage weiteren Handelns dienen. Dadurch entsteht eine neue Form der Abhängigkeit zwischen technischer Verarbeitung und menschlicher Verantwortung. Wer eine Empfehlung übernimmt, muss nicht sämtliche Rechenschritte eigenständig nachvollziehen können. Er muss jedoch verstehen, unter welchen Voraussetzungen das Ergebnis entstanden ist, welche Unsicherheiten bestehen und wann eine zusätzliche Prüfung erforderlich wird. Andernfalls kann eine Situation entstehen, in der die formale Verantwortung weiterhin bei Menschen liegt, während die tatsächlichen Bedingungen der Entscheidung zunehmend durch technische Systeme bestimmt werden. Eine solche Trennung zwischen Verantwortungszuschreibung und Entscheidungsmacht ist institutionell problematisch, weil Verantwortung ohne ausreichende Einflussmöglichkeiten ihren praktischen Gehalt verliert.
Die gegenwärtige Entwicklung künstlicher Intelligenz verschärft diese Frage. Systeme, die Sprache verarbeiten, Inhalte erzeugen und komplexe Zusammenhänge analysieren können, erweitern die Möglichkeiten technischer Unterstützung erheblich. Ihre Ergebnisse erscheinen häufig in Formen, die menschlicher Argumentation oder kreativer Tätigkeit ähneln. Daraus kann der Eindruck entstehen, technische Leistungsfähigkeit umfasse bereits jene Urteilskraft, die für verantwortliche Entscheidungen erforderlich ist. Tatsächlich müssen unterschiedliche Fähigkeiten sorgfältig voneinander unterschieden werden. Die Fähigkeit, eine überzeugende Begründung sprachlich darzustellen, ist nicht identisch mit der institutionellen Verantwortung für ihre Anwendung. Die Fähigkeit, aus umfangreichen Informationen eine Empfehlung abzuleiten, beantwortet nicht automatisch die Frage, welche Interessen berücksichtigt werden müssen. Und die Fähigkeit, innerhalb definierter Kriterien eine optimale Lösung zu bestimmen, legt noch nicht fest, ob diese Kriterien gesellschaftlich angemessen sind. Diese Unterschiede bedeuten nicht, dass künstliche Intelligenz grundsätzlich ungeeignet wäre, anspruchsvolle Aufgaben zu übernehmen. Sie verdeutlichen vielmehr, dass ihre gesellschaftliche Anwendung einer Ordnung bedarf, in der Ziele, Zuständigkeiten und Grenzen ausdrücklich bestimmt werden. Je leistungsfähiger solche Systeme werden, desto wichtiger wird die Fähigkeit, zwischen ihrer technischen Kompetenz und der Verantwortung für ihre Verwendung zu unterscheiden.
Eine weitere Grenze technologischer Vernunft liegt in der notwendigen Reduktion komplexer Wirklichkeit auf verarbeitbare Informationen. Technische Systeme benötigen definierte Kategorien, Datenstrukturen und Verfahren, um Sachverhalte vergleichen und Ergebnisse erzeugen zu können. Diese Reduktion ist keine Schwäche an sich. Sie ermöglicht überhaupt erst die systematische Bearbeitung umfangreicher Informationen. Doch jede Auswahl bestimmt zugleich, welche Eigenschaften eines Sachverhalts berücksichtigt und welche zunächst ausgeblendet werden. Ein wirtschaftliches Modell kann Produktivität messen, ohne sämtliche Bedingungen menschlicher Zusammenarbeit abzubilden. Ein digitales Bewertungssystem kann bestimmte Leistungen vergleichen, während qualitative Unterschiede nur begrenzt erfasst werden. Ein automatisiertes Verwaltungsverfahren kann standardisierte Fälle zuverlässig bearbeiten und zugleich Schwierigkeiten haben, ungewöhnliche Lebenssituationen angemessen einzuordnen. Daraus folgt nicht, dass quantitative Verfahren grundsätzlich unzureichend wären. Ihre Ergebnisse können wichtige Erkenntnisse bereitstellen. Problematisch wird ihre Verwendung jedoch dort, wo die Grenzen der zugrunde liegenden Kategorien aus dem Blick geraten. Was nicht gemessen wird, ist nicht notwendig bedeutungslos. Und was präzise berechnet werden kann, besitzt nicht allein deshalb eine größere gesellschaftliche Relevanz als Zusammenhänge, deren Beurteilung zusätzliche Erfahrung und Interpretation verlangt.
Diese Spannung zeigt sich besonders im Verhältnis zwischen Effizienz und Verantwortung. Effizienz beschreibt die Fähigkeit, bestimmte Ergebnisse mit einem möglichst angemessenen Einsatz verfügbarer Mittel zu erreichen. Sie ist eine wesentliche Voraussetzung wirtschaftlicher und organisatorischer Leistungsfähigkeit. Ressourcen sind begrenzt, und ihre unnötige Verschwendung kann selbst erhebliche gesellschaftliche Folgen besitzen. Dennoch kann Effizienz nur im Verhältnis zu einem bestimmten Ziel beurteilt werden. Eine Organisation kann ihre Abläufe beschleunigen, indem sie zusätzliche Prüfungen reduziert. Ob diese Veränderung angemessen ist, hängt jedoch davon ab, welche Aufgabe die Prüfungen erfüllen und welche Risiken aus ihrem Wegfall entstehen. Ein technisches System kann die Kosten einzelner Entscheidungen senken und zugleich neue Abhängigkeiten schaffen, deren langfristige Folgen zunächst nicht sichtbar werden. Die Frage nach verantwortlicher Effizienz verlangt deshalb eine Betrachtung, die über die unmittelbare Leistungsfähigkeit eines Verfahrens hinausreicht. Sie muss berücksichtigen, welche Voraussetzungen durch eine Optimierung erhalten bleiben und welche möglicherweise verloren gehen. Technologische Vernunft erreicht ihre Grenze dort, wo die Verbesserung einer messbaren Größe als hinreichende Begründung für eine Veränderung behandelt wird, obwohl deren gesellschaftliche Folgen wesentlich umfassender sind.
Besondere Aufmerksamkeit verdient in diesem Zusammenhang die Entstehung technischer Abhängigkeiten. Viele Technologien beginnen als zusätzliche Werkzeuge, deren Verwendung eine bestehende Tätigkeit erleichtert. Mit zunehmender Verbreitung können sie jedoch zu Voraussetzungen werden, ohne die bestimmte gesellschaftliche Abläufe kaum noch funktionieren. Digitale Kommunikationssysteme, Zahlungsinfrastrukturen, Datenbanken und automatisierte Verwaltungsverfahren verdeutlichen diesen Übergang. Solange eine Technologie lediglich eine von mehreren Möglichkeiten darstellt, bleibt ihre Nutzung vergleichsweise leicht veränderbar. Wird sie dagegen zur grundlegenden Infrastruktur, können sich Organisationen und Menschen so weit an ihre Verfügbarkeit anpassen, dass Alternativen zunehmend verloren gehen. Die gesellschaftliche Bedeutung einer Technologie verändert sich dadurch. Ihre Funktionsfähigkeit betrifft nicht mehr ausschließlich den Nutzen einzelner Anwender, sondern die Stabilität umfassender Handlungsketten. Diese Entwicklung muss nicht grundsätzlich vermieden werden. Gesellschaftliche Arbeitsteilung und technische Infrastruktur beruhen notwendigerweise auf Abhängigkeiten. Verantwortlich wird ihr Umgang jedoch erst dann, wenn ihre Tragweite erkannt, ihre Risiken geprüft und Möglichkeiten zur Bewältigung von Störungen erhalten werden. Technische Leistungsfähigkeit darf nicht mit der Unverwundbarkeit der Ordnung verwechselt werden, die auf ihr beruht.
Die langfristige Wirkung solcher Abhängigkeiten betrifft auch menschliches Wissen. Wenn technische Systeme wiederkehrende Aufgaben übernehmen, können Menschen Zeit und Aufmerksamkeit für andere Tätigkeiten gewinnen. Automatisierung kann körperliche Belastungen reduzieren, Fehler vermeiden und neue Formen anspruchsvoller Arbeit ermöglichen. Zugleich kann die dauerhafte Übertragung bestimmter Aufgaben dazu führen, dass Fähigkeiten seltener ausgeübt und institutionelle Erfahrungen weniger umfassend weitergegeben werden. Dieser Verlust muss nicht in jedem Fall problematisch sein. Gesellschaftlicher Fortschritt besteht teilweise gerade darin, Tätigkeiten nicht länger auf herkömmliche Weise ausführen zu müssen. Entscheidend ist jedoch, ob jene Kenntnisse erhalten bleiben, die für die Beurteilung, Kontrolle und gegebenenfalls Korrektur technischer Systeme erforderlich sind. Eine Organisation kann ihre Prozesse erfolgreich automatisieren und gleichzeitig Schwierigkeiten entwickeln, unerwartete Fehler unabhängig zu untersuchen. Sie kann Entscheidungen schneller vorbereiten, während das Verständnis ihrer fachlichen Voraussetzungen zunehmend auf wenige Spezialisten oder externe Anbieter konzentriert wird. Verantwortliche Automatisierung muss deshalb zwischen entbehrlicher Routinetätigkeit und notwendiger Urteilskompetenz unterscheiden. Nicht jede menschliche Fähigkeit muss unverändert bewahrt werden. Doch dort, wo ihr Verlust die Möglichkeit eigenständiger Kontrolle beeinträchtigt, wird technischer Fortschritt zu einer Frage institutioneller Selbstständigkeit.
Damit verändert sich auch die Bedeutung technologischer Kompetenz. Sie kann nicht länger ausschließlich als Fähigkeit verstanden werden, technische Anwendungen sachgerecht zu bedienen oder ihre Funktionsweise im Einzelnen zu erklären. In einer Gesellschaft, deren wesentliche Abläufe zunehmend technisch vermittelt werden, gehört dazu ebenso das Verständnis ihrer organisatorischen und gesellschaftlichen Folgen. Eine Institution muss erkennen können, welche Entscheidungen durch ein System vorbereitet werden, welche Informationen dessen Ergebnisse beeinflussen und welche Verantwortung bei seiner Verwendung entsteht. Sie muss beurteilen können, ob die gewählten Verfahren zu ihren Aufgaben passen und unter welchen Bedingungen ihre Anwendung verändert oder beendet werden sollte. Diese Anforderungen richten sich nicht ausschließlich an technische Fachkräfte. Sie betreffen ebenso Führung, Verwaltung, politische Entscheidungsträger und jene Einrichtungen, die technische Systeme beschaffen, regulieren oder kontrollieren. Technologische Kompetenz wird dadurch zu einer Verbindung aus fachlichem Verständnis und institutioneller Urteilskraft. Ihre Qualität zeigt sich nicht allein daran, ob eine Organisation moderne Technologien erfolgreich einsetzt. Sie zeigt sich auch daran, ob sie deren Grenzen erkennen und ihre eigene Handlungsfähigkeit gegenüber technischen Empfehlungen bewahren kann.
Eine besondere Herausforderung entsteht aus der Geschwindigkeit technologischer Entwicklung. Neue Anwendungen können innerhalb kurzer Zeiträume entstehen und gesellschaftliche Verbreitung finden, während rechtliche, institutionelle und kulturelle Anpassungen häufig längere Prozesse benötigen. Diese unterschiedlichen Geschwindigkeiten sind nicht notwendigerweise Ausdruck unzureichender politischer oder organisatorischer Leistungsfähigkeit. Rechtliche Verfahren müssen unterschiedliche Interessen berücksichtigen, Verantwortlichkeiten klären und die Folgen verbindlicher Regeln prüfen. Technische Entwicklung folgt dagegen häufig einer Logik schneller Erprobung und fortlaufender Verbesserung. Gerade aus diesem Unterschied kann jedoch ein strukturelles Ungleichgewicht entstehen. Gesellschaftliche Anwendungen werden eingeführt, bevor ihre langfristigen Wirkungen ausreichend verstanden sind, während Institutionen erst nachträglich versuchen, angemessene Regeln zu entwickeln. Eine verantwortliche Ordnung muss deshalb nicht jede technische Entwicklung im Voraus vollständig regulieren. Sie benötigt vielmehr Verfahren, die auch unter Unsicherheit handlungsfähig bleiben. Dazu gehören nachvollziehbare Zuständigkeiten, überprüfbare Entscheidungen und die Möglichkeit, Anwendungen zu verändern, wenn neue Erkenntnisse ihre bisherigen Voraussetzungen infrage stellen. Die Geschwindigkeit technologischer Innovation darf nicht dazu führen, dass die gesellschaftliche Prüfung ihrer Folgen grundsätzlich als nachrangige Aufgabe behandelt wird.
Diese Frage berührt unmittelbar das Verhältnis zwischen technologischer Entwicklung und demokratischer Selbstbestimmung. Technische Systeme beeinflussen zunehmend, welche Informationen zugänglich sind, welche Kommunikationsformen möglich werden und unter welchen Bedingungen gesellschaftliche Leistungen in Anspruch genommen werden können. Solche Strukturen entstehen häufig innerhalb privater Organisationen, deren Entscheidungen zunächst wirtschaftlichen und technischen Zielsetzungen folgen. Ihre gesellschaftliche Bedeutung kann jedoch weit über den ursprünglichen Unternehmenszweck hinausreichen. Wenn technische Infrastrukturen zu grundlegenden Voraussetzungen öffentlicher Kommunikation oder institutioneller Dienstleistungen werden, erhalten ihre Gestaltungsentscheidungen eine politische Dimension. Daraus folgt nicht, dass sämtliche technischen Einzelentscheidungen unmittelbar demokratisch getroffen werden müssten. Moderne Gesellschaften sind auf fachliche Spezialisierung und unternehmerische Initiative angewiesen. Entscheidend ist vielmehr, ob die grundlegenden Bedingungen gesellschaftlich bedeutsamer Technologien einer angemessenen öffentlichen und rechtlichen Kontrolle zugänglich bleiben. Demokratische Verantwortung verlangt nicht die vollständige politische Steuerung technischer Entwicklung. Sie verlangt jedoch, dass technische Macht nicht allein aufgrund ihrer Komplexität oder wirtschaftlichen Bedeutung der gesellschaftlichen Beurteilung entzogen wird.
Eine weitere Grenze technologischer Vernunft betrifft die menschliche Erfahrung selbst. Technische Systeme können Kommunikation erleichtern, Informationen zugänglich machen und zahlreiche Tätigkeiten unterstützen. Dennoch lassen sich nicht sämtliche Qualitäten menschlicher Beziehungen in technische Funktionen übersetzen. Vertrauen entsteht nicht ausschließlich durch die zuverlässige Übermittlung von Informationen. Verantwortung erschöpft sich nicht in der korrekten Ausführung eines Verfahrens. Bildung besteht nicht allein in der Bereitstellung verfügbarer Kenntnisse, und gesellschaftliche Teilhabe lässt sich nicht vollständig an der Zahl digitaler Zugangsmöglichkeiten messen. Solche Unterschiede bedeuten nicht, dass technische Anwendungen menschliche Beziehungen notwendigerweise schwächen. Sie können Begegnungen ermöglichen, Wissen verbreiten und Menschen unterstützen, die andernfalls nur eingeschränkte Handlungsmöglichkeiten hätten. Ihre Angemessenheit hängt jedoch davon ab, welche Aufgaben sie übernehmen und welche Formen menschlicher Erfahrung dadurch verändert werden. Eine Gesellschaft muss deshalb unterscheiden können zwischen Tätigkeiten, deren technische Ersetzung sinnvoll ist, und Beziehungen, deren Bedeutung wesentlich aus menschlicher Beteiligung entsteht. Diese Unterscheidung lässt sich nicht ausschließlich anhand technischer Leistungsfähigkeit treffen. Sie verlangt kulturelle Vorstellungen darüber, welche Formen des Zusammenlebens erhalten und welche Möglichkeiten erweitert werden sollen.
Gerade hier zeigt sich, weshalb technologischer Fortschritt eine gesellschaftliche Orientierung benötigt, die nicht aus ihm selbst hervorgeht. Technik kann Möglichkeiten eröffnen, doch die Bewertung dieser Möglichkeiten setzt Maßstäbe voraus. Eine Gesellschaft muss entscheiden, welche Risiken sie akzeptiert, welche Rechte sie schützt und welche Veränderungen sie für wünschenswert hält. Solche Entscheidungen entstehen innerhalb historischer, kultureller und institutioneller Zusammenhänge. Sie können durch wissenschaftliche Erkenntnisse und technische Analysen verbessert werden, lassen sich jedoch nicht vollständig durch sie ersetzen. Wissenschaft kann erklären, welche Folgen bestimmte Anwendungen wahrscheinlich besitzen. Technische Entwicklung kann unterschiedliche Wege zur Erreichung eines Ziels bereitstellen. Wirtschaftliche Analyse kann Kosten und Nutzen untersuchen. Die Entscheidung darüber, welche Ziele unter konkurrierenden Anforderungen verfolgt werden sollten, bleibt dennoch eine Frage gesellschaftlicher Urteilskraft. Diese Verantwortung wird nicht geringer, wenn technische Systeme leistungsfähiger werden. Im Gegenteil: Je größer ihre Handlungsmöglichkeiten sind, desto weitreichender können die Folgen jener Ziele werden, die Menschen und Institutionen ihnen vorgeben.
Eine verantwortliche Haltung gegenüber Technologie muss deshalb weder auf uneingeschränkter Zustimmung noch auf grundsätzlicher Ablehnung beruhen. Beide Positionen verkürzen die tatsächliche Aufgabe. Technologischer Optimismus kann die gesellschaftlichen Möglichkeiten neuer Entwicklungen erkennen, ohne ihre Risiken ausreichend zu berücksichtigen. Technologische Skepsis kann auf problematische Abhängigkeiten hinweisen, zugleich aber die Chancen übersehen, die aus einer sorgfältigen Anwendung entstehen. Eine differenzierte Beurteilung muss zwischen unterschiedlichen Technologien, Aufgaben und institutionellen Bedingungen unterscheiden. Ein automatisiertes Verfahren kann in einem Bereich erhebliche Vorteile besitzen und in einem anderen unangemessen sein. Eine technische Abhängigkeit kann unter bestimmten Voraussetzungen vertretbar bleiben, während sie in einem sicherheitskritischen Zusammenhang zusätzliche Alternativen verlangt. Eine Innovation kann wirtschaftlich sinnvoll erscheinen, ohne bereits gesellschaftlich notwendig zu sein. Verantwortliche technologische Entwicklung verlangt deshalb keine endgültige Entscheidung zwischen Fortschritt und Bewahrung. Sie verlangt die Fähigkeit, technische Möglichkeiten anhand ihrer konkreten Voraussetzungen und Folgen zu beurteilen.
Diese Fähigkeit setzt eine Vorstellung von Fortschritt voraus, die über die Steigerung messbarer Leistungsfähigkeit hinausreicht. Eine Gesellschaft kann über leistungsfähigere Systeme verfügen und zugleich Schwierigkeiten entwickeln, deren gesellschaftliche Wirkung zu verstehen. Sie kann Informationen schneller verarbeiten und dennoch an der begründeten Auswahl ihrer Ziele scheitern. Sie kann Entscheidungsprozesse automatisieren, während die Verantwortung für deren Ergebnisse unklarer wird. Solche Entwicklungen sind nicht zwangsläufig, doch sie verdeutlichen, dass technische und gesellschaftliche Leistungsfähigkeit unterschiedlichen Bedingungen folgen. Fortschritt kann deshalb nicht ausschließlich daran gemessen werden, welche neuen Aufgaben technisch lösbar werden. Er muss ebenso berücksichtigen, ob Menschen und Institutionen ihre Fähigkeit erhalten, zwischen unterschiedlichen Möglichkeiten zu wählen, Fehler zu erkennen und notwendige Korrekturen vorzunehmen. Eine technische Ordnung ist nicht schon deshalb zukunftsfähig, weil sie unter gegenwärtigen Bedingungen besonders effizient funktioniert. Ihre Qualität zeigt sich auch darin, ob sie unter veränderten Bedingungen überprüfbar und gestaltbar bleibt.
Die Grenzen technologischer Vernunft bezeichnen somit keine grundsätzliche Grenze menschlicher Erkenntnis oder technischer Entwicklung. Sie markieren vielmehr den Unterschied zwischen der Fähigkeit, Mittel zu verbessern, und der Verantwortung, über deren Verwendung zu entscheiden. Technologie kann menschliches Handeln erweitern, ohne dessen Ziele selbst abschließend begründen zu können. Sie kann gesellschaftliche Entscheidungen unterstützen, ohne die institutionellen Voraussetzungen ihrer Legitimität zu ersetzen. Sie kann komplexe Zusammenhänge berechnen, ohne sämtliche Werte und Erfahrungen erfassen zu müssen, die für ihre Beurteilung bedeutsam sind. Diese Begrenzungen mindern nicht ihren Wert. Sie ermöglichen vielmehr eine angemessene Einordnung ihrer besonderen Stärken. Eine Gesellschaft, die technische Rationalität ernst nimmt, muss sie nicht zu einer umfassenden Theorie menschlichen Zusammenlebens erweitern. Sie kann ihre Leistungsfähigkeit nutzen und zugleich anerkennen, dass gesellschaftliche Verantwortung andere Formen der Begründung verlangt.
Die entscheidende Herausforderung liegt deshalb nicht darin, technologische Entwicklung möglichst weitgehend zu begrenzen oder ihre Möglichkeiten vorbehaltlos auszuschöpfen. Sie besteht darin, die Fähigkeit zur eigenständigen Entscheidung unter Bedingungen wachsender technischer Leistungsfähigkeit zu bewahren. Menschen und Institutionen müssen nicht jede Aufgabe selbst ausführen, um verantwortlich handeln zu können. Sie müssen jedoch erkennen können, welche Aufgaben sie übertragen, welche Abhängigkeiten daraus entstehen und unter welchen Voraussetzungen eine Korrektur notwendig wird. Technische Systeme können zu unverzichtbaren Bestandteilen gesellschaftlicher Ordnung werden, ohne dass ihre Gestaltung deshalb außerhalb menschlicher Verantwortung stehen dürfte. Gerade weil ihre Wirkung häufig unsichtbar in alltägliche Verfahren eingeht, muss die Möglichkeit erhalten bleiben, ihre Voraussetzungen zu prüfen und ihre Richtung zu verändern. Die Grenzen technologischer Vernunft sind unter diesen Bedingungen keine Aufforderung zum Verzicht auf Fortschritt. Sie erinnern daran, dass die größte technische Leistungsfähigkeit ihren gesellschaftlichen Wert erst dort gewinnt, wo Menschen weiterhin entscheiden können, welchem Zweck sie dienen soll. Die Zukunft einer technologisch geprägten Gesellschaft hängt deshalb nicht allein davon ab, was ihre Systeme leisten können, sondern davon, ob sie die Urteilskraft bewahrt, über die Bedeutung dieser Leistungen selbst zu entscheiden.
