Fehlerhafte Menschen und Maschinenfehler

München, 27. Februar 2026

Bereits vor Jahrzehnten fragten sich Softwareentwickler, warum Menschen Computer für fehlerfrei halten. Heute sind es die „Halluzinationen“ und „Lügen“ großer Sprachmodelle wie ChatGPT, denen viele Menschen ungeprüft das Vertrauen schenken. Die Geschichte maschineller und menschlicher Fehler stand am 24. Februar bei acatech am Dienstag in Zusammenarbeit mit vhs.wissen live im Mittelpunkt. Verbunden mit der Frage, ob es einer „Error Literacy“ bedarf.

acatech Mitglied Martina Heßler, Professorin für Technikgeschichte an der TU Darmstadt, sprach über die Frage, ob wir in einem neuen Zeitalter technischer Fehler leben. Sie verknüpfte technikhistorische Aspekte mit der aktuellen Debatte über die Zuverlässigkeit Künstlicher Intelligenz (KI) und zitierte die Medienwissenschaftlerin Lisa Nakamura mit der These: „Menschen sind Experten des Nichtfunktionierens.“ Und tatsächlich zeige der Alltag viele Praktiken im Umgang mit Störungen, die wir nutzen – Improvisation, routiniertes Basteln ohne vollständiges Systemverständnis. Aber gleichzeitig stelle sich die Frage: Überschätzen wir unsere Fähigkeiten im Umgang mit hochkomplexen, intransparenten Systemen?

Historische Beispiele verdeutlichen die Ambivalenz. Der sogenannte Millennium Bug (Y2K) löste seit Mitte der 1990er Jahre die Befürchtung vor apokalyptischen Szenarien aus. Doch die prophezeiten Systemzusammenbrüche blieben aus. Martina Heßler betonte das grundlegende Nichtwissen: Niemand konnte die Folgen im Voraus zuverlässig abschätzen. Daraus lasse sich ableiten, dass die heutige Welt voller Software stecke, deren systemische Wechselwirkungen selbst Expertinnen und Experten nicht vollständig überblicken.

Altbekanntes Phänomen, aber mit neuer Intensität

Martina Heßler brachte die Frage auf, ob von einem neuen Zeitalter technischer Fehler zu sprechen sei? Einerseits treffe das zu. Denn digitale, vernetzte und KI-Systeme erschaffen neue Probleme, bedingt durch ein Unverständnis ihrer Funktionsweise. Andererseits ist die Anfälligkeit komplexer Technik nicht neu. Neu hingegen sei, wie tief diese Technologien in unseren Alltag eindringen und die Gesellschaft prägen.

„Error Literacy“ sei eine Schlüsselkompetenz unserer Zeit, so Martina Heßler. Damit ist die Fähigkeit gemeint, technische Fehler bewusst und überlegt zu beurteilen: Je komplexer Technik wird, desto mehr Wachsamkeit ist geboten. Aus technikhistorischer Sicht war völlige Fehlerfreiheit nie ein realistisches Versprechen moderner Technik, erklärte sie. Die eigentliche Aufgabe bestehe nicht darin, alle Fehler zu beseitigen. Vielmehr gelte es, Regeln, Institutionen und kulturelle Gewohnheiten zu entwickeln, um mit unvermeidbaren Fehlern und der Undurchschaubarkeit komplexer Systeme souverän umzugehen.

Weiterführende Informationen

Sisyphos im Maschinenraum – Eine Geschichte der Fehlbarkeit von Mensch und Technologie