Nachvollziehbare KI. Erklären, für wen, was und wofür

KI-Systeme mit hoher Komplexität sind oft sogenannte Black Boxes. Ihre Ergebnisse sind häufig schwer nachvollziehbar. In der medizinischen Diagnostik oder der Qualitätssicherung ist Nachvollziehbarkeit jedoch entscheidend. Erklärungen von KI-Entscheidungen müssen daher vor allem für die jeweilige Zielgruppe verständlich sein: So erhalten Entwickelnde Informationen zur Verbesserung der KI-Systeme und Verbraucherinnen und Verbraucher können in Erfahrung bringen, welche Faktoren ihre Kreditentscheidung beeinflusst haben. Das Whitepaper befasst sich mit dem Thema „Nachvollziehbare KI”, indem es der Frage nachgeht, wem, was, wie und wozu etwas erklärt werden soll. Zunächst werden zentrale Begriffe zum Themengebiet definiert, wesentliche Zielsetzungen erklärbarer KI vorgestellt und XAI-Methoden wie neuere Trends aufgezeigt. Anhand verschiedener Personae wird veranschaulicht, wie sich individuelle Unterschiede in Bezug auf Vorwissen, Zielsetzung und Erklärung darstellen.