Wissen und Daten kombiniert nutzen: Hybride KI für mehr Sicherheit und Transparenz

München, 4. Dezember 2023

Große KI-Modelle, die auf Basis riesiger Datenmengen und durch maschinelles Lernen Texte oder Bilder generieren, sorgen weiterhin für Aufsehen. Datenbasierte KI-Ansätze offenbaren jedoch auch Grenzen, etwa durch ihr ressourcenintensives Training oder fehlende Transparenz des KI-Systems. Eine vielversprechende Alternative für sensible Einsatzbereiche wie die Medizin eröffnet die sogenannte hybride KI: Sie kombiniert datengetriebene KI-Ansätze mit menschlichem Wissen und verspricht energieeffiziente, robuste und erklärbare KI-Systeme. Was hybride KI ist und welche Potenziale und Herausforderungen mit ihr verbunden sind, erläutert die Plattform Lernende Systeme in einer Kurzpublikation.

Seit einigen Jahren dominieren in der KI-Entwicklung datengetriebene Herangehensweisen. Stoßen diese an Grenzen, so kann eine Kombination mit wissensbasierten KI-Verfahren Lösungen bieten. Man spricht von hybrider KI. „Während Ansätze des maschinellen Lernens rein datengetrieben arbei­ten, erlaubt es hybride KI, vorhandenes Wissen beim Lernen zu berück­sichtigen. Vom Grundsatz entspricht dies Prozessen des menschlichen Lernens: Was man schon weiß, muss man nicht immer wieder neu ler­nen. Hybride KI führt zu mehr Datensparsamkeit und zu robusteren Modellen“, so Ute Schmid, Professorin für Angewandte Informatik der Otto-Friedrich-Universität Bamberg und Leiterin der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme.

Vorteile von daten- und wissensbasierten KI-Verfahren verbinden

Datengetriebene KI-Systeme können nicht nur spezifische, sondern durchaus unterschiedliche Aufgaben ausführen und sind dabei äußerst leistungsfähig. Jedoch weisen sie auch Schwächen auf: Verzerrungen in Datensätzen können beispielsweise reproduziert werden und zu diskriminierenden Entscheidungen führen. Wie die Ergebnisse zustande kommen, kann schlecht nachvollzogen werden. Viele Probleme lassen sich nicht durch immer größere Modelle, Datenmengen oder Rechenkapazitäten lösen. Hinzu kommt der hohe Ressourcenverbrauch von rein datengetriebenen KI-Ansätzen.

Beim klassischen wissensbasierten KI-Ansatz wird menschliches Wissen so systematisiert, dass Computer es verarbeiten können. Diese KI-Verfahren liefern erklärbare, nachvollziehbare Ergebnisse und sind am besten für gut definierbare Problemstellungen geeignet, die sich im Laufe der Zeit nicht wesentlich verändern. Wissensbasierte KI-Systeme sind jedoch nur schwer skalierbar und ihre Leistungsfähigkeit bei der Verarbeitung großer empirischer (Echtzeit-)Datenströme unzureichend. Solche fallen zum Beispiel an, wenn autonome Fahrzeuge oder KI-gestützte Roboter über Sensoren ihre Umgebung wahrnehmen und auf Basis dieser Informationen handeln und lernen.

Datensparsam, robust und erklärbar

Hybride KI-Systeme können Daten und Wissen auf verschiedene Weise kombinieren. Ein wissensbasiertes System kann in eine datengetriebene Komponente eingebettet sein – oder umgekehrt. Alternativ können sich wissens- und datenbasiertes System gegenseitig informieren: Die Ergebnisse des einen Systems liefern den Input für das jeweils andere. Im Idealfall behalten neuronale Netze ihre Trainierbarkeit und Effektivität, wissensbasierte Komponenten bringen Erklärbarkeit und die einfache Integration menschlichen Wissens ein. Hybride KI kommt bei der Diagnose von Tumoren zum Einsatz, zur Vorhersage von Kipppunkten in der Klimaforschung oder in der Robotik zur Rehabilitation von Schlaganfallpatienten. „Menschen sind lernfähig. Sie handeln zumeist aber auf der Basis von gelerntem Wissen und Reflexen. Entsprechend sollten wir bei der Entwicklung von Robotiksystemen ‚integrativ‘ vorgehen, indem wir hybride KI-Ansätze in regelbasierte Grundfunktionen und funktionsvorgebende Strukturen einbetten. Das spart Ressourcen ein und erhöht die Sicher­heit der Systeme“, sagt Elsa Kirchner, Professorin für Systeme der Medizintechnik der Universität Duisburg-Essen und Leiterin der Arbeitsgruppe Lernfähige Robotiksysteme der Plattform Lernende Systeme.

Neben vielfältigen Vorteilen ist der Einsatz von hybrider KI auch mit Herausforderungen verbunden. So fehlen Leitlinien für die Umsetzung und Benchmarks in der Forschung und Entwicklung zu hybriden Systemen. Ihre Erstellung ist komplex und erfordert interdisziplinäre Zusammenarbeit von Forschenden und Domänenfachleuten.

Zum Format: KI Kompakt

KI Kompakt bietet einen knappen, fundierten und wissenschaftlich basierten Überblick über aktuelle Entwicklungen im Bereich Künstliche Intelligenz und zeigt Potenziale, Risiken sowie offene Fragen auf. Die Analysen entstehen mit Unterstützung von Expertinnen und Experten der Plattform Lernende Systeme und werden von der Geschäftsstelle herausgegeben. Die zweite Ausgabe der Reihe thematisiert „Hybride KI. Wissen und Daten kombiniert nutzen“. Sie steht zum kostenfreien Download zur Verfügung.