KI im Unternehmen – wie gelingt ein vertrauenswürdiger Einsatz?

München, 18. Dezember 2024

Beim Einsatz von Künstlicher Intelligenz (KI) fragen sich viele Unternehmen, wie sie ethische Leitlinien berücksichtigen können. Ob Transparenz, Erklärbarkeit, Fairness, Sicherheit oder Datenschutz: Es gibt konkrete Maßnahmen, die eine Implementierung von vertrauenswürdiger KI unterstützen. acatech Senatorin Andrea Martin vom IBM Watson Center Munich beleuchtete am 3. Dezember bei acatech am Dienstag den Einsatz von KI aus der Sicht eines IT-Unternehmens. Über 600 Gäste verfolgten ihren Vortrag online. Die Veranstaltung fand in Kooperation mit vhs.wissen live statt.

acatech Präsident Jan Wörner ging in seiner Begrüßung zunächst auf die Hoffnungen und Sorgen ein, die sich Menschen im Zusammenhang mit KI machen. In der Wirtschaft und der Industrie sei KI schon weit verbreitet. Entsprechende Anwendungen kämen zum Beispiel in der Produktion zum Einsatz – nicht nur in Großunternehmen, sondern insbesondere auch in KMU und mit großem Potenzial auch in Handwerksbetrieben.

Andrea Martin (IBM Watson Center Munich und CTO Ökosysteme und Verbände bei IBM DACH | Mitglied der Plattform Lernende Systeme) machte zu Anfang ihres Vortrags eine wichtige Unterscheidung: Während sich menschliche Intelligenz auf die kognitiven Fähigkeiten des Menschen beziehe, die es ihm ermöglichen, zu lernen, Probleme zu lösen, zu kommunizieren oder sich an verschiedene Situationen anzupassen, sei Künstliche Intelligenz vielmehr ein Teilbereich der Informatik, der sich mit der Entwicklung von Systemen beschäftigt, die menschenähnliche Intelligenzleistungen erbringen können. Dazu gehören: das Verstehen von Sprache, das Erkennen von Mustern und das Treffen von Entscheidungen. KI-Systeme können auf große Datenmengen basierende Analysen durchführen und aus Erfahrungen lernen. Das größte Potenzial von KI für die Wirtschaft und die Menschen liege in der Automatisierung von Prozessen, der Verbesserung von Entscheidungsfindungen und der Schaffung neuer Produkte und Dienstleistungen. In der Wirtschaft könnten KI-Werkzeuge, so Andrea Martin weiter, dazu beitragen, Effizienz zu steigern, Kosten zu senken und personalisierte Kundenerlebnisse zu schaffen.

Das Potenzial von KI im geschäftlichen Kontext

Anschließend stellte die KI-Expertin unterschiedliche Beispiele für die Einsatzmöglichkeiten von KI-Tools im unternehmerischen Kontext vor. Die KI-Duft-Plattform „Philyra“ beispielsweise sei aus einer Partnerschaft zwischen dem Chemieunternehmen Symrise und IBM Research entstanden. Im Rahmen der Kooperation werden tausende von Rezepturen und historischen Daten analysiert, neuartige Duft-Kombinationen vorgeschlagen und eigene Kreationen erstellt. Anhand von gesammelten Erfahrungen, entwickelt sich das KI-Modell stetig weiter und verfeinert die Kenntnisse mit jeder neuen Kreation bzw. den Reaktionen darauf. Den Parfümeuren, führte Andrea Martin weiter aus, werde dadurch viel Arbeit abgenommen und es bleibe mehr Zeit, um sich um die spezielle Ausarbeitung der Düfte zu kümmern.

Im zweiten Beispiel ging sie auf einen Anwendungsfall in der Raumfahrt ein: Der sprachgesteuerte kopfförmige KI-Roboter Cimon (Crew Interactive MObile companioN) kommt auf der Internationalen Raumstation (ISS) zum Einsatz. Ein Projektteam vom Deutschen Zentrum für Luft- und Raumfahrt (DLR), Airbus, IBM und der LMU hatte seit August 2016 an der Realisierung gearbeitet. Cimon kann in der Schwerelosigkeit fliegen, agiert autonom und kann Astronauten bei der Durchführung von Experimenten anleiten Der Assistent kann Befehle befolgen, ist aber nicht für selbständiges Lernen ausgestattet. Die gesammelten Daten befinden sich nicht im Roboter, sondern werden im Rechenzentrum in Frankfurt/Main verarbeitet – trotz der Distanz bei einer Zeitverzögerung von nur 2 Sekunden.

Vertrauenswürdige KI in Unternehmen

Nicht nur im All, sondern auch auf der Erde stelle sich beim Einsatz von KI in Unternehmen immer die Frage nach der Vertrauenswürdigkeit, fuhr Andrea Martin fort. Wichtig sei deshalb, dass für alle Beteiligten und Betroffenen immer der Mensch im Zentrum stehe und in der aktiven Rolle bleibe. Die Unternehmen stünden in der Verantwortung, die Vertrauenswürdigkeit zu stärken, indem sie beispielsweise ein KI-Ethik-Rahmenwerk etablieren, das untersucht, wie man die Chancen von KI realisieren und gleichzeitig die Risiken reduzieren kann. Um die Chancen und Herausforderungen, die mit dieser Technologie einhergehen, angemessen zu steuern, sei eine effektive “KI-Governance” unerlässlich. Diese Governance umfasse Richtlinien, Standards und Verfahren, die sicherstellen, dass KI-Systeme verantwortungsvoll entwickelt und eingesetzt werden.

Zur Erläuterung eines zentralen Bestandteils der europäischen KI-Governance ging Andrea Martin ausführlich auf die europäische KI-Verordnung, den EU AI-Act, ein, der im Mai 2024 im Rat der Europäischen Union beschlossen wurde. Dieser zielt darauf ab, ein einheitliches KI-Regelwerk in der Europäischen Union zu schaffen. Der EU AI-Act verfolgt einen risikobasierten Ansatz, das heißt, KI-Anwendungen werden in verschiedene Kategorien eingeteilt – von minimalem bis hin zu hohem Risiko. Höherrisikobehaftete Anwendungen unterliegen strengeren Anforderungen hinsichtlich Transparenz, Sicherheit und Verantwortlichkeit, um das Vertrauen der Bürgerinnen und Bürger in diese Technologien zu stärken.

Aus Sicht von Andrea Martin ist insgesamt die KI-Governance ein entscheidender Faktor für die Zukunft der Technologie in Europa. Der EU AI-Act und die damit verbundenen Maßnahmen zur Vertrauenswürdigkeit und Regulierung seien wesentliche Schritte, um sicherzustellen, dass KI zum Wohle der Gesellschaft eingesetzt werde.