Entlastend oder entfremdend? Wie KI unser Leben verändert

München, 5. Oktober 2023

Digitalisierung, Künstliche Intelligenz, Robotik – die Kooperation von Mensch und Maschine ist längst Realität. Welche ethischen und anthropologischen Fragen ergeben sich durch den Einsatz von KI in Bereichen wie Medizin und Mobilität? Wer trägt die Verantwortung für autonome Systeme? Diese Fragen diskutierte acatech mit Mitgliedern der Plattform Lernende Systeme und über 120 Gästen am 26. September im Rahmen von acatech am Dienstag im Salon Luitpold.

Dorothea Koert, Mitglied der Arbeitsgruppe Lernfähige Robotik der Plattform Lernende Systeme, setzte zu Beginn den Ton für den Abend mit einem Zitat, das dem amerikanischen Ökonom Leo M. Cherne zugeschrieben wird: „Der Computer ist schnell, genau und dumm. Der Mensch ist langsam, ungenau und brillant. Die Verbindung von beiden ist eine unberechenbare Kraft.“ Genau in dieser Verbindung sieht die Expertin große Chancen für die Gesellschaft. Etwa im Bereich der Pflege, in der KI-basierte Robotik Pflegefachkräfte bei notwendigen, aber lästigen Tätigkeiten unterstützt und somit mehr Raum für die Arbeit mit Patienten schafft. Die Sorge, dass Menschen durch KI ihre Jobs verlieren werden, wie seinerzeit in der industriellen Revolution des 19. und 20. Jahrhunderts, konnte Dorothea Koert vor diesem Hintergrund entkräften.

Andrea Martin, Leiterin des IBM Watson Centers und acatech Senatorin, schloss sich dieser Einschätzung an. KI als Ganzes sei ein Werkzeugkasten, mit dem einzelne Fähigkeiten menschlicher Intelligenz nachgeahmt werden können. Einzelne KI-Systeme könnten dabei aber nicht die komplette kognitive Kapazität menschlicher Intelligenz abdecken. Gerade deshalb bestehe in der Verbindung von menschlicher und künstlicher Intelligenz eine so große Chance, menschliche Leistungsfähigkeit zu steigern. Um seiner Verantwortung bei diesem Thema gerecht zu werden, habe IBM entsprechende Prinzipien entwickelt:

• Der Zweck von KI besteht darin, die menschliche Intelligenz zu erweitern.
• Daten und Erkenntnisse gehören ihrem Ersteller. Das IBM-Geschäftsmodell baut nicht auf Daten, sondern auf Technologie auf.
• Technologie muss transparent und erklärbar sein.

Peter Dabrock, Professor für systematische Theologie an der FAU-Erlangen und acatech Präsidiumsmitglied, brachte mit seinem Impuls die Grenzdimension von Recht und Ethik in der Risikobewertung der KI-Verordnung der Europäischen Union ins Spiel. Gerade bei KI-Systemen wie ChatGPT sei eine Bewertung nach Risikoklassen schwierig, da sie sehr anwendungsbezogen stattfinden muss. Abschließend merkte Peter Dabrock an, dass er KI durchaus zutraue, ein Eigenleben zu entwickeln, so dass sie sich über den Status eines reinen Instruments für den Menschen hinausentwickele.

Die anschließende, lebhafte Diskussion wurde moderiert von Marc-Denis Weitze, acatech Geschäftsstelle. Die Teilnehmerinnen und Teilnehmer interessierten sich vor allem für die missbräuchliche Verwendung von KI-Systemen wie ChatGPT – etwa in Form von Deep-Fakes – und die Erfordernisse bzw. Sinnhaftigkeit einer Regulierung von KI. Als Sorge wurde vorgebracht, dass der Großteil des weltweiten KI-Datenschatzes und der Hauptteil der KI-Entwicklung von wenigen Firmen kontrolliert werde. KI als disruptive Technologie habe außerdem, ähnlich wie Nukleartechnologie, eine globale Dimension und bedürfe deshalb möglicherweise einer globalen Regulierung.

Die Expertinnen und Experten unterstützen diesen Ansatz und betonten, dass KI sowohl eine nationale, europäische wie auch eine globale Regulierung brauche. Die europäische Regulierung müsse dabei einen Mittelweg finden, KI nicht zu wenig zu regulieren, um Missbrauchs- und Schadensrisiken zu minieren. Auf der anderen Seite dürfe man sie aber auch nicht überregulieren, weil man sonst Gefahr laufe, KI-Forschung und -Entwicklung aus Europa zu vertreiben – was die Abhängigkeit von nicht-europäischen KI-Systemen größer machen würde.

Eine Regulierung sei auch deshalb notwendig, um das Vertrauen von Kunden in KI zu stärken, die teilweise noch zurückhaltend seien. Zum Beispiel sei die Befürchtung, der Einsatz von KI könne zu Diskriminierung führen, ein zentraler Grund für die Zurückhaltung von Unternehmen. Ein europäischer regulatorischer Rahmen für KI sei deshalb notwendig. Gleichzeitig können in einer auf Risikoklassen basierten Regulatorik, die Haftungs- und Verbraucherschutzprinzipien integriert, weltweite Standards für KI-Regulierung gesetzt werden.

Inwiefern werden uns KI-Systeme in Zukunft im Alltag assistieren? Diese Frage stand abschließend zur Diskussion. Klar erscheint, dass KI in bestimmten App-Anwendungen, etwa in der Ticket-Buchung im Bereich Mobilität oder in medizinischen Anwendungen, schon jetzt wertvolle Dienste leistet. Gleichzeitig gehe damit aber ein Kompetenzverlust einher, der dazu führen könne, dass der Mensch ohne KI-Assistenten wichtige Alltagssituationen nicht mehr problemlos bewältigen könne – schon heute könnten sich ja viele Menschen ohne Navigationsapps nicht mehr zurechtfinden. Entlastung und Entfremdung sind zwei Seiten derselben Medaille und es wird darauf ankommen, zwischen beiden eine Balance zu finden.