Datenschatz versus Datenschutz: Welche personenbezogenen Daten braucht KI?

München, 26. März 2024

Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie, doch datenschutzrechtliche Hürden scheinen ihren Einsatz in Unternehmen noch zu behindern. Dabei fallen dort häufig wertvolle Daten an, die mithilfe von KI-Technologie auch gemeinwohlorientiert nutzbar gemacht werden könnten – etwa durch eine personalisierte Gesundheitsversorgung oder Lösungen für mehr Sicherheit im Straßenverkehr. Neben lernenden Algorithmen braucht es dazu jede Menge Daten, mitunter auch personenbezogene. Über das Spannungsfeld von zukunftsorientierten Geschäftsmodellen und informationeller Selbstbestimmung diskutierten Fachleute mit Gästen bei acatech am Dienstag, das am 19. März in Kooperation mit der Plattform Lernende Systeme (PLS) im acatech Forum in München stattfand.

Die stetig wachsende Menge und Verfügbarkeit an Daten sowie deren intelligente Verknüpfung ermöglicht neue Anwendungen und Perspektiven. Jan Wörner, Co-Vorsitzender der Plattform Lernende Systeme und acatech Präsident, illustrierte dies in seiner Begrüßung anhand einer per Datenfusion verschiedener Satellitenaufnahmen erzeugten Aufnahme des Berges Mauna Kea, die erstmals dessen gesamte Größe darstellen konnte. Misst man vom am Meeresboden gelegenen Fuß aus, überragt der Mauna Kea mit 10.203 Metern den Mount Everest.

Das Spannungsfeld zwischen gesellschaftlich relevanten Möglichkeiten KI-basierter Anwendungen und datenschutzrechtlichen Hürden skizzierte die Moderatorin in ihrer Einführung. Erduana Wald, wissenschaftliche Referentin bei der Plattform Lernende Systeme, brachte dazu zwei fiktive Use Cases: Durch das Teilen von individuellen Mobilitätsdaten lässt sich beispielsweise das Flottenmanagement bei Mietfahrzeugen optimieren. Gesundheitsdaten aus Fitness-Apps oder Herzschrittmachern können helfen, die Entstehung von Erkrankungen besser vorherzusagen. Eine Weitergabe dieser Daten erfordert nach aktuellem Recht die Informiertheit und Einwilligung der einzelnen Personen sowie eine Zweckbindung. In der Praxis stellt das häufig eine große Hürde für die Entwicklung innovativer Geschäftsmodelle oder die Nutzung für Forschungszwecke dar. Der Umgang mit diesem Dilemma wurde in der anschließenden Diskussion vertieft.

Personenbezogene Daten schützen – technisch und individuell

Detlef Houdeau, Senior Director Business Development bei Infineon Technologies AG, betonte, dass für die Entwicklung von KI-Anwendungen oft nur ein Teil der Daten nötig sei – beispielsweise Alter und Geschlecht, nicht aber weitere personenbezogene Merkmale. Auch gebe es bereits technische Möglichkeiten, Daten im Interesse des Gemeinwohls flexibel zu nutzen und zugleich den Datenschutz zu wahren, etwa das so genannte Privacy-Preserving Machine Learning oder Datentreuhänder. Allerdings seien diese Möglichkeiten häufig wenig bekannt und juristisch kaum anerkannt, weshalb Interpretationsspielräume und Unsicherheiten blieben. Dies erschwere die wirtschaftliche Anwendung von KI in der Breite.

Die Bedeutung der informationellen Selbstbestimmung betonte Cordula Kropp, Professorin für Soziologie und Direktorin des Zentrums für Interdisziplinäre Risiko- und Innovationsforschung der Universität Stuttgart (ZIRIUS) und acatech Mitglied. Nutzende müssten stets entscheiden können, was mit ihren Daten passiert. Die Bereitschaft, Daten zu teilen, sei in der Bevölkerung generell eher groß, wie auch die Erhebungen des TechnikRadar zur Teilung von Mobilitäts-, Gebäude- und Energieverbrauchsdaten für Smart City Anwendungen zeigen. Nicht zuletzt trägt dazu bei, dass die Freigabe von Nutzungsdaten bei vielen mobilen Anwendungen vorausgesetzt wird. Eine Alternative zu einer sogenannten informierten Einwilligung (informed consent) gäbe es oft nicht – ähnlich wie bei der Aufklärung zu einer Narkose bei einer anstehenden Operation, so Cordula Kropp. Bei der Interpretation der Daten durch KI-basierte Anwendungen sei mitunter jedoch Vorsicht geboten: Deutet das verstärkte Blinzeln eines Autofahrenden zwingend auf Müdigkeit hin? Oder handelt es sich möglicherweise um eine persönliche Eigenheit?

Digitales Ökosystem für den souveränen Austausch betrieblicher Daten

Für Firmen sei es in der digitalen Transformation wettbewerbsentscheidend, vorhandene Datenschätze zu nutzen, um neue Geschäftsmodelle oder Services zu entwickeln, so Jan Fischer, Projektleiter des bei acatech angesiedelten Gaia-X Hub Germany. Personenbezogene Merkmale spielten in diesem Kontext kaum eine Rolle. Die Sorge insbesondere mittelständischer Unternehmen richte sich vielmehr darauf, wie sich betriebliche Daten sicher und souverän mit Partnern teilen lassen. Für einen verlässlichen und rechtssicheren Austausch brauche es eine europäische Lösung, so Jan Fischer. Mit dem vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderten Projekt Gaia-X entsteht ein europäisches digitales Ökosystem aus vernetzen Datenräumen auf Open-Source-Basis. Ziel ist es, einen Datenaustausch zu ermöglichen, bei dem die beteiligten Unternehmen und Organisationen stets die Souveränität über ihre Daten behalten.

In der anschließenden Diskussion mit dem Publikum lag ein Fokus auf der Frage, was der kürzlich von der EU verabschiedete AI Act zur Regulierung von KI-basierten Anwendungen bringt. Betont wurde die Notwendigkeit einer sogenannten Digital Literacy, dem selbstbestimmten Umgang mit digitalen Anwendungen – sowohl für Verbraucherinnen und Verbraucher als auch für Mittelständler, Ärztinnen und Ärzte und weitere Akteure, die mit datenbasierten Anwendungen arbeiten. Denn, so Detlef Houdeau abschließend: „KI ist gekommen, um zu bleiben – in allen Bereichen unseres Lebens.“

Weitere Informationen zum Thema sowie eine ausführliche Darstellung der vorgestellten Use Cases finden sich im aktuellen Whitepaper Datenschatz mit KI nutzen, Datenschutz mit KI wahren der Plattform Lernende Systeme. Im TechnikRadar wird auch erhoben, was die Deutschen zur Nutzung von Daten durch unterschiedliche Akteure denken. Dabei wurden 2022 der Umgang mit Gesundheitsdaten und 2023 der mit Daten für Smart City Anwendungen näher untersucht.