Social Scoring – Werden Algorithmen uns überwachen?
München, 10. Juli 2018
Wie umsichtig geht jeder Einzelne mit seinen persönlichen Daten um? Wie viele Datenspuren hinterlassen wir wirklich, wenn wir Kundenkarten nutzen, twittern oder dem Standortzugriff auf unserem Smartphone zustimmen? Diese Fragen stellte Moderatorin Maren Schüpphaus (dialogimpulse, München) dem Publikum am 10. Juli bei acatech am Dienstag in München. Danach diskutierten die Experten Gert G. Wagner und Gerd Gigerenzer, beide Mitglieder des Sachverständigenrats für Verbraucherfragen, über das Ausmaß und die Folgen von „Social Scoring“, also der Vermessung und Charakterisierung von Menschen durch Zahlen. Eine gesellschaftliche Wertediskussion über Datensouveränität sei dringend geboten, resümierten die Experten.
Beim Scoring werden Menschen zugeordnet, um sie einzuschätzen, erläuterte acatech-Mitglied Gert G. Wagner vom Max-Planck-Institut für Bildungsforschung und dem Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) in Berlin. Es ziele darauf ab, Verhalten entweder vorherzusagen (etwa in Bezug auf das Zurückzahlen von Krediten) oder sogar steuern zu können (zum Beispiel beim Thema Gesundheit). Auch in der analogen Welt existierten Scoringverfahren, angefangen bei Schulnoten bis hin zur Risikoeinschätzung für Versicherungsunternehmer (etwa bei der KFZ-Haftpflicht) oder Angaben zur Kreditwürdigkeit seitens Auskunfteien. Big Data und automatisierte Entscheidungsformen auf Grundlage von Algorithmen ließen nun eine völlig neue Dimension des Vermessens und des Umgangs mit Verbrauchern zu, so Wagner. Sie eröffneten nicht nur zusätzliche Einsatzfelder, sondern gingen zudem mit neuartigen Problemen hinsichtlich der Transparenz der Verfahren einher: Weil sich die sogenannten selbstlernenden Systeme abhängig von den eingespeisten Daten weiter verändern und anders entscheiden, reiche es nicht mehr aus, deren Programmierungs-Code zu kennen.
Als Mitglied des Sachverständigenrates für Verbraucherfragen (SVRV, www.svr-verbraucherfragen.de) gab Wagner anschließend einen Einblick in die Arbeit dieses Gremiums. Der Sachverständigenrat untersucht zur Zeit, wodurch sich Scoring von bisherigen Geschäftsmodellen abgrenzt, welche technischen Innovationen die Entwicklung vorantreiben, welche Akzeptanz Scoring-Modelle bei den Menschen in Deutschland erreichen, welche gesellschaftlichen Folgen zu erwarten sind und wo Regulierungsbedarf besteht bzw. entstehen wird. Ende Oktober wird das Gutachten „Verbraucher in einer Zahl: Herausforderungen und Empfehlungen für faires Scoring“ erscheinen.
Schaffung von Transparenz-Schnittstellen
Eine mögliche Handlungsempfehlung präsentierte Gert G. Wagner bereits am Münchner Karolinenplatz: Transparenz-Schnittstellen, die Beispielrechnungen für Einzelpersonen ermöglichen, aber das vom Gesetzgeber bislang hoch gehaltene Geschäftsgeheimnis der Scoring-Unternehmen nicht gefährden. Der Gesetzgeber könnte die Unternehmen dazu verpflichten, eine Internet-Schnittstelle anzubieten mit deren Hilfe man Beispielfälle durchrechnen und bewerten lassen und so Transparenz schaffen könnte, betonte Wagner. Und schon nach geltender Rechtslage sei das Geschäftsgeheimnis gegenüber Aufsichtsbehörden wie der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) aufgehoben. Eine Digital-Agentur, wie sie der Sachverständigenrat für Verbraucherfragen vorschlägt, könnte alle relevanten Algorithmen und Scoring-Verfahren testen. Letztlich sei es eine gesellschaftspolitische und gesetzgeberische Frage, wie viel Ressourcen die Gesellschaft in Testverfahren investieren will, um Transparenz von Algorithmen und Scoring-Verfahren herzustellen. Wagner ergänzte: „Man sollte sich von der Eigenwerbung von IT-Spezialisten, die behaupten, dass künstliche Intelligenz undurchschaubar sei, und den Ängsten, die Feuilletonisten schüren, nicht verwirren lassen, sondern nach Lösungen suchen, wie wir künstliche Intelligenz beherrschen, verstehen und beherrschen können.“
Staatliches Scoring in China
Gerd Gigerenzer vom Max-Planck-Institut für Bildungsforschung in Berlin erläuterte das Sozialkredit-System in China: Der chinesische Staat hat ein Social Credit System eingeführt, das Menschen nach definierten Merkmalen bewertet. Es soll „alles“ erfassen: Zahlungsmoral, Strafregister, Einkaufsgewohnheiten, das eigene Sozialverhalten, aber auch das von Familie und Freunden. Das Bewertungssystem zielt darauf ab, das Verhalten der Bürgerinnen und Bürger zu steuern. Chinas Kommunistische Partei möchte über dieses Sozialkredit-System Vertrauen, Ehrlichkeit und Harmonie fördern und gleichzeitig Korruption, Betrug und andere illegale Aktivitäten unterbinden.
Derzeit gebe es in China bereits 8 private Unternehmen, die kommerzielle Pilotprojekte auf nationaler Ebene durchführen sowie 40 Pilotprojekte eines staatlichen Bürger-Scorings auf regionaler Ebene. Bis 2020 möchte der chinesische Staat eine Infrastruktur schaffen, um alle Personen und Organisationen zu bewerten. Zu diesem Zweck habe China derzeit etwa 200 Millionen Überwachungskameras installiert, die Gesichter registrieren und wenn möglich zuordnen. Sind die Gesichter noch nicht registriert, würden Daten wie Geschlecht, Alter etc. aufgezeichnet. Wer das Vertrauen in einem Bereich bricht – beispielsweise eine Rechnung nicht bezahlt –, müsse mit Konsequenzen in allen Lebensbereichen rechnen: Reiseprivilegien oder der Kreditzugang könnte ebenso begrenzt werden wie der Zugang der Kinder zu Bildungseinrichtungen. Laut einer Befragung von 2000 chinesischen Bürgerinnen und Bürgern kennt die Bevölkerungsmehrheit das Programm noch nicht. Diejenigen, die es kennen, sehen mehrheitlich Vorteile dadurch. Es seien bereits Verhaltensänderungen sichtbar: So würden schlecht bewertete Kontakte in sozialen Netzwerken gelöscht und Postings vermieden.
In Deutschland gebe es technisch bereits die Möglichkeit, personenbezogene Daten umfassend zusammenzuführen. Obgleich dies rechtlich untersagt ist, sei jetzt eine gesellschaftliche Wertediskussion zum Thema Datensouveränität dringend geboten, mahnte Gerd Gigerenzer.
Weiterführende Informationen: