KI-Systeme schützen, Missbrauch verhindern – Maßnahmen und Szenarien in fünf Anwendungsgebieten

Künstliche Intelligenz wird bereits in einer Vielzahl von gesellschaftlichen Bereichen eingesetzt, sei es im Gesundheitsbereich, in der Arbeitswelt, im Straßenverkehr oder in öffentlichen Räumen. Trotz der vielfältigen Chancen, die die KI-Technologie mit sich bringt, wie etwa eine verbesserte Gesundheitsversorgung oder eine attraktive, individuelle Arbeitsplatzgestaltung, sollte das Potenzial für Missbrauch von KI-Systemen nicht aus den Augen verloren und realistisch eingeschätzt werden. Auf diese Weise können frühzeitig passende Schutzmaßnahmen gegen missbräuchliche Angriffe strategisch ergriffen werden.

Die Expertinnen und Experten unter Federführung der beiden Arbeitsgruppen Lebensfeindliche Umgebungen sowie IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme gehen im Whitepaper der Frage nach, welche Schritte unternommen werden sollten, um Missbrauch von KI-Systemen mit geeigneten Maßnahmen vorzubeugen. Dies vorrangig unter technologischen Aspekten. Hierzu empfehlen sie, Szenarien durchzudenken, um frühzeitig Einfallstore aufzudecken und daraus erforderliche Schutzvorkehrungen abzuleiten, die eingebettet in einer Gesamtstrategie Missbrauch verhindern können. Zur Veranschaulichung werden die theoretischen Überlegungen in realistischen Anwendungsszenarien aus dem Bereich Gesundheit, Freizeit, Mobilität oder Arbeitswelt eingebettet. Diese machen in der in der Gegenüberstellung zwischen „worst case“ und „best case“ deutlich, welchen Ausgang geeignete Maßnahmen im konkreten Missbrauchsfall letztlich begünstigen – dies im Sinne einer sicheren und zuverlässigen KI-Technologie.