Lenkungskreis der Plattform Lernende Systeme: Robotisches Lernen und der AI Act im Fokus

Berlin, 31. Oktober 2024

Roboter, die durch Interaktion mit Menschen oder ihrer Umgebung lernen, eröffnen vielfältige Einsatzmöglichkeiten in verschiedenen Branchen. Eher mit Restriktionen verbunden ist die seit August geltende europäische Verordnung zu Künstlicher Intelligenz (KI), der so genannte AI Act. Beide Themen standen im Mittelpunkt der 14. Sitzung des Lenkungskreises der Plattform Lernende Systeme (PLS) in Berlin. Dessen Mitglieder und Gäste diskutierten mit dem parlamentarischen Staatssekretär Mario Brandenburg und acatech Präsident Jan Wörner aktuelle Arbeitsergebnisse und weitere Inhalte der Plattform.

Die Verknüpfung mit KI hebt robotische Anwendungen auf eine neue Stufe. Lernfähige Roboter können in einer realen oder simulierten Umgebung durch Wechselwirkung mit Menschen oder technischen Systemen neue Erfahrungen generieren und so verschiedene Aufgaben immer besser erledigen. Elsa Kirchner, Professorin und Leiterin des Fachgebiets „Systeme der Medizintechnik“ an der Universität Duisburg-Essen, illustrierte dies anhand von Use Cases, die in der von ihr geleiteten PLS-Arbeitsgruppe entwickelt wurden.

Beispiel Medizintechnik: Aktive Exoskelette und Orthesen unterstützen Patientinnen und Patienten möglichst situationsgerecht dabei, Bewegungen auszuführen. Durch Feedback der Nutzenden lernen diese so genannten Wearable Robots kontextspezifisch, welche Art und Stärke der Unterstützung der Mensch in welcher Situation als angenehm empfindet und passen sich nach Bedarf an. Beispiel Handwerk: Mittels Lernen durch Interaktion können Robotersysteme von Fachkräften mit entsprechender Software für Aufgaben wie das Schleifen oder Polieren von Werkstücken angelernt werden, ohne dass sie dazu spezielle Programmierkenntnisse oder KI-Wissen benötigen. Die Potenziale von lernfähigen Robotiksystemen sind groß, insbesondere auch für die Kleinserienfertigung, so Elsa Kirchner. Herausforderungen bestehen aktuell noch bei der Zulassung und Zertifizierung von weiterlernenden Systemen. Hinzu kommen Unsicherheiten bei der Risikoklassifizierung gemäß dem von der EU beschlossenen AI Act.

Anforderungen und Chancen des AI Act

Grundzüge des AI Act skizzierte Ruth Janal, Professorin für Bürgerliches Recht, Immaterialgüterrecht und Wirtschaftsrecht an der Universität Bayreuth und PLS-Mitglied, in ihrem Vortrag. Weltweit ist Europa mit seiner umfassenden KI-Verordnung Vorreiter. Der AI Act fordert, dass KI-Systeme gemäß ihren potenziellen Risiken in Bezug auf Sicherheit, Grundrechte und Gesundheit von EU-Bürgerinnen und -Bürgern in verschiedene Risikokategorien eingeordnet werden müssen. Damit verbunden sind teils umfangreiche Pflichten für die Anbieter. In den Bereich der Hochrisiko-Anwendungen fallen etwa die biometrische Identifizierung von Personen oder Systeme für Bereiche wie Bildung, Personalauswahl oder Strafverfolgung. Aktuell werden nationale Aufsichtsbehörden zur Umsetzung des AI Act benannt. Gefragt sind zudem Standards für Risiko- und Qualitätsmanagement sowie zum Schließen der Lücke zu bestehenden Normen, so Ruth Janal.

Dass regulatorische Maßnahmen auch Chancen für Unternehmen bergen, illustrierte PLS-Mitglied Marian Gläser am Beispiel des von ihm gegründeten Startups brighter AI. Das mehrfach ausgezeichnete Unternehmen reagierte auf die Anforderungen der Datenschutzgrundverordnung (DGSVO) mit einem Geschäftsmodell und anonymisiert große Videodatensätze. Dazu erzeugt es mit Hilfe von generativer KI nach dem Zufallsprinzip synthetische Gesichter, ersetzt damit auf unumkehrbare Weise die Originalbilddaten und macht Videodaten somit datenschutzkonform für Analysen oder das Training von KI-Systemen nutzbar. Seinen Umsatz erzielt brighter AI zu rund 50 Prozent mittlerweile im Ausland, so Marian Gläser.

In der anschließenden Diskussion betonten die Teilnehmenden der Sitzung die Notwendigkeit, die Ausgestaltung des AI Act konstruktiv zu begleiten und insbesondere die aktuell noch verunsicherten kleinen und mittleren Unternehmen mit Handreichungen und Use Cases zur rechtskonformen Nutzung von KI-Systemen zu unterstützen. Der Lenkungskreis steuert als Leitungsebene die inhaltliche und strategische Ausrichtung der Plattform Lernende Systeme und setzt Impulse für ihre Arbeit. Seine Mitglieder aus Wissenschaft und Wirtschaft repräsentieren wichtige Themen, Disziplinen, Branchen und Unternehmen unterschiedlicher Größe im Feld der Künstlichen Intelligenz. Sie wurden vom Bundesministerium für Bildung und Forschung (BMBF) berufen.