Agentische KI: große Potenziale, viele Risiken und eine Chance für Europa

München, 22. April 2026

Mit KI-Agenten erreicht die Entwicklung intelligenter Technologien eine neue Stufe: Agentische KI löst eigenständig spezifische Aufgaben. Hierfür interagiert sie mit Menschen, weiteren KI-Agenten oder -Tools, und erstellt Pläne, zieht Schlussfolgerungen und greift auf externe Werkzeuge wie Datenbanken oder Applikationen zurück. In Multi-Agenten-Systemen arbeiten verschiedene Agenten zusammen und kontrollieren sich sogar gegenseitig, etwa indem sie unterschiedliche Rollen einnehmen. Es ist der Schritt vom reaktiven Werkzeug zum proaktiven Akteur. Wie sich diese neue Entwicklungsstufe einordnen lässt und welche Potenziale, aber auch Risiken sich daraus ergeben, ordnen Expertinnen und Experten der Plattform Lernende Systeme (PLS) auf der Themenseite „Agentische KI“ ein.

Agentische KI-Systeme sind darauf ausgelegt, handlungsfähig zu sein. Mit zunehmender Autonomie wächst jedoch auch die Angriffsfläche. Neben bekannten Herausforderungen wie Desinformation, verzerrten Ausgaben und Datenlecks kann ein kompromittierter Agent in komplexen digitalen Umgebungen, wie in Finanzsystemen, kritischer Infrastruktur oder Messaging-Anwendungen, nicht nur Informationen manipulieren, sondern auch aktiv eingreifen. Dadurch entstehen neue Sicherheitsrisiken. Gleichzeitig haben agentische KI-Systeme das Potenzial, digitale Prozesse zu automatisieren, Wissensarbeit zu unterstützen und neue Formen der Zusammenarbeit zwischen Menschen und KI-Systemen zu ermöglichen.

Gigantische Chancen und echte Herausforderungen

„Wir stehen an einem Wendepunkt: KI-Systeme sprechen nicht mehr nur, sie handeln. Wenn Sie sagen: ,Finde meine Hotelrechnung und reiche sie ein‘, erledigt ein Agent das eigenständig, Schritt für Schritt, egal, wie die Hotelrechnung gestaltet ist. Allen Newell und Herbert A. Simon träumten 1959 davon. 2026 ist dieser Traum Realität. Aber ein Agent, der Ihren Posteingang aufräumt, kann dabei auch alle E-Mails der letzten fünf Jahre unwiderruflich löschen. Dies birgt gigantische Chancen und echte Herausforderungen“, so Kristian Kersting, Professor für Künstliche Intelligenz und Maschinelles Lernen an der TU Darmstadt und Mitglied der Plattform Lernende Systeme.

Vor diesem Hintergrund stellen sich zentrale Fragen: Welche Bereiche eignen sich für den Einsatz agentischer KI? Welche technologischen Ansätze gibt es und wo ist Forschung und Entwicklung nötig, um sie weiterzuentwickeln? Wie lassen sich die damit verbundenen Herausforderungen in den Bereichen Sicherheit, Governance und Regulierung bewältigen? Wie verändern sich Arbeitsprozesse? Und wie kann Europa technologisch souverän bleiben? Hierzu beleuchten die Expertinnen und Experten der Plattform Lernende Systeme die Potenziale, Risiken und Handlungsoptionen.

Europas Souveränität sicherstellen

„Agentic AI besitzt eine erhebliche Bedeutung für die technologische Souveränität Europas. Angesichts der starken Investitionen internationaler Technologiekonzerne ist es entscheidend, dass Europa eigene Kompetenzen in der Entwicklung, Bewertung und Anwendung agentischer Systeme aufbaut“, erklärt Volker Tresp, Professor für maschinelles Lernen an der Ludwig-Maximilians-Universität München und Mitglied der Plattform Lernende Systeme. „Eine starke Forschungslandschaft, offene Innovationsökosysteme und enge Kooperationen zwischen Wissenschaft, Wirtschaft und öffentlichem Sektor sind zentrale Voraussetzungen, um die technologische Entwicklung aktiv mitzugestalten und gleichzeitig gesellschaftliche Werte wie Transparenz, Sicherheit und Verantwortlichkeit zu gewährleisten.“

Alle Standpunkte zum Thema „Agentische KI“ sind unter diesem Link abrufbar. Textinhalte können unter Nennung der Quelle (Plattform Lernende Systeme) für die redaktionelle Berichterstattung genutzt werden.

Über die Plattform Lernende Systeme

Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesforschungsministerium auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Dorothee Bär (Bundesministerin für Forschung, Technologie und Raumfahrt) und Claudia Eckert (Präsidentin acatech). Mehr Info.