Generative KI und ihre Folgen für die Gesellschaft: Perspektiven auf eine aktive Gestaltung der Zukunft

München, 26. November 2025

Generative Künstliche Intelligenz (KI) verändert unsere Gesellschaft in rasantem Tempo. Anwendungen wie ChatGPT, Gemini oder DeepSeek erstellen realistisch wirkende Bilder, komponieren Musik, führen menschenähnliche Gespräche und übersetzen nahezu in Echtzeit. Damit prägt generative KI nicht nur, wie wir arbeiten, lernen und kommunizieren, sondern zunehmend auch, wie wir als Gesellschaft Wissen, Kreativität und Verantwortung verstehen. Ihr Einsatz wirft aber zugleich gesellschaftliche und ethische Fragen auf: Wie bleibt menschliche Kompetenz im Mittelpunkt? Wie können wir Authentizität und Vertrauen sichern, wenn KI-Inhalte täuschend echt wirken? Und welche Regeln sind nötig, um Innovation mit ethischen Grundwerten, Nachhaltigkeit und sozialer Gerechtigkeit zu verbinden? Die neue Broschüre der Plattform Lernende Systeme zeigt, wie ein werteorientierter Umgang mit generativer KI gelingen kann und gibt Orientierung, Handlungsperspektiven und Denkanstöße.

Die von den Herstellern mit generativen KI verbundenen Versprechungen scheinen nahezu allumfassend: Von der Steigerung der Produktivität, der Optimierung von Lieferketten und Fortschritten im Medizinbereich über die Lösung globaler Probleme wie dem Klimawandel, bis hin zu Erleichterungen im alltäglichen Leben. Generative KI nutzt dabei große Sprachmodelle, die Wahrscheinlichkeitsverteilungen über mögliche Ausgaben berechnen und daraus selbständig neue Ergebnisse generieren. In den letzten Jahren hat diese Entwicklung große Fortschritte gemacht. Doch der Einsatz von generativer KI geht auch einher mit Diskussion zu potenziellen Gefahren, wie etwa Cyber-Kriegsführung, Fake News oder einem möglichen Verlust der Kontrolle über autonome KI-Systeme – all das auch potenzielle Gefahren für demokratische Gesellschaften.

Eine zentrale Richtungsentscheidung bei der Entwicklung und Gestaltung von generativer KI besteht deshalb in der Frage, wie Sicherheit und Fortschritt gelingen können und wie generative KI inklusiv gestaltet werden kann, so dass alle gesellschaftlichen Akteure einbezogen werden. Zudem müssen die sich abzeichnenden zentralen Spannungsfelder frühzeitig identifiziert werden. Um eine wertorientierte Entwicklung zu unterstützen, müssen die teils widerstreitenden Interessen und Erwartungen gesellschaftlich verhandelt und bewertet werden. Damit generative KI verantwortungsvoll genutzt werden kann, braucht es klare Regeln, ethische Leitplanken, transparente Nutzung und ein Bewusstsein für soziale Folgen. Der Blick auf mögliche Zukunftsszenarien und Spannungsfelder hilft, frühzeitig zu gestalten, statt nur zu reagieren.

Aktive Gestaltung und Partizipation sind unerlässlich

„Menschliche Expertise und die Fähigkeit zur kritischen Beurteilung und Korrektur von generierten Inhalten ist unverzichtbar. Wir müssen darauf achten, dass generative KI und menschliche Expertise sinnvoll in einem Co-Creations-Prozess zusammenspielen, um die Zuverlässigkeit und Qualität von generierten Inhalten sicherzustellen“, betont Prof. Dr. Ute Schmid, Otto-Friedrich-Universität Bamberg und Mitglied der Plattform Lernende Systeme.

Für Unternehmen wie die Gesellschaft bedeutet dies, nicht nur rechtliche Vorgaben zu beachten, sondern sich auch aktiv mit der Frage auseinanderzusetzen, welche Ziele und Grenzen bei der Entwicklung und für den Einsatz von generativer KI gesetzt werden sollten. Seitens der Forschung sind Tools und Methoden zu entwickeln, die generative KI hinsichtlich dieser Kriterien und Prüfungsansätze bewerten und zertifizieren können. Hier werden Ansätze wie werteorientierte Technikgestaltung Ethics by Design mit technischen Prüfverfahren kombiniert.

Um Desinformation zu minimieren, gilt es Inhalte stets kritisch zu hinterfragen, Quellen auf Vertrauenswürdigkeit zu überprüfen und im Zweifelsfall fragwürdige Inhalte nicht weiterzuleiten oder zu teilen. Konkret bedeutet das: Für eine erfolgreiche Gestaltung der Zukunft mit generativer KI muss eine Ausgewogenheit gefunden werden, zwischen dem, was die Nutzenden leisten müssen – Entwicklung von Daten- und KI-Kompetenz – und dem, wie die Technologie entwickelt und konzipiert werden muss – nach Prinzipien wie beispielsweise Erklärbarkeit und Transparenz.

Während generative KI als Allzweck-Technologie viele Prozesse im täglichen sowie beruflichen Leben vereinfachen und neue kreative Wege eröffnen kann, gilt es gleichzeitig, den verantwortungsvollen und sicheren Umgang mit dieser Technologie zu fördern. Eine verantwortungsvolle Entwicklung generativer KI erfordert ein ausgewogenes Zusammenspiel von Sicherheit, Fortschritt und Partizipation. Menschzentrierte Anwendungen, Forschung zu sicherer und transparenter KI sowie demokratische Entscheidungsprozesse können dazu beitragen, Innovation im Sinne des Gemeinwohls zu gestalten.

Über die Broschüre

Die Broschüre „Zukunft gestalten! Mit generativer KI.“ steht zum kostenfreien Download zur Verfügung.

Über die Plattform Lernende Systeme

Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesforschungsministerium auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Dorothee Bär (Bundesministerin für Forschung, Technologie und Raumfahrt) und Claudia Eckert (Präsidentin acatech). Mehr Info.