Mehr Handlungsfähigkeit für die öffentliche Verwaltung mit Künstlicher Intelligenz
Der Einsatz von Künstlicher Intelligenz (KI) kann die öffentliche Verwaltung handlungsfähiger machen. KI ist jedoch keine Universallösung für alle Herausforde-
rungen.
›. Regelungen wie die EU-KI-Verordnung oder die Daten-schutz-Grundverordnung (DSGVO)schaffen Vertrauen in den Einsatz von KI. Gleichzeitig stellen sie aber auch hohe Anforderungen, die den effizienten und effekti- ven Einsatz von KI erschweren.
›. Um praktischeund innovative KI-Kompetenzen auf- zubauen, sollte insbesondere die kommunale Ver- waltung einen einfachen Zugang zu KI-Reallaboren erhalten.
Die Erfüllung von KI-Regulierungen sollte durch klareStandards und Best-Practice-Beispiele erleichtert wer- den. Eine praxistaugliche Umsetzung der EU-KI-Verordnung in Deutschland, die nicht über die europäi- schen Vorgabenhinausgeht, ist hierfür unerlässlich.
›. Zur Stärkungder digitalen Souveränität sollte der Einsatz europäischer KI-Anwendungen in kritischenVerwaltungsbereichen zum Standard werden.
›. KI wird die Bündelung von kommunalen Aufgaben und Dienstleistungen fördern, die ortsunabhängig
angeboten werden können. Dies erhöht die Effizienz,wirft aber die Frage auf, wie die Bürgernähe gewahrtwerden kann.
Krise als Chance
Schafft der Staat, was sich Unternehmen von Künstlicher Intelligenz erhoffen? KünstlicheIntelligenz (KI) gilt in derWirtschaft als Gamechanger. Mit ihr, so die Erwartung, lassen sich Arbeitsprozesse optimieren, die Produktivität steigern, Kosten senken und Freiräume fürInvestitionen in Innovationen schaffen. KI-Kompetenz ist daher für Unternehmen ein wich- tigerLeistungsfaktor im nationalen und internationalen Wettbewerb. Dies wird zunehmend auch vom Staat und seiner Verwaltung erkannt.
Die Herausforderungen der öffentlichen Verwaltung, u. a. durch den demografischen Wandel, sind für den KI-Einsatz eine Chance.
In der öffentlichen Verwaltung soll KI im Rahmen des Digitalisierung sprozesses dazu beitragen, die Handlungsfähigkeit des Staates zu verbessern. Eine dringende Aufgabe angesichts des schwindenden Vertrauens der Bevölkerung in die Umsetzungskompetenz des Staates.Langwierige und über bürokratisierte Verwaltungsprozesse, komplexe Rechtsgrundlagen, unterbesetzte Behörden, knappe Budgets sowie zunehmender Fachkräftemangel prägen dieses Bild.
Längst sind es nicht mehr nur alltägliche kommunale Behördenleistungen wie die Ausstel- lung von Ausweisen, Ummeldungen oder Schulanmeldungen, die für Berufstätige zur ter- minlichen Herausforderung werden. Zunehmend sind auch Kernbereiche des Staates vom Vertrauensverlust betroffen. AusstehendeGenehmigungen für große Infrastrukturprojekte, überlastete Gerichte, langwierige Asylverfahren oder die mangelnde Vernetzung der Sicherheitsbehörden lassen viele Bürgerinnen und Bürger zweifeln.
Wenn die öffentliche Verwaltung nicht mehr in der Lage ist, ihre Kernaufgaben zu erfüllen,ist das nicht nur schlecht für die Bürgerinnen und Bürger,sondern auch ein erheblicheswirtschaftliches Standortrisiko fürDeutschland, das von internationalen Investoren genau beobachtet wird. Eine noch viel größereGefahr entsteht aber, wenn aus dem Vertrauens-verlust in die öffentliche Verwaltung ein Vertrauensverlust in die Demokratie wird. Wenn die Bürgerinnen und Bürger wahrnehmen, dass Gesetze nicht mehr oder nur mit erheblicherVerzögerung umgesetzt werden.
Angesichts der hohen politischen Erwartungen an KI und der Bereitschaft, sie in der öffentlichen Verwaltung einzusetzen, stehen wir vor einer einzigartigen Gelegenheit. Diese Kombination bietet ideale Voraussetzungen, um die aktuelle Krise als Sprungbrett zu nutzen und handlungsfähigere öffentliche Verwaltung zu schaffen.
KI ist in der öffentlichen Verwaltung angekommen
KI wird bereits heute in den verschiedensten Bereichender öffentlichen Verwaltung und auf allen föderalen Ebenen in Deutschland eingesetzt. Sie soll die Kommunikation mit den Bürgerinnen und Bürgern unterstützen, die Qualitätöffentlicher Dienstleistungen erhöhen sowie Prozesse automatisieren und verbessern. Darüberhinaus dient sie als nicht mehrwegzudenkendes Werkzeug in vielen spezifischen Aufgabenfeldern.
Bürgernähe und allgemeine Verwaltung
Am häufigsten kommt KI in der öffentlichen Verwaltung gegenwärtig in Form von Chatbotszum Einsatz. Diese helfen Bürgerinnen und Bürgern bei häufig gestellten Fragen oder bei der Suche nach Informationen zu Verwaltungsleistungen, ohne dass sie dafür ein Amt auf- suchen müssen – rund um die Uhr, sieben Tage die Woche und in Echtzeit. Diese Systeme können auch Formulare bereitstellen und den Fortschritt von Anträgen verfolgen. Dadurch soll das Verwaltungspersonal entlastet werden und die Bürgerinnen und Bürger erhalten schnellere Antworten. Gleichzeitig können die Bots in einfacher Sprache und bei Bedarf auch in nichtdeutscher Sprache arbeiten, was die oft komplexe Verwaltungssprache vereinfacht und damit zugänglicher macht.
Vielsprachige Chat-bots entlasten bereits Verwaltungspersonal
Einen Schrittweiter gehen KI-Systeme, die die automatisierte Dokumentenverarbeitung, Antragsbearbeitung, Datenanalyse, Prognose und Empfehlung in öffentlichen Verwaltun-gen, sprich Ämtern,unterstützen. Sie helfen,Routineaufgaben wie das Antragsmanage- ment zu bewältigen und interne Prozessezu optimieren. In Baden-Württemberg wurde dafür F13eingeführt, in Hamburg wird mit LLmoin und in Nordrhein-Westfalen mit NRW.Genius experimentiert.Diese Projekte stellen Verwaltungsmitarbeiterinnen und -mitarbei- ter KI-Assistenten zur Seite, die bei der täglichen Arbeit mit Texten (z. B. Recherchieren,Formulieren und Zusammenfassen) Zeit sparen sollen.
Spezifische Einsatzfelder
Das Bundeszentralamt für Steuern nutztKI, um den Datenaustausch zwischenden Mit- gliedstaaten der Europäischen Unionzu automatisieren. Dies führt zu einer schnelleren und präziseren Informationsverarbeitung im grenzüberschreitenden Steuerbereich. In Hessen unterstützt KI die Bearbeitung von Rechtsbehelfen im Steuerbereich, indem sieAnträge vorprüft und kategorisiert. So können einfache Fälle schneller bearbeitet werden,während sich das Personal auf komplexere Fälle konzentrieren kann.5Und auch bei derBewältigung großer Datenmengen, wie sie zum Beispiel bei den PanamaPapers anfallen, wird KI eingesetzt, um steuerrechtlich relevanteSachverhalte zu identifizieren.
InnovativeKI-Anwendungen versuchen auch in der Justiz Abhilfe zu schaffen. So wurde der Oberlandesgerichts-Assistent (OLGA) entwickelt, der die Kategorisierung von Schriftsätzen in Massenverfahren wie den Dieselprozessen unterstützt.7Er sorgt dafür, dass einfache Fälleautomatisiert bearbeitetwerden, damit sich die Richter auf komplexere Fälle konzentrierenkönnen. KI-Systemewie JANO (Justiz Anonymisierung) unterstützen Gerichte bei der Erstel- lung von Urteilsentwürfen und der Anonymisierung von Dokumenten.Das beschleunigtden Prozess und reduziert den Verwaltungsaufwand.
In spezifischen Aufgabenfeldern der öffentlichen Verwaltung wie der Steuerverwaltung, Justiz oder Polizei- arbeit ermöglicht KI dieErhöhung der Effektivität.
Für die Polizeiist KI ein wichtiges Werkzeug, um Abläufe und Prozesse effizienter zu gestalten und die Kriminalität effektivbekämpfen zu können. Sie analysiert und automatisiertFahrzeugbilder sowie Handschriften, um Ermittlungsprozesse zu beschleunigen. Bei Fällen von Kindesmissbrauch wird KI schon heute eingesetzt, um große Datenmengen nach Hinweisen zu durchforsten. Dies verkürzt die Ermittlungszeit erheblich. Die biometrischeGesichtserkennung mit Hilfe von KI kann den Fahndungserfolg nach gesuchten Personenerhöhen und öffentliche Plätze überwachen.
Entwicklungen und Herausforderungen
Der Einsatzvon KI in der öffentlichen Verwaltung ist vielfältig und mit Experimentierfreudeversehen. Governance-Technology-Ökosysteme nehmen dabei eine wichtige Funktionein, indem sie Privatwirtschaft undVerwaltung zusammenbringen, um Innovationen und Bildungs-angebote voranzutreiben. Derzeitdominieren zeitlich begrenzte Pilotprojekte, doch der Anteil an KI-Technologien im Regelbetrieb wächst, da KI in spezifischen Bereichen bereits echten Mehrwert schafft.
KI ist bereits in der öffentlichen Verwaltung angekommen. Allerdings stellen Regulierungen eine hohe Hürde da
Der Einsatzvon KI wirft gleichzeitig ethische und Datenschutz rechtliche Fragen auf, ins- besondere in den Bereichen Sicherheit und Bildung.Die KI-Verordnung der EU schafft nun einen Rechtsrahmen, der Anwendungen in Risikoklassen einteilt und höhere Risiken stärker reguliert. Für den erfolgreichen Einsatz von KI in der öffentlichen Verwaltung ist die Umsetzung dieserVerordnung sowie weitererRechtsvorschriften von zentraler Bedeutung. Diese sollen Risiken minimieren, einen rechtlichen Rahmen schaffen und Vertrauen fördern. In ihrer derzeitigen Form stellensie jedoch hohe regulatorische Hürdendar, die den Einsatzvon KI einschränken, die Kosten erhöhen und Innovationen behindern. Darüber hinaus werden Fragen der digitalen Souveränität angesichts der zunehmenden geo-politischen Dynamik für die öffentliche Verwaltung immer wichtiger. Es werden Lösungen benötigt, die die Abhängigkeit von ausländischer KI verringern und gleichzeitig den Zugang zu innovativen Anwendungen ermöglichen.
Weichen stellen
Um die regulatorischen Hürdenund die Herausforderungen der Stärkung der digitalenSouveränität zu bewältigen, ist es entscheidend, Rahmenbedingungen zu schaffen, die den effizienten und effektiven Einsatz von KI in der öffentlichen Verwaltung ermöglichen
Kompetenzaufbau mitKI-Reallaboren fördern
Der Aufbau von KI-Kompetenz und die Bereitstellung von KI-Anwendungen wird in der öffentlichen Verwaltung aktiv vorangetrieben. Insgesamt steht dieser Prozess jedoch noch am Anfang. Es braucht weitere Initiativen.
KI-Reallabore schaffen nicht nur Freiraum für Innovation, sie eignen sich auch für den Kompetenzaufbau.
Hierfür eignet sich neben klassischen Fortbildungen auch das Instrument der KI-Reallabore. Diese sollen gemäß EU-KI-Verordnung vor allem kleinen und mittleren Unternehmen (KMU) sowie Start-ups einen weitgehend unregulierten Freiraum für die Entwicklung von KI-Anwendungen bieten, um Innovationen zu fördern. Die Umsetzung der KI-Reallabore liegt in der Verantwortung der EU-Mitgliedstaaten. Diese müssen mindestens eine Behörde oder Organisation benennen und ermächtigen, solche KI-Reallabore zu ermöglichen. Die Reallabore haben zudem die Aufgabe, die regulatorischen Rahmenbedingungen weiterzuentwickeln (regulatorisches Lernen), um diese an die sich ständig weiterentwickelnden technischen KI-Realitäten anzupassen.
Für die öffentliche Verwaltung, die bereits heute mit KI-Unternehmen zusammenarbeitet, bietet das KI-Reallabor die Chance, nicht nur von innovativen KI-Entwicklungen zu profitieren, sondern auch die eigene KI-Kompetenz zu erhöhen. Je nachdem, wie die KI-Reallabore letzten Endes in Deutschland umgesetzt werden, sollte auch der öffentlichen Verwaltung und insbesondere der Kommunalverwaltungen ein leichter Zugang ermöglicht werden. Durch das Testen und Anwenden von KI-Lösungen in realen Szenarien können Verwaltungsmitarbeiterinnen und Verwaltungsmitarbeiter ihre technischen Fähigkeiten und ihr Verständnis für KI verbessern. Für die Verwaltung ergibt sich darüber hinaus ein unmittelbarer Zugang zu innovativen verwaltungsspezifischen KI-Anwendungen und ein anwendungsorientierter Lernprozess im Umgang mit KI.
Regulierungserfüllung vereinfachen
Mit der KI-Verordnung der EU und der DSGVO gibt es zwei zentrale Regelungen, die auf die Entwicklung und Anwendung von KI in der öffentlichen Verwaltung einwirken. Erstere soll unter anderem den Einsatz von menschenzentrierter und vertrauenswürdiger KI fördern und Risiken für Gesundheit, Sicherheit und Grundrechte mindern. Die DSGVO ist wiederum zu berücksichtigen, da KI umfassend auf personenbezogene Daten, z. B. für das Modelltraining, zurückgreift.
Die Erfüllung und Umsetzung von relevanten Regulierungen ist ein Knackpunkt für den wirksamen KI-Einsatz in der öffentlichen Verwaltung.
Die praktische Umsetzung und Anwendung dieser Regelungen ist für die öffentliche Verwaltung mit hohen Anforderungen verbunden. Im Falle der EU-KI-Verordnung gelten voraussichtlich viele ihrer Aufgabenbereiche als Hochrisiko-Anwendungsbereiche. Für diese gelten wiederum besonders strenge Regelungen, wie etwa aufwändige Grundrechtsverträglichkeitsprüfungen. Besonders deutlich wird dies bei KI-Anwendungen, die biometrische Daten, Datenabgleiche oder komplexe Datenanalysen nutzen – Techniken, die beispielsweise in den Bereichen Justiz, Gesundheit, Finanzverwaltung und Strafverfolgung ein hohes Potenzial haben. Dies führt zu hohen Implementierungskosten, die wiederum hohe Hürden für Behörden darstellen. Für die Anwendung der DSGVO mit Blick auf den KI-Einsatz ergeben sich wiederum Herausforderungen, um unter anderem die Anforderungen an personenbezogene Daten, der Nachvollziehbarkeit von KI-Modellen, der Datenminimierung oder Datensicherheit zu gewährleisten.
Um einen kosteneffizienten und rechtskonformen Einsatz von KI in der öffentlichen Verwaltung zu ermöglichen, müssen daher schnellstmöglich entsprechende standardisierte Best Practices, Fallbeispiele und Leitlinien der entsprechenden Aufsichtsbehörden erarbeitet werden. Diese müssen in Deutschland einheitlich sein. Dabei muss der Spielraum für eine pragmatische Umsetzung bzw. Erfüllung der Regulierungen durch die öffentlichen Verwaltungen möglichst groß sein. Es darf nicht mehr reguliert werden, als es die entsprechenden Regelungen auf EU-Ebene vorsehen. Eine wesentliche Voraussetzung dafür ist die zügige Umsetzung der EU-KI-Verordnung in Deutschland, u. a. in Form der Benennung der verantwortlichen Behörden. Damit würde es der öffentlichen Verwaltung gelingen, schneller und stärker von den Potenzialen der KI-Technologie zu profitieren, ohne die Wahrung der Grundrechte und des Datenschutzes zu vernachlässigen.
Kritische Bereiche nur mit europäischer KI
Die öffentliche Verwaltung in Deutschland benötigt leistungsfähige und innovative KI-Anwendungen, die gleichzeitig höchsten Anforderungen an Datenschutz und digitale Souveränität genügen. Dies stellt insbesondere für den Einsatz von KI-Anwendungen, die aus Trainingsdaten lernen und deren Input in weitere Trainingsprozesse einfließt, eine besondere Herausforderung dar. Dies erfordert nicht nur entsprechend konzipierte KI-Software, sondern auch geeignete Infrastrukturen wie Clouds und Rechenzentren.
In der öffentlichen Verwaltung ist digitale Souveränität entscheidend. Daher sollte in besonders sensiblen Bereichen bevorzugt europäische KI eingesetzt werden.
Derzeit dominieren vor allem US-amerikanische Unternehmen diesen Markt. Die von ihnen angebotenen KI-, Cloud- und Servicelösungen sind in hohem Maße wettbewerbsfähig und angesichts knapper öffentlicher Kassen oft eine verlockende Wahl für die Verwaltung – eine Herausforderung für deutsche Unternehmen. Diese Dominanz widerspricht dem Anspruch Deutschlands und der EU, die Kontrolle über die eigenen Daten und Technologien zu behalten. Eine Sichtweise, die die Zusammensetzung der neuen US-Regierung bestärkt. Der Ruf nach digitaler Souveränität wird daher lauter, auch wenn dies potenziell zu Einschränkungen im globalen Wettbewerb führt.
In Deutschland hat in diesem Zusammenhang der Aufbau nationaler digitaler Infrastrukturen wie einer eigenen Verwaltungs-Cloud hohe Priorität. Darüber hinaus sollen Open-Source-Anwendungen für KI stärker in den Fokus rücken, da sie flexibel auf verschiedenen Servern betrieben werden können. Ihr öffentlich einsehbarer Quellcode ermöglicht individuelle Anpassungen und das schnelle Schließen von Sicherheitslücken durch die Community. Dies bietet mehr Kontrolle und Zugriffsmöglichkeiten, birgt aber auch Risiken, da Angreifer leichter Schwachstellen finden können. Open Source ist zudem kein einheitlicher Standard, was die vertrauensvolle Nutzung erschwert. Häufig sind Open-Source-Anwendungen gegenüber proprietären Alternativen nicht konkurrenzfähig. Andererseits sind die Quellcodes proprietärer Modelle nicht einsehbar. Dies führt zu geringerer Transparenz und Kontrolle. Im Extremfall könnten ausländische Anbieter sogar von ihrer Regierung unter Druck gesetzt werden und eine KI einfach abschalten, um politische Ziele zu verfolgen.
Vor diesem Hintergrund sollte ein Ordnungsrahmen geschaffen werden, der darauf abzielt, in besonders sensiblen Bereichen der öffentlichen Verwaltung auf KI-Anwendungen und digitale Infrastrukturen nationaler oder zumindest europäischer Unternehmen zu drängen. In weniger sensiblen Bereichen sollte hingegen der freie Wettbewerb unter Beachtung der bestehenden Datenschutz- und Sicherheitsanforderungen uneingeschränkt gelten. Inwieweit dann Open-Source-Anwendungen zum Einsatz kommen, sollte der Markt entscheiden. Ein solcher Ansatz unterstützt den Aufbau nationaler digitaler Souveränität, ohne die Vorteile des globalen Wettbewerbs aus den Augen zu verlieren, und stellt sicher, dass besonders schützenswerte Daten unter vollständiger Kontrolle bleiben und KI-Anwendungen den europäischen Anforderungen entsprechen. Darüber hinaus werden nachhaltige Anreize für die Entwicklung nationaler KI und entsprechender Infrastrukturen geschaffen.
Fazit
KI bietet erhebliche Chancen für die öffentliche Verwaltung in Deutschland. Bereits heute wird sie in verschiedenen Bereichen eingesetzt, teils schon im Regelbetrieb. Ein Gamechanger für mehr Handlungsfähigkeit ist sie jedoch noch nicht, auch wenn sie in einigen Bereichen bereits Mehrwerte schafft. Erste Erfahrungen zeigen, dass das nicht an verfügbaren Technologien oder der Bereitschaft der Verwaltungsmitarbeiterinnen und -mitarbeiter liegt, sondern an den fehlenden Rahmenbedingungen.
KI kann die öffentliche Verwaltung stärken, löst jedoch nicht alle Probleme. Ihr Einsatz wirft zudem neue Fragen für die Aufgabenverteilung und Bürgernähe kommunaler Verwaltungen auf.
Um das Potenzial von KI in der öffentlichen Verwaltung zu heben, ist der Aufbau praktischer KI-Kompetenz besonders wichtig. Neben Fortbildungen sollten KI-Reallabore dafür genutzt werden. Diese fördern Innovationen und einen pragmatischen regulatorischen Lernprozess. Verwaltungen, insbesondere auf der kommunalen Ebene, sollten einen einfachen Zugang dazu erhalten, um durch praxisnahe Anwendungen ein besseres Verständnis von KI zu entwickeln. Die Vereinfachung der Regulierungserfüllung ist ein weiterer Bereich, der angegangen werden muss. Angesichts hoher regulatorischer Anforderungen, z. B. durch die EU-KI-Verordnung oder die DSGVO, ist der schnelle Zugang zu einfachen und praxistauglichen Best-Practice-Anleitungen für den KI-Einsatz in der öffentlichen Verwaltung essenziell. Außerdem braucht es einen ordnungspolitischen Rahmen zur Stärkung der digitalen Souveränität in Form des verpflichtenden Einsatzes nationaler oder zumindest europäischer KI-Anwendungen in kritischen Bereichen.
Zu einem Allheilmittel wird KI dadurch aber nicht. Ihre flächendeckende Implementierung wird Zeit brauchen. Zudem ist der KI-Einsatz vom Fortschritt der allgemeinen Verwaltungsdigitalisierung abhängig. Realistische Kommunikation dazu kann helfen, das Vertrauen in die staatliche Handlungsfähigkeit zu stärken. Der KI-Einsatz wirft auch grundlegende Fragen auf, etwa zur zukünftigen Aufgabenverteilung im föderalen System. KI wird die Bündelung kommunaler Aufgaben vorantreiben und ortsunabhängige Dienstleistungen ermöglichen. Dies birgt Effizienzgewinne, wirft aber die Frage nach Bürgernähe auf. Virtuelle Rathäuser oder Smartphone-Services könnten die Norm werden.
Die hier aufgezeigten Entwicklungen und Weichenstellungen zeigen einen Weg auf, die vielfältigen Möglichkeiten der KI zu nutzen, um die Handlungsfähigkeit der öffentlichen Verwaltung nachhaltig zu stärken und eine zukunftsorientierte Verwaltung zu entwickeln, die den Herausforderungen unserer Zeit gewachsen ist.
Impressum
Der Autor
Dr. Christian Hübner arbeitet seit Juli 2023 in der Abteilung Wirtschaft und Innovation in der HA Analyse und Beratung der Konrad-Adenauer-Stiftung. Seine Schwerpunkte liegen im Bereich Künstliche Intelligenz, Blockchain/Web3 und Nachhaltigkeit. Zuvor leitete er das Regionalprogramm Energiesicherheit und Klimawandel Asien und Pazifik in Hongkong, China, und davor das Regionalprogramm Energiesicherheit und Klimawandel in Lateinamerika in Lima, Peru. In der KAS begann er als Koordinator für Umwelt, Klima und Energie. Vor der KAS arbeitete er als Volkswirt in einer Forschungseinrichtung der Leibniz-Gemeinschaft.
Konrad-Adenauer-Stiftung e. V.
Dr. Christian Hübner
Künstliche Intelligenz
Analyse und Beratung
T +49 30 / 26 996-3264
christian.huebner@kas.de
Postanschrift:
Konrad-Adenauer-Stiftung, 10907 Berlin
Diese Veröffentlichung der Konrad-Adenauer-Stiftung e. V. dient ausschließlich der Information. Sie darf weder von Parteien noch von Wahlwerbenden oder -helfenden zum Zwecke der Wahlwerbung verwendet werden. Dies gilt für Bundestags-, Landtags- und Kommunalwahlen sowie für Wahlen zum Europäischen Parlament.
Herausgeberin:
Konrad-Adenauer-Stiftung e. V., 2024, Berlin
Gestaltung: yellow too, Pasiek Horntrich GbR
Satz: Konrad-Adenauer-Stiftung e. V.
Hergestellt mit finanzieller Unterstützung der Bundesrepublik Deutschland.
ISBN: 978-3-98574-264-6

Der Text dieses Werkes ist lizenziert unter den Bedingungen von „Creative Commons Namensnennung-Weitergabe unter gleichen Bedingungen 4.0 international“, CC BY-SA 4.0 (abrufbar unter: https://creativecommons.org/licenses/by-sa/4.0/legalcode.de)
Bildvermerk Titelseite:
© Korawan, stock.adobe.com, generiert mit KI