Große Sprachmodelle in der öffentlichen Verwaltung

Abstract

Große Sprachmodelle und generative KI bie- ten vielfältige Potenziale für die öffentliche Verwaltung, werfen aber auch Fragen bezüg- lich effektiver Integration, Datenschutz und Auswirkungen auf die Arbeitswelt auf. Der Roundtable „Große Sprachmodelle in der öffentlichen Verwaltung“ des NEGZ · Kompetenznetzwerk Digitale Verwaltungbot eine Plattform zur Erörterung dieser Themen in den Bereichen Anwendung, Infrastruktur und Regulierung.

• Anwendung großer Sprachmodelle:
  Die Experten sehen ein breites Anwendungsspektrum für große Sprachmodelle in der Verwaltung, u.a. in Bürgerservices, Antragsbearbeitung, Textverarbeitung und Datenanalyse. Generative KI wird primär als leistungsfähiges Assistenzsystem gesehen. Noch ist unklar, ob spezialisierte Fachmodelle oder universelle „Sprach-taschenrechner" die Zukunft prägen werden.
• Infrastruktur:
  Für den effektiven Einsatz großer Sprachmodelle bedarf es einer umfassenden technischen, organisatorischen und rechtlichen Infrastruktur. Sowohl On-Premise als auch Cloud-Lösungen werden eine Rolle spielen. Die Implementierungsleistung der Anbieter wird zunehmend zum entscheidenden Faktor. Open-Source-Lösungen bieten Potenziale, werfen aber auch Fragen auf.
• Regulierung:
  Die Nachvollziehbarkeit von KI-Entscheidungen und die Problematik der Ent-scheidungsautomatisierung wurden kontrovers diskutiert. Alignment bietetMöglichkeiten zur Anpassung von Sprachmodellen an Werte und Ziele. Ein Kulturwandel von Risikovermeidung zu mehr Partizipation, Offenheit und Kollaboration in der Verwaltung wird als notwendig erachtet. Der Einsatz großer Sprachmodelle in der Verwaltung steht noch am Anfang. Viele grundsätzliche Fragen bleiben offen, während die Technologie rasant voranschreitet. Weitere Implementierungs-projekte sind nötig, um Potenziale auszuschöpfen, Vorbehalte abzubauen und den Ansprüchen der Nutzer gerecht zu werden.

‍

1.  Einleitung

Große Sprachmodelle und generative KI haben das Potenzial, die Arbeitsweise der öffentlichen Verwaltung grundlegend zu verändern und zu verbessern. Durch den Einsatz von Technologien wie natürlicher Sprachverarbeitung (NLP), Bildgenerierung und Textgenerierung eröffnen sich viel- fältige Möglichkeiten, Verwaltungsprozesse zu automatisieren, zu beschleunigen und bürgernäher zu gestalten. Gleichzeitig wirft die Nutzung dieser Technologien aber auch eine Reihe von Fragen auf:

• Wie können generative KI-Systeme effek- tiv in die Verwaltungsarbeit integriert werden und welche Anwendungsfälle versprechen den größten Mehrwert1?

• Und lassen sich dabei ethische, rechtliche und soziale Aspekte wie Datenschutz, Transparenz und ethische Standards gewährleisten2?

Diese und weitere Fragen standen im Mittelpunkt des Roundtable „Große Sprach- modelle in der öffentlichen Verwaltung“, der vom NEGZ · Kompetenznetzwerk Digitale Verwaltung organisiert wurde.

Neben den praktischen Herausforderungen der neuen Technologie wurden auch Risiken und Herausforderungen3 beim Einsatz gene- rativer KI in der öffentlichen Verwaltung im Rahmen des Roundtable eingehend dis- kutiert. Ein zentraler Punkt ist der Schutz sensibler Daten und die Wahrung der Privat- sphäre der Bürger. Da generative KI-Systeme auf großen Datenmengen trainiert werden, muss sichergestellt sein, dass personen- bezogene Informationen geschützt und nicht missbraucht werden.4 Auch besteht die Gefahr, dass große Modelle bestehende Vorurteile und Diskriminierungen reproduzieren oder sogar verstärken. Um dem entgegenzuwirken, sind Transparenz, als Ausgangspunkt für die Diskussionen und behandelten unter anderem folgende Aspekte:

1.  Gewinnbringende Anwendungsberei- che für die öffentliche Verwaltung, wie die Automatisierung von Routine- aufgaben und die Verbesserung der Entscheidungsfindungdurch fundierte Datenanalysen.

2.  Die Rolle der Verwaltung bei der Bereit- stellung von Infrastruktur für große Sprachmodelle, beispielsweise durch die Bereitstellung von Daten, die Fest- legung von Standards und die Schaffung geeigneter rechtlicher und ethischer Rahmenbedingungen.

3.  Die Aufsichtsrolle der Verwaltung, einschließlich der Schaffung von Regulierungen und Überwachungs- mechanismen sowie der Förderung von Transparenz undRechenschaftspflicht, um Herausforderungen in Bezug auf Datenschutz, Ethik und Verantwortlich- keit zu bewältigen.

Ziel des Roundtable war es, durch die Zusammenkunft von Experten aus Ver- waltung, Wirtschaft, Wissenschaft und Gesellschaft eine gemeinsame Agenda für die erfolgreiche Integration großer Sprach- modelle in die öffentliche Verwaltung zu entwickeln. Die skizzierten Antworten in den Ausgangstexten dienten dabei als Grundlage für die Diskussionen und sollten dazu beitragen, das volle Potenzial dieser Technologie für die Verwaltung auszuloten und gleichzeitig die damit verbundenen Herausforderungen zu adressieren.

‍

Überprüfbarkeit und ethische Richtlinien bei der Entwicklung und Anwendung gene- rativer KI unerlässlich.5 Nicht zuletzt stellt sich die Frage nach den Auswirkungen auf die Zukunft der Arbeit in der Verwaltung.6 Während generative KI einerseits Mitarbeiter entlasten und für höherwertige Aufgaben freistellen kann, besteht andererseits die Sorge vor einem Wegfall von Arbeitsplätzen. Hier gilt es, frühzeitig Konzepte zu ent- wickeln, wie die Mitarbeiter für den Einsatz von KI qualifiziert und dieTransformation sozialverträglich gestaltet werden kann. Der Roundtable bot eine Plattform, um diese Herausforderungen zu erörtern und gemeinsam Lösungsansätze zu entwickeln.

Der Roundtable „Große Sprachmodelle in der öffentlichen Verwaltung“ wurde vom NEGZ. Kompetenznetzwerk Digitale Verwaltung am 12.09.23 online organisiert, um die Rolle dieser Modelle in der Verwaltung zu erörtern und Fragen für das Agendasetting in diesem Bereich aufzuarbeiten. Die Veranstaltung war  in drei  Themenblöcke gegliedert: „Anwendung  großer  Sprachmodelle“, „Infrastruktur“ und „Regulierung“.

Zum Anstoß der Diskussion waren die Teil- nehmer vorab dazu eingeladen worden, zu je einem der Themenblöcke ein Eingangsstate-ment abzugeben. Jörn Riedel, Lorenz Lehm- haus und Thomas Treml gaben zum Thema „Anwendung von großen Sprachmodellen“, Torsten Koß zur „Infrastruktur“ und Prof. Dr. Dieter Kugelmann zur „Regulierung“ ein Statement ab. Grundsätzlich konnten sich aber alle Teilnehmer zu jedem Themenpunkt äußern.

‍

‍

‍