Möglichkeiten und Grenzen von Künstlicher Intelligenz

Ausführlich als Screencast:
Möglichkeiten und Grenzen Künstlicher Intelligenz

100 Minuten Vortrag (Stand September2023)

• Aufgeteilt in 6 Kapitel
• Aufgeteilt in 8 Videos mit maximal 20 Minuten Laufzeit
• Mit interaktiven Quiz
• Digital abrufbar im Fortbildungsportal der Bundesverwaltung

In diesem Foliensatz: Impuls zu Rahmenbedingungen für KI in der Bundesverwaltung

‍

Lernpfad KI der Bundesakademie

Entwicklung des Lernpfades mit Unterstützung des BeKI im BMI (Beratungszentrum für Künstliche Intelligenz) Nähere Informationen zu den jeweiligen Veranstaltungen unter https://www.bakoev.bund.de/ki

Rahmenbedingungen für KI
Rechtliche & Ethische Aspekte

Wir arbeiten mit Daten – Dürfen wir das?

1. Hausanordnungen legen u.a. Rahmenbedingungen für Behörden fest, z.B. Geheimschutz
2. Beispiel BMI: Hausanordnung untersagt grundsätzlichen Einsatz externer Cloud-Dienste
   
   • KI-Systeme davon oft betroffen
3. Datenschutzgrundverordnung (DSGVO) ist zu beachten:
   
   • Trainieren von KI-Systemen erfordert unter Umständen personenbezogene Daten
   • Bei der Nutzung/Bereitstellung einer KI werden eventuell personenbezogene Daten verarbeitet

Wir arbeiten mit Daten – Was besagt die DSGVO?

• Ø  Art. 6: Erfordernis der Verarbeitung von Daten ist zu begründen
  
  • Gibt es keine Alternative, die ohne personenbezogene Daten auskommt? Zum Beispiel: Klassische Programmierung

• Art. 9: Keine Verarbeitung von Daten, aus denen Herkunft, politische Meinung, religiöse Weltanschauung etc. hervorgehen.
  • KI-Systeme sind bei großen Datenmengen stark in der Mustererkennung

• Art. 17: Recht auf Löschung personenbezogener Daten
  ‍
  Daten sind durch das KI-System geflossen und haben unter Umständen zu einer Veränderung des Systems geführt
  
  • Derartige Entscheidungen basieren meist auf mehreren Datensätzen – Wie soll verfahren werden?
  • Daten sind durch das KI-System geflossen und haben unter Umständen zu einer Veränderung des Systems geführt

• Art. 22: Keine automatisierten Entscheidungen über Personen
  
  • Mit ausdrücklicher Einwilligung möglich

Weitere Rahmenbedingungen für die Bundesverwaltung

Auswahl für diesen Impuls

Europäische KI-Verordnung (Artificial Intelligence Act)

• Juli 2024 verkündet
  
• Klassifizierung von KI nach Risiko der Anwendungszwecke
  • Betreiber von KI muss alle Eventualitäten und Anwendungsszenarien berücksichtigen

• Höhere Anforderungen/Auflagen für Hoch-Risiko-Systeme
• Verbot von KI-Systemen
  
  • Social-Scoring-Systemen (Verhaltensbewertung)
  • Automatisierte Erkennung von Emotionen (z.B. bei Verhören)
  • Flächendeckende Überwachung mit biometrischen Echtzeitdaten
  • Aber: Kein Anwendungsbereich des AI-Act bei Belangen der Nationalen Sicherheit
• Transparenzpflicht für Anbieter
• KI-Kompetenz für Nutzende

‍

KI in der öffentlichen Verwaltung
Geeignetes Hilfsmittel für die Arbeit

Datenstrategie der Bundesregierung

• Vereinfachte Verwendung von Daten zur Nutzung von Large-Language-Models (LLM)
• Errichtung untereinander vernetzter Datenlabore in den Bundesministerien mit Chief Data Scientists/Officers
  
• Etablierung der OpenData-Koordination
• E-Learning „OpenData-Koordination“ im Fortbildungsportal
• Datenidentifikation und -bereitstellung erfordert behördeneigene Zuständigkeit
• Geschäftsprozesse der Behörden sind unterschiedlich, daher ist ein behördenspezifisches Training von LLM sinnvoll
• Etablierung neuer zentraler Stellen:
  
  • BeKI – Beratungszentrum für Künstliche Intelligenz
  • ABOS – Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben
• Transparenzpflicht für Anbieter
• KI-Kompetenz für Nutzende

‍

Fazit

• KI wird als Hilfsmittel auch in der öffentlichen Verwaltung an Bedeutung gewinnen
  
  • Vergleichbar mit Taschenrechner oder Computer als Hilfsmittel
  • Aber: Ergebnisse der KI müssen von Kolleginnen und Kollegen qualitätsgesichert werden
• Für ein nützliches Hilfsmittel sind große Datenmengen erforderlich
  • Optimierte Ausgaben durch kontinuierliches Training
  • Je weniger individuelles Training, desto mehr individuelle Anpassung der Ausgabe erforderlich
  • Geschäftsprozesse von Behörden sind unterschiedlich
• Etablierung der OpenData-Koordination
  
  • E-Learning „OpenData-Koordination“ im Fortbildungsportal
  • Datenidentifikation und -bereitstellung erfordert behördeneigene Zuständigkeit
  • Geschäftsprozesse der Behörden sind unterschiedlich, daher ist ein behördenspezifisches Training von LLM sinnvoll
    
    • Berücksichtigung im Training erforderlich
    • Ausbau der Datenkompetenz ist sinnvoll
  • Bei externer Expertise: Welche Daten werden dort verarbeitet?

Danke für Ihre Aufmerksamkeit!

Bundesakademie für öffentliche Verwaltung im Bundesministerium des Innern und für Heimat Lehrgruppe

Ansprechpartner
Dr. Stefan Bleß
Ig5@bakoev.bund.de

www.bakoev.bund.de

www.digitalakademie.bund.de

https://lernplattform.intranet.bund.de

www.ifosbund.de