Wie Vertrauen die Nutzung von Künstlicher Intelligenz beeinflusst

Verwaltung der Zukunft: Welche KI-Anwendungen sind derzeit bei der Bundesagentur für Arbeit im Einsatz, und in welchen Bereichen leisten sie Unterstützung?

Dr. Barbara Hofmann: In der BA haben wir verschiedene KI-Systeme im Einsatz: von Komponenten, die „klassische“ Machine Learning-Modelle enthalten bis zu Systemen, die auf generativer KI basieren. Beispielsweise unterstützen sie die Bearbeitung von Kindergeldanträgen in der Familienkasse, helfen beim Auslesen von Stellenangeboten im Arbeitgeberservice, werden im Bereich Wissensmanagement eingesetzt oder dienen den BA-Mitarbeitenden als Hilfsmittel für Formulierungen oder Übersetzungen sowie zum Zusammenfassen von Texten.

VdZ: Was unterscheidet den datenbasierten KI-Einsatz in einer Organisation wie der BA grundlegend von Anwendungen in der Privatwirtschaft?

Dr. Hofmann: Grundlegend sehe ich technologisch keine Unterschiede, wenn man sich auf ähnliche Anwendungsfälle bezieht wie die oben genannten. Ein Teil der von der BA verarbeiteten Daten sind Daten mit sehr hohem Schutzbedarf. Hier ist beim Einsatz von KI besondere Vorsicht geboten. Bisher haben wir daher hauptsächlich in unseren eigenen Rechenzentren (On-Premises) gearbeitet.

Zusätzlich betreiben wir erste KI-Systeme in einer hybriden Umgebung, die sowohl unsere eigenen Rechenzentren als auch die öffentliche Cloud (Public Cloud) nutzt. Diese Umsetzung erfolgt in enger Abstimmung mit der IT-Sicherheit und dem Datenschutz der BA, um höchste Sicherheits- und Datenschutzstandards zu gewährleisten.

VdZ: Wo sehen Sie im Kontext des demografischen Wandels den größten Hebel für KI, um Mitarbeitende zu entlasten?

Dr. Hofmann: Für die BA ist aus meiner Sicht einer der größten Hebel die KI-Assistenz bei der Bearbeitung von Anträgen. Kurzfristig können beispielsweise mit Hilfe von KI manuelle Prüfschritte weiter reduziert werden, etwa indem alle Anträge automatisch auf Vollständigkeit geprüft werden und bei fehlenden Unterlagen diese direkt angefordert werden und Inhalte automatisch in unsere Systeme übertragen werden. Teils haben wir das im Bereich des Arbeitslosengeldantrags schon ohne KI implementiert.

Mittelfristig geht es darum, Antragsprozesse grundlegend zu überarbeiten, damit KI-Agenten eigenständig auf Daten in verschiedenen Quellen zugreifen können, auch über Behörden hinweg, um die Informationen zu erhalten, die sie zur Bearbeitung des jeweiligen Anliegens benötigen.

Einen zweiten großen Hebel sehe ich in der Assistenz der Beratung der Kundinnen und Kunden, zum Beispiel bei der Wahl eines Berufs oder einer Weiterbildung. Hier haben wir bereits jetzt ein enormes digitales Angebot wie etwa meinNow, meinBeruf oder Check-U. Mit KI können wir diese Angebote noch interaktiver gestalten. Es geht nicht darum, Beraterinnen und Berater zu ersetzen, sondern die Beratung anzureichern mit digitalen Elementen und die Potenziale der künstlichen Intelligenz auszuschöpfen.  

VdZ: Was zeichnet ein vertrauenswürdiges KI-System aus und worauf achten Sie bei der Entwicklung besonders?

Dr. Hofmann: Bereits vor dem Inkrafttreten der KI-Verordnung der EU haben wir in der BA begonnen, eine Datenethik-Governance aufzusetzen. Wir haben eine Datenethik-Leitlinie entwickelt, die die Grundlagen für die Entwicklung und den Einsatz von KI-Systemen innerhalb der BA festlegt.

Diese Leitlinie umfasst Prinzipien wie „Der Mensch im Mittelpunkt“, „Robustheit, Sicherheit und Verlässlichkeit“, „Schutz der Privatsphäre und Datenqualität“, „Transparenz und Erklärbarkeit“, „Gerechtigkeit, Inklusion und Vielfalt“, „Gesellschaftlicher Nutzen und Gemeinwohlorientierung“ und „Rechenschaftspflicht und Rechtmäßigkeit“.

Neben der Leitlinie haben wir eine datenethische Risikobetrachtung aller KI-Anwendungsfälle etabliert. Hier bewerten wir jeden KI-Anwendungsfall nach dem datenethischen Schadenspotential und dem Grad der Abhängigkeit des Nutzenden vom KI-System. Wenn ein System ein mittleres datenethisches Risiko aufweist, legen wir in der Regel Maßnahmen fest. Eine Maßnahme kann etwa sein, die Nachvollziehbarkeit der Ergebnisse im Frontend zu überarbeiten.

Generell achten wir sehr auf Transparenz in dem Sinne, dass wir offenlegen, wie und wo das jeweilige KI-System Daten verarbeitet. Jede oder jeder der sich dafür interessiert, sollte in den Grundzügen verstehen können, wie die Ausgaben des Systems zustande kommen.

VdZ: Führt Vertrauenswürdigkeit aus Ihrer Sicht automatisch zu höherer Nutzung, oder braucht es weitere Faktoren?

Dr. Hofmann: Vertrauenswürdigkeit ist vermutlich für die meisten Nutzenden, ob intern oder extern, eine Voraussetzung, dass sie die KI-Systeme der BA überhaupt verwenden. Für eine konstant hohe Nutzungsrate, müssen die KI-Systeme aber vor allem gut sein und die Mitarbeitenden und Kundinnen und Kunden bei ihrem Anliegen unterstützen.

VdZ: Welches Zielbild verfolgen Sie mit KI-Anwendungen wie BAKIRA bei der Bundesagentur für Arbeit und was sind die nächsten Schritte?

Dr. Hofmann: Mit der Pensionierungswelle wird in den kommenden Jahren viel wertvolles Erfahrungswissen verloren gehen. Wissensmanagement wird zunehmend wichtig. Die Fähigkeiten und das Potenzial von KI bieten Möglichkeiten, diese demografische Herausforderung abzufedern. Hierbei steht aktuell vor allem das Thema Skalierung im Fokus, um das Potenzial von KI auszuschöpfen.

Neben dem sukzessiven Ausbau hybrider Umgebungen wie oben erwähnt, beschäftigen wir uns mit Themen wie „Vibe Coding“ oder der Erarbeitung einer Referenzarchitektur für agentische KI. Das ist die technische Sicht.

Um die Skalierung von KI erfolgreich umzusetzen, ist aber auch die fachliche und organisatorische Sicht erforderlich. Wir haben in der BA etwa eine übergreifende Priorisierung der Anwendungsfälle durch ein IT-Portfoliomanagement. So stellen wir sicher, dass Anwendungsfälle mit größerem Nutzen höher priorisiert werden. Auch gibt es ein breites KI-Befähigungsangebot, um Mitarbeitende über KI-Potenziale zu informieren, sie zu KI-Grundlagen zu schulen und zur Nutzung von KI zu befähigen. Die nächsten Schritte gehen wir also in der BA gemeinsam, wobei die beteiligten Teams jeweils ihre individuellen Schwerpunkte haben.