KI darf keine Blackbox sein, sondern ein Assistent

Verwaltung der Zukunft: KI ist – spätestens seit ChatGPT – in aller Munde. Der erste Hype scheint aber zumindest etwas abgeflaut und durch das Thema „KI-Agenten” abgelöst. Wie bewerten Sie KI grundsätzlich und die KI-Agenten – Chance? Risiko? Beides?

Konstantin von Büren: KI eröffnet im Einkauf enorme Chancen: Datenmengen und Komplexität steigen, während Fachkräfte fehlen. KI kann hier repetitive Aufgaben automatisieren, Bedarfe strukturieren oder Verhandlungen vorbereiten. Das entlastet Beschäftigte, reduziert Komplexität und setzt Ressourcen effizienter ein.

Natürlich gibt es Risiken wie Kontrollverlust oder Intransparenz. Diese lassen sich jedoch gut beherrschen, wenn klare Regeln, Kontrollpunkte und technische Grenzen definiert sind. Wichtig ist, dass KI nicht als Blackbox eingeführt wird, sondern als intelligenter, nachvollziehbarer Assistent. Unter diesen Bedingungen überwiegen die Chancen deutlich.

VdZ: Wie verhält es sich im öffentlichen Bereich? Ist er vorne dabei oder eher zurückhaltend?

von Büren: Wir sehen ein enormes Interesse aus dem öffentlichen Sektor. Der Bedarf ist groß, gleichzeitig erschweren komplexere Rahmenbedingungen oft schnelle Entscheidungen. Besonders wichtig sind den Behörden maximale Sicherheit und Transparenz.

Es gibt aber bereits Vorreiter: So arbeitet etwa das DLR in einer Innovationspartnerschaft mit uns an einer KI-gestützten Automatisierung der Angebotseinholung für kleinteilige Vergaben. Solche Beispiele zeigen: Bewegung kommt ins Thema, mit Dominoeffekt – je mehr Behörden starten, desto schneller folgen andere. Das Potenzial ist enorm, denn viele repetitive Prozesse lassen sich automatisieren. Angesichts des rasant wachsenden Vergabevolumens wird das entscheidend sein, um die Aufgaben künftig zu bewältigen.

VdZ: Welches sehen Sie als die größten Anwendungsfelder in der öffentlichen Beschaffung? Wo kommt KI bereits zum Einsatz im Einkauf und was werden die KI-Agenten noch einmal verändern?

von Büren:  KI-Agenten entfalten ihr Potenzial vor allem in standardisierbaren Kernprozessen. Vier Beispiele:

1. Strukturierung von Bedarfen: Statt unspezifischer Freitexte stellt das System gezielte Rückfragen und erstellt daraus eine vollständige Bedarfsanfrage.
2. Automatisierte Leistungsbeschreibungen: Aufbauend auf diesen Daten generiert das System fachlich fundierte Beschreibungen.
3. Lieferantenermittlung inkl. ESG-Checks: Geeignete Anbieter werden identifiziert und direkt auf Kriterien wie Nachhaltigkeit geprüft.
4. Angebotseinholung und -vergleich: Lieferanten werden automatisch kontaktiert, Angebote ausgelesen, vergleichbar gemacht und bewertet.

So lassen sich zentrale Beschaffungsprozesse nicht nur unterstützen, sondern in großen Teilen automatisieren – selbstverständlich im Rahmen aller rechtlichen Vorgaben.

VdZ: Der Einsatz von KI – insbesondere von autonomen Agenten – wirft im öffentlichen Sektor oft rechtliche und ethische Fragen auf:

Wie lässt sich sicherstellen, dass keine Vorschriften verletzt werden, etwa im Vergabeprozess?

Wie kann die Einhaltung datenschutzrechtlicher Vorgaben gewährleistet werden?

Und wie bewahrt die öffentliche Hand dabei ihre digitale Souveränität?

von Büren: Die Einhaltung aller rechtlichen Vorgaben ist für uns absolut zentral, hier gibt es keine Grauzonen. Deshalb legen wir in unserer Plattform für jeden Anwendungsfall genau fest, welche Schritte automatisiert ablaufen und welche bewusst manuell im Sinne des Human-in-the-Loop-Prinzips geprüft werden. So kann etwa die Erstellung einer Leistungsbeschreibung automatisiert erfolgen, während der Einkauf die finale Freigabe erteilt oder die identifizierten Lieferanten nochmals überprüft. 

Wichtig ist, dass alle Schritte jederzeit nachvollziehbar dokumentiert sind – insbesondere bei automatisierten Prozessen. Zudem erfüllen wir höchste Anforderungen an Datenschutz und Datensicherheit: Unsere Plattform läuft nicht in der Public Cloud, sondern in der Private Cloud innerhalb der Kundeninfrastruktur. So bleibt die volle Datensouveränität gewährleistet: alle Informationen verbleiben sicher beim Kunden und der Zugriff auf sensible Daten ist klar geregelt. Gerade im öffentlichen Sektor ist das ein entscheidender Faktor.

Digitale Souveränität beginnt mit der Kontrolle über Systeme, Daten und Algorithmen. Genau das ermöglichen wir über unsere Plattformen, sowohl in der Art, wie wir sie betreiben, als auch darin, wie unsere Kunden sie einsetzen. Ob es um den Betrieb in der Cloud oder die gemeinsame Definition von Prozessen geht: All diese Elemente schaffen die Grundlage, um digitale Souveränität nachhaltig zu sichern.

Kurz gesagt: Rechtliche Vorgaben, Transparenz und Datenhoheit stehen bei uns immer an erster Stelle.

VdZ: KI einzusetzen ist das Eine, die tägliche Nutzung das Andere: Was bedeutet das für die Mitarbeitenden? Wie bringe ich die zur Nutzung? Wie bringe ich ihnen den richtigen Umgang bei?

von Büren: Eine meiner Lieblingsfragen! Am Ende des Tages ist KI ‚nur‘ eine Technologie, entscheidend ist die Akzeptanz. Deshalb setzen wir auf intuitive, rollenbasierte Oberflächen. Bedarfsträger etwa arbeiten mit einer dialogbasierten Oberfläche, die Anfragen strukturiert, Rückfragen beantwortet und so den Prozess vereinfacht.

Parallel entwickeln wir individuelle Schulungskonzepte, mit Live-Trainings, Materialien und digitalen Nachschulungen. Sobald der konkrete Nutzen spürbar wird – weniger manuelle Arbeit, weniger Rückfragen, mehr Zeit für Strategie – steigt auch die Akzeptanz deutlich.

VdZ: Wie unterstützt Ihr Unternehmen Firmen und Verwaltungen bei der Transformation?

von Büren: Wir begleiten über den gesamten Prozess, von der ersten Idee bis zum vollautomatisierten Betrieb. Am Anfang steht Wissensaufbau: Wir klären über Einsatzfelder auf und identifizieren passende Use Cases.

Darauf folgen Prototypen und Pilotprojekte. Anschließend begleiten wir Integration, Change Management, Schulungen und Support. Im öffentlichen Sektor achten wir besonders auf Compliance, Integrationsfähigkeit und Sicherheit – zum Beispiel durch Hosting in privaten Clouds, offene Schnittstellen zu Systemen wie SAP und granular konfigurierbare Automatisierungsschritte.

Kurz gesagt: Wir sind für unsere Kunden ein Sparringspartner, der Schritt für Schritt begleitet, Ängste abbaut und die Transformation sicher gestaltet.

VdZ: Können Sie hier ein Beispiel nennen?

von Büren: Ein gutes Beispiel ist das DLR und die EnBW. Dort arbeiten wir an der Automatisierung der Angebotseinholung.

Der Prozess startet im Intake Management: Bedarfe werden strukturiert erfasst, etwa über eine Teams-Integration oder unser System. Das System fragt Budget, Liefertermin oder benötigte Kompetenzen ab und erstellt daraus eine vollständige Bedarfsanfrage.

Darauf aufbauend können Leistungsbeschreibungen erstellt und an systemseitig identifizierte Lieferanten versendet werden. Diese spielen ihre Angebote direkt in unsere Plattform ein; auch PDF-Angebote werden automatisch ausgelesen, verglichen und bewertet, beispielsweise mit Blick auf Preis oder Liefertermin. Besonders bei komplexen Ausschreibungen mit vielen Preisblattpositionen spart das enormen Aufwand. Unsere Plattform deckt diesen gesamten Prozess durchgängig ab und macht ihn deutlich effizienter.

VdZ: Was erwartet die Besucher*innen bei eurem Best Practice-Dialog und Stand auf der Beschaffungskonferenz?

von Büren: Am Stand haben Besucher*innen die Möglichkeit, direkt mit unseren Kolleginnen und Kollegen ins Gespräch zu kommen: Welche Herausforderungen gibt es, die sich mit KI lösen lassen? Wie könnte ein konkretes Umsetzungsmodell aussehen? Zusätzlich zeigen wir Live-Demos, bei denen man unser System in Aktion erlebt und gezielt Fragen stellen kann.

In den Präsentationen beim Best Practice-Dialog wiederum stellen wir nicht nur die Plattform vor, sondern gehen auch auf konkrete Kundenbeispiele ein. So zeigen wir etwa, wie eine Behörde die Einholung von Angeboten oder die Durchführung und Vorbereitung von Verhandlungen mithilfe unserer Lösung effizienter gestaltet hat. Dadurch wird sehr greifbar, wie KI im Alltag unterstützen kann.

Am meisten profitieren die Besucher, wenn sie beides kombinieren: die Präsentation besuchen, um praxisnahe Einblicke zu erhalten und anschließend am Stand vorbeischauen, um Details zu klären und das System live auszuprobieren.