Künstliche Intelligenz ist längst kein Zukunftsthema mehr — sie ist in Unternehmen und zunehmend auch in öffentlichen Verwaltungen angekommen. KI-Assistenten unterstützen bei der Textredaktion, Chatbots beantworten Bürgeranfragen, und automatisierte Systeme beschleunigen die Bearbeitung standardisierter Vorgänge. Doch der Einsatz von KI in der öffentlichen Verwaltung ist mit spezifischen Anforderungen verbunden, die über rein technische Fragen weit hinausgehen.

Wo KI in der Verwaltung konkret hilft

  • Textassistenz: Entwurf von Bescheiden, Protokollen, Stellungnahmen und Pressemitteilungen — KI als erster Entwurf, den Mitarbeiterinnen und Mitarbeiter dann prüfen und freigeben
  • Dokumentenanalyse: Automatische Extraktion relevanter Informationen aus umfangreichen Unterlagen — etwa bei Vergabeverfahren oder Förderanträgen
  • Bürger-Chatbots: Beantwortung häufiger Fragen auf Websites rund um die Uhr — ohne Wartezeiten und mit gleichbleibender Qualität
  • Prozessautomatisierung: Standardisierte Vorgänge wie Antragsbearbeitung, Terminvereinbarung oder Datenpflege werden teilweise oder vollständig automatisiert
  • Wissensdatenbanken: KI-gestützte interne Suche, die relevante Vorschriften, Urteile oder Verfahrensanweisungen auf Anhieb findet

Die entscheidenden Datenschutzfragen

Für öffentliche Stellen ist der Datenschutz bei KI-Systemen keine Randnotiz — er ist zentral. Folgende Fragen müssen vor der Einführung beantwortet werden:

  • Wo werden die Daten verarbeitet? Viele KI-Dienste (ChatGPT, Copilot, Gemini) verarbeiten Eingaben auf US-amerikanischen Servern. Die Eingabe personenbezogener Daten ist damit in der Regel datenschutzrechtlich problematisch.
  • Werden Eingaben zum Training verwendet? Standardmäßig nutzen viele Anbieter Nutzerdaten zur Modellverbesserung — was bei Behördendaten inakzeptabel ist.
  • Gibt es eine Auftragsverarbeitungsvereinbarung (AVV)? Diese ist zwingend erforderlich, wenn personenbezogene Daten verarbeitet werden.
  • Ist das System nach der KI-Verordnung der EU klassifiziert? Der EU AI Act stuft bestimmte Anwendungen als hochriskant ein — etwa KI-Systeme, die Verwaltungsentscheidungen beeinflussen.

Souveräne KI: Der sichere Weg für Behörden

Die Lösung liegt in souveränen KI-Systemen: Modelle, die auf eigener oder europäischer Infrastruktur betrieben werden und keine Daten an Drittanbieter übermitteln. Dazu gehören:

  • Open-Source-Modelle (z. B. Llama, Mistral), die on-premises oder auf zertifizierten europäischen Servern betrieben werden
  • Europäische KI-Dienste mit EU-Datenschutzzertifizierung und AVV
  • Private Deployments in der eigenen Rechenzentrumsinfrastruktur oder in einer BSI-zertifizierten deutschen Cloud

Der Aufwand für einen souveränen Betrieb ist höher als das schlichte Abonnieren eines Cloud-Dienstes — aber er ist der einzige Weg, der dauerhaft rechtskonform und risikoarm ist.

Was ist bei der Beschaffung zu beachten?

KI-Systeme sind Softwareprodukte — und müssen daher vergaberechtskonform beschafft werden. Das bedeutet:

  • Produktneutrale Leistungsbeschreibung — keine unzulässige Benennung eines bestimmten Anbieters
  • Festlegung technischer Mindestanforderungen (Datenschutz, AVV, EU-Serverstandort, Auditierbarkeit)
  • Bewertungskriterien, die neben dem Preis auch Qualität, Datenschutz und Souveränität berücksichtigen

Ich unterstütze öffentliche Auftraggeber dabei, KI-Projekte von Beginn an rechtssicher aufzusetzen — von der Bedarfsanalyse über die Marktrecherche bis zur vergaberechtskonformen Ausschreibung.

Fazit

KI in der öffentlichen Verwaltung ist keine Frage des Ob, sondern des Wie. Wer jetzt die richtigen Weichen stellt — datenschutzkonform, souverän und vergaberechtssicher — wird von den Effizienzgewinnen profitieren, ohne rechtliche oder reputationsbezogene Risiken einzugehen. Ich berate Sie gerne dabei.