Künstliche Intelligenz ist in der öffentlichen Verwaltung angekommen. Assistenzsysteme entwerfen Texte, Auskunftsdienste beantworten wiederkehrende Bürgerfragen, Suchwerkzeuge erschließen umfangreiche Aktenbestände. Für öffentliche Stellen entscheidet sich der Erfolg solcher Vorhaben jedoch nicht an der Technik, sondern an drei Fragen: Wo werden die Daten verarbeitet, wie ist das System nach der KI-Verordnung einzustufen, und wie beschaffen Sie die Leistung vergaberechtskonform? Dieser Ratgeber ordnet die drei Punkte für den Stand Juli 2026 ein.

Wo hilft künstliche Intelligenz in der Verwaltung konkret?

KI entlastet dort, wo Texte entworfen, Unterlagen durchsucht und wiederkehrende Vorgänge bearbeitet werden. Die Entscheidung bleibt in jedem Fall bei den Beschäftigten.

  • Textassistenz: Entwürfe für Vermerke, Protokolle, Stellungnahmen und Pressetexte. Das System liefert den ersten Entwurf, Prüfung und Freigabe bleiben beim Fachbereich.
  • Auswertung von Unterlagen: Auffinden und Zusammenfassen von Angaben in umfangreichen Schriftstücken, etwa bei Vergabeverfahren oder Förderanträgen.
  • Auskunftsdienste: Beantwortung häufig gestellter Fragen auf der Internetseite, rund um die Uhr und in gleichbleibender Form.
  • Wiederkehrende Vorgänge: Vorbereitung standardisierter Schritte wie Eingangsprüfung, Terminvergabe oder Datenpflege.
  • Interne Wissenssuche: Auffinden geltender Vorschriften, Erlasse und Verfahrensanweisungen über den gesamten Bestand hinweg.

Wichtig ist die Abgrenzung: In allen fünf Fällen bereitet das System vor, es entscheidet nicht. Sobald eine Anwendung Verwaltungsentscheidungen beeinflusst, ändert sich die rechtliche Bewertung deutlich.

Welche Datenschutzfragen müssen Sie vor der Einführung klären?

Vier Fragen entscheiden darüber, ob eine KI-Anwendung in einer Behörde überhaupt eingesetzt werden darf. Klären Sie sie vor der Auswahl, nicht danach.

  • Wo werden die Daten verarbeitet? Viele frei zugängliche KI-Dienste verarbeiten Eingaben auf Servern außerhalb der EU. Die Eingabe personenbezogener Daten ist damit in der Regel datenschutzrechtlich problematisch.
  • Werden Eingaben zum Training verwendet? Zahlreiche Anbieter nutzen die Eingaben ihrer Nutzer standardmäßig zur Verbesserung der Modelle. Für Daten aus Verwaltungsvorgängen ist das nicht hinnehmbar. Lassen Sie sich den Ausschluss vertraglich zusichern.
  • Liegt eine Vereinbarung zur Auftragsverarbeitung vor? Sie ist nach Artikel 28 DSGVO zwingend, sobald personenbezogene Daten durch einen Dienstleister verarbeitet werden.
  • Ist eine Datenschutz-Folgenabschätzung erforderlich? Artikel 35 DSGVO verlangt eine Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der betroffenen Personen zur Folge hat, insbesondere bei umfassender Bewertung persönlicher Aspekte, bei umfangreicher Verarbeitung besonderer Kategorien personenbezogener Daten und in den Fällen der Liste Ihrer Aufsichtsbehörde nach Artikel 35 Absatz 4 DSGVO.

Hinzu kommen das jeweilige Landesdatenschutzgesetz und, sobald Beschäftigtendaten berührt sind, die Beteiligung der Personalvertretung. Beziehen Sie Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten früh ein, nicht erst zur Freigabe. Die Datenschutzkonferenz hat 2025 mehrere Orientierungshilfen zum Einsatz künstlicher Intelligenz veröffentlicht; sie eignen sich als Prüfraster für die eigene Vorprüfung. Dieselben Fragen stellen sich bei jedem netzbasierten Dienst, etwa bei einer Telefonanlage aus dem Netz. Für den telefonischen Bürgerservice habe ich die Rechtslage gesondert aufbereitet, von der Ansagepflicht bis zum Leistungsverzeichnis: KI-Telefonassistent im Bürgeramt.

Fällt Ihr System unter die KI-Verordnung der EU?

Die Verordnung (EU) 2024/1689 unterscheidet nach Risiko. Anwendungen, die Verwaltungsentscheidungen vorbereiten oder beeinflussen, können als Hochrisikosysteme einzustufen sein.

Die Verordnung wird stufenweise anwendbar, und für die Planung ist genau dieser Zeitplan entscheidend. Stand Juli 2026 gilt: Die verbotenen Praktiken nach Artikel 5 gelten seit dem 2. Februar 2025, ebenso die Pflicht zur KI-Kompetenz nach Artikel 4; seit dem 27. Juli 2026 verlangt Artikel 4 in der Fassung der Verordnung (EU) 2026/1744 allerdings nicht mehr, ein bestimmtes Kompetenzniveau sicherzustellen, sondern die KI-Kompetenz des eingesetzten Personals zu foerdern. Die Pflichten für Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025. Die allgemeine Anwendbarkeit und die Transparenzpflichten nach Artikel 50 greifen ab dem 2. August 2026. Die Verordnung (EU) 2026/1744 vom 8. Juli 2026, am 24. Juli 2026 im Amtsblatt der Europäischen Union veröffentlicht und seit dem 27. Juli 2026 in Kraft, verschiebt die Pflichten für Hochrisikosysteme nach hinten: für eigenständige Systeme nach Anhang III auf den 2. Dezember 2027, für in Produkte eingebettete Systeme nach Anhang I auf den 2. August 2028. Ebenfalls auf den 2. Dezember 2027 verschoben wurde die Grundrechte-Folgenabschätzung nach Artikel 27, die Einrichtungen des öffentlichen Rechts und private Anbieter öffentlicher Dienste trifft.

In Deutschland bündelt das Gesetz zur Durchführung der KI-Verordnung die Aufsicht bei der Bundesnetzagentur, die zugleich Beratungs- und Erprobungsangebote bereitstellt. Klären Sie die Einstufung vor der Beschaffung und halten Sie das Ergebnis schriftlich fest, denn davon hängen technische Dokumentation, Aufsicht durch Menschen und Protokollierung ab. Der längere Übergang ist kein Grund zu warten. Ein System, das Sie heute einführen, wird 2027 an diesen Pflichten gemessen, und Nachrüsten ist teurer als saubere Anforderungen im Verfahren. Da sich Fristen kurzfristig ändern können, prüfen Sie den Stand zum Zeitpunkt Ihrer Entscheidung. Eine geordnete Vorprüfung gehört in jede KI-Beratung für öffentliche Stellen.

Was bedeutet ein souveräner Betrieb von KI-Systemen?

Souverän betrieben heißt: Sie behalten die Verfügungsgewalt über Daten, Modell und Betriebsort, und es fließen keine Inhalte an Dritte außerhalb Ihres Vertragsverhältnisses ab. Drei Wege führen dorthin.

  • Quelloffene Sprachmodelle, die im eigenen Rechenzentrum oder bei einem europäischen Dienstleister betrieben werden. Die Modelldateien liegen bei Ihnen, die Eingaben verlassen Ihre Umgebung nicht.
  • Europäische KI-Dienste mit Verarbeitung innerhalb der EU, belastbarer Vereinbarung zur Auftragsverarbeitung und vertraglichem Ausschluss der Nutzung Ihrer Eingaben für das Training.
  • Betrieb im eigenen Rechenzentrum oder bei einem Dienstleister, der ein C5-Testat nach dem Kriterienkatalog des BSI vorlegt. Fordern Sie in der Leistungsbeschreibung das Testat und den zugehörigen Prüfbericht ausdrücklich ein, denn ein C5-Zertifikat gibt es nicht: Der C5 wird von einem Wirtschaftsprüfer testiert und nicht vom BSI zertifiziert.

Zum C5 gehört ein Detail, das in Leistungsbeschreibungen häufig fehlt. Das Testat wird von einem Wirtschaftsprüfer nach dem Prüfungsstandard ISAE 3000 erteilt, und es gibt zwei Prüftypen. Typ 1 bestätigt lediglich, dass die Maßnahmen zum Stichtag angemessen ausgestaltet waren. Erst Typ 2 weist die Wirksamkeit über einen Prüfzeitraum nach. Verlangen Sie Typ 2 und lassen Sie sich den vollständigen Prüfbericht einschließlich der festgestellten Abweichungen vorlegen, nicht nur das Deckblatt. Das BSI hat den Kriterienkatalog 2026 überarbeitet und dabei Anforderungen zur Transparenz von KI aufgenommen; ältere Testate beruhen noch auf der Vorgängerfassung. Fragen Sie deshalb nach Fassung und Prüfzeitraum.

Der Aufwand für einen souveränen Betrieb ist höher als das schlichte Abonnieren eines fertigen Dienstes. Er ist aber der Weg, der dauerhaft belastbar bleibt, und er zahlt unmittelbar auf das Ziel der digitalen Souveränität ein.

Wie beschreiben Sie KI-Leistungen produktneutral?

Beschreiben Sie die Funktion und den geforderten Nachweis, nicht das Erzeugnis. Oberschwellig verlangt § 31 Abs. 6 VgV eine produktneutrale Leistungsbeschreibung, unterschwellig § 23 UVgO.

Bewährt hat sich diese Reihenfolge. Zuerst der Bedarf: Welche Aufgabe soll das System übernehmen, mit welchem Datenbestand, für wie viele Beschäftigte, mit welcher Vertraulichkeitsstufe? Danach die Markterkundung nach § 28 VgV, sauber dokumentiert, damit später niemand eine unzulässige Nähe zu einem einzelnen Anbieter beanstanden kann. Wie eine Markterkundung rechtssicher abläuft, habe ich im Leitfaden zur Markterkundung beschrieben. Erst danach folgen die Wahl der Verfahrensart nach § 14 VgV, die Eignungsanforderungen nach § 122 GWB und die Zuschlagskriterien nach § 127 GWB. Jeder dieser Schritte gehört nach § 8 VgV in die Vergabedokumentation.

In die Leistungsbeschreibung gehören prüfbare Mindestanforderungen: Ort der Verarbeitung, vertraglicher Ausschluss der Trainingsnutzung, C5-Testat vom Typ 2, Protokollierung der Nutzung, Nachprüfbarkeit der Ergebnisse durch die Beschäftigten, Ausgabe der eigenen Daten in offenen Formaten sowie eine Ausstiegsregelung mit Fristen, Mitwirkungspflichten und Kosten. Barrierefreiheit gehört ebenfalls hinein, mit Norm und Nachweis: EN 301 549 ist der verbindliche technische Maßstab, sie übernimmt die Erfolgskriterien der WCAG. Formulieren Sie jede Anforderung so, dass ein Dritter sie am Angebot abhaken kann.

Wie werten Sie Angebote für KI-Leistungen?

Über den Preis allein lässt sich ein KI-System nicht sinnvoll vergleichen. Legen Sie die Gewichtung vor der Bekanntmachung fest und knüpfen Sie jedes Kriterium an einen Nachweis.

Tragfähig sind Kriterien, die sich belegen lassen: der Ort der Verarbeitung durch die Vertragsunterlagen, die Sicherheit durch das C5-Testat, die Nachvollziehbarkeit durch die Beschreibung der Protokollierung, die Anbindung an vorhandene Fachverfahren durch Angaben zu den Schnittstellen, die Unterstützung durch zugesicherte Reaktionszeiten. Vermeiden Sie Kriterien, die niemand prüfen kann, etwa die Güte der Antworten in allgemeiner Form. Wollen Sie die Qualität dennoch werten, dann über einen vorgegebenen Testfall mit festen Bewertungsstufen für alle Bieter. Der Aufbau einer belastbaren Wertungsmatrix entscheidet in der Praxis öfter über den Erfolg als die Leistungsbeschreibung selbst.

Rechnen Sie außerdem über die gesamte Laufzeit, nicht über den Einstiegspreis. Die maßgeblichen Kostentreiber sind: Zahl der Nutzer, Umfang des erschlossenen Datenbestands, Rechenleistung im Eigenbetrieb, Anbindung an Fachverfahren, Schulung, Pflege der hinterlegten Inhalte und die Ablösung am Ende der Laufzeit.

Welche Fehler sehe ich in der Praxis am häufigsten?

Die meisten KI-Vorhaben in der Verwaltung scheitern nicht an der Technik, sondern an sechs wiederkehrenden Fehlern.

  1. Die Beschäftigten nutzen frei zugängliche Dienste, ohne dass es eine Regelung gibt. Es fehlt die verbindliche Dienstanweisung, welche Werkzeuge erlaubt sind und welche Daten niemals eingegeben werden dürfen.
  2. Die Einstufung nach der KI-Verordnung wird weder geprüft noch dokumentiert. Später fehlt der Nachweis, dass überhaupt geprüft wurde.
  3. In der Leistungsbeschreibung steht eine BSI-Zertifizierung für einen Cloud-Dienst. Gemeint ist meist der C5, dieser wird jedoch testiert und nicht zertifiziert; ohne Angabe von Prüftyp, Fassung und Prüfzeitraum läuft die Anforderung im Verfahren ins Leere.
  4. Der Pilotbetrieb läuft mit einzelnen begeisterten Personen statt mit einem vollständigen Fachbereich. Die Ergebnisse tragen die spätere Entscheidung nicht.
  5. Die Ergebnisse werden ungeprüft übernommen. Ein maschinell erzeugter Entwurf ist kein Verwaltungsakt, und die Verantwortung bleibt beim Haus.
  6. Der Ausstieg ist nicht geregelt. Ohne Rückgabe der eigenen Daten in offenen Formaten ist die Abhängigkeit lediglich verlagert worden.

Was ich als unabhängiger Fachplaner übernehme

Ich plane, schreibe aus und begleite fachlich, ich betreibe die Systeme nicht selbst. Ich erhebe den Bedarf, prüfe die Einstufung nach der KI-Verordnung, stimme die datenschutzrechtliche Vorprüfung ab, führe die Markterkundung durch, formuliere die produktneutrale Leistungsbeschreibung mit prüfbaren Nachweisen, entwickle die Wertungsmatrix und begleite das Verfahren bis zur Abnahme. Die Ausführung übernehmen die beauftragten Fachfirmen und Ihr IT-Dienstleister. Aus über 25 Jahren Praxis und mehr als 100 begleiteten Vergabeverfahren weiß ich: Die Weichen werden in den Unterlagen gestellt, nicht in der Angebotsphase. Prüflisten und Leitfäden zu Datenschutz, Vergabe und Technik finden Sie in meinen Downloads.