KI-Telefonassistent im Bürgeramt: was gilt und was in die Ausschreibung gehört

Im Bürgeramt klingelt das Telefon. Fünfzehn Anrufende in der Warteschleife, zwei besetzte Plätze, und die Hälfte der Fragen lautet: Welche Unterlagen brauche ich für den Reisepass? Ein Sprachassistent, der das rund um die Uhr beantwortet, klingt nach der offensichtlichen Antwort. In Höxter, Stade, Hannover und Siegburg läuft ein solcher Assistent bereits im Wirkbetrieb, in Nürnberg, Saarbrücken und Delmenhorst wird erprobt. Seit dem 2. August 2026 gelten dafür jedoch neue Pflichten, und an einer einzigen Stelle entscheidet eine scheinbare Nebenfunktion darüber, ob Sie ein einfaches Auskunftssystem oder ein Hochrisiko-System beschaffen.

Was seit dem 2. August 2026 gilt

Artikel 50 der KI-Verordnung ist seit heute anwendbar. Wer am Telefon mit einem KI-System spricht, muss darüber informiert werden, und zwar nach Artikel 50 Absatz 5 spätestens zum Zeitpunkt der ersten Interaktion. Für ein Telefonat heißt das: zu Beginn des Gesprächs, nicht am Ende und nicht in einer Fußnote auf der Internetseite.

Bemerkenswert ist, was der sogenannte Digital-Omnibus vom Juli 2026 gerade nicht getan hat. Die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat die Pflichten für Hochrisiko-Systeme deutlich verschoben, nämlich auf den 2. Dezember 2027 für die Anwendungsfälle aus Anhang III und auf den 2. August 2028 für die übrigen. Die Transparenzpflicht des Artikels 50 hat sie unangetastet gelassen. Die Ansage zu Gesprächsbeginn ist damit die einzige Pflicht aus der KI-Verordnung, die einen Bürgerservice-Assistenten heute schon unmittelbar trifft.

Auf die Ausnahme in Artikel 50 Absatz 1, wonach die Information entfallen kann, wenn sie ohnehin offensichtlich ist, sollten Sie sich nicht stützen. Je überzeugender eine synthetische Stimme klingt, desto weniger trägt das Argument, ihre Maschinennatur liege auf der Hand.

Eine Zuordnungsfrage kommt hinzu: Artikel 50 Absatz 1 verpflichtet dem Wortlaut nach den Anbieter. Nach Artikel 25 Absatz 1 wird jedoch zum Anbieter, wer seinen Namen oder seine Marke auf einem bereits in Verkehr gebrachten System anbringt. Wenn Ihre Kommune einen zugekauften Assistenten unter eigenem Namen betreibt, kann sie damit selbst in die Anbieterrolle rutschen. Klären Sie das im Vertrag, nicht erst im Streitfall.

Ist ein Telefonassistent ein Hochrisiko-System?

Im Regelfall nicht. Anhang III Nummer 5 Buchstabe a der KI-Verordnung knüpft nicht an den Begriff der öffentlichen Dienstleistung an, sondern an die Bewertung von Anspruchsvoraussetzungen und an Entscheidungen über Leistungen. Ein System, das Auskunft gibt, Termine vereinbart und an die zuständige Stelle weiterleitet, tut nichts davon.

Die Entwurfsleitlinien der Europäischen Kommission zur Einstufung von Hochrisiko-Systemen vom 19. Mai 2026 bestätigen das ausdrücklich. Sie nennen als Beispiel außerhalb der Kategorie ein System, das lediglich mitteilt, welche Stelle einen Antrag weiter bearbeitet, weil es keine eigene Bewertung der Anspruchsberechtigung vornimmt. Ebenso genannt werden Chatbots auf Behördenseiten, die allgemeine Informationen zu Verfahrensschritten, erforderlichen Unterlagen und Fristen geben. Diese Leitlinien liegen bislang nur im Entwurf vor und sind rechtlich nicht verbindlich.

Die Grenze ist trotzdem klar zu ziehen. Hochriskant wird es, sobald das System Angaben der anrufenden Person bewertet, Anliegen nach persönlichen Merkmalen priorisiert oder Beschäftigten fallbezogene rechtliche Einschätzungen liefert. Und Artikel 6 Absatz 3 der KI-Verordnung enthält eine Sperre, die häufig übersehen wird: Sobald ein System ein Profiling natürlicher Personen vornimmt, gilt es immer als hochriskant, ohne jede Ausnahme.

Die Falle heißt Stimmungserkennung

An einer Stelle kippt die Einstufung unabhängig von jeder Leistungsentscheidung, und es ist ausgerechnet die Funktion, die in Angeboten gern als Qualitätsmerkmal beworben wird.

Anhang III Nummer 1 Buchstabe c erfasst KI-Systeme, die zur Erkennung von Emotionen eingesetzt werden sollen. Die Entwurfsleitlinien der Kommission führen dazu wörtlich ein Callcenter-System an, das Tonlage, Stimmhöhe und Lautstärke auswertet, um die Zufriedenheit zu messen oder den richtigen Zeitpunkt für die Übergabe an einen Menschen zu bestimmen, etwa bei Verärgerung. Ob dabei die anrufende Person identifiziert wird, ist nach dem Entwurfstext ausdrücklich ohne Belang.

Wer also die verbreitete Funktion „Anrufer klingt verärgert, bitte an Mitarbeitende übergeben“ beschafft, beschafft nach dieser Lesart ein Hochrisiko-System mit allen Folgepflichten, darunter die Grundrechte-Folgenabschätzung nach Artikel 27, die für öffentliche Stellen ausdrücklich gilt. Mein Rat ist deshalb schlicht: Schließen Sie diese Funktion im Leistungsverzeichnis ausdrücklich aus. Eine Übergabe an Mitarbeitende lässt sich über ein festes Signalwort und eine Telefontaste zuverlässiger und rechtlich unbedenklich lösen.

Bußgelder gibt es nicht, Pflichten schon

Das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz ist am 29. Juli 2026 in Kraft getreten. Es bestimmt die Bundesnetzagentur zur zuständigen Marktüberwachungsbehörde. Und § 17 Absatz 2 schließt Geldbußen gegen Behörden und sonstige öffentliche Stellen aus.

Das entlastet nicht von der Pflicht selbst. Die Aufsicht kann Abhilfemaßnahmen anordnen, die Rechte der betroffenen Personen bleiben unberührt, und die politische Wirkung eines beanstandeten Systems im Bürgerkontakt ist erfahrungsgemäß unangenehmer als jeder Bußgeldbescheid. Rechnen Sie also nicht mit einer Geldstrafe, sondern mit einer Ratsanfrage.

Datenschutz: die bequeme Rechtsgrundlage fällt aus

Artikel 6 Absatz 1 Unterabsatz 2 der Datenschutz-Grundverordnung nimmt Behörden in Erfüllung ihrer Aufgaben ausdrücklich vom berechtigten Interesse aus. Es bleibt Artikel 6 Absatz 1 Buchstabe e, der jedoch für sich genommen keine Rechtsgrundlage schafft, sondern nach Absatz 3 eine Norm im nationalen Recht voraussetzt. Für Kommunen in Nordrhein-Westfalen ist das § 3 Absatz 1 des Datenschutzgesetzes NRW, wonach die Verarbeitung zulässig ist, soweit sie für die Wahrnehmung einer im öffentlichen Interesse liegenden Aufgabe erforderlich ist. In anderen Ländern gilt die jeweilige Parallelvorschrift; § 3 BDSG hilft Ihnen nicht weiter, denn er betrifft Bundesstellen.

Ob diese Generalklausel für einen KI-gestützten Assistenten trägt, ist keine ausgemachte Sache. Der Landesbeauftragte für den Datenschutz in Baden-Württemberg hat dazu angemerkt, schon der Umstand, dass eine Verarbeitung nicht vollständig erklärbar sei, könne für einen schwerwiegenden Eingriff sprechen, der den Rückgriff auf die Generalklausel ausschließe. Wer einen Telefonassistenten allein darauf stützt, sollte das gründlich begründen können. Für das Training des Systems mit den Gesprächsdaten Ihrer Bürgerinnen und Bürger reicht sie nach derselben Auffassung ohnehin nicht, denn das Training ist für die Aufgabenerfüllung nicht erforderlich. Halten Sie den Ausschluss der Trainingsnutzung deshalb vertraglich fest. Die allgemeinen Anforderungen habe ich unter KI in der Verwaltung beschrieben.

Die Aufzeichnung ist der heikelste Teil

Die vertraute Bandansage genügt nicht. Die Datenschutzkonferenz hat bereits 2018 festgestellt, dass die bloße Einräumung einer Widerspruchsmöglichkeit und das anschließende Fortsetzen des Telefonats keine wirksame Einwilligung darstellen. Erforderlich ist eine aktive Zustimmung vor Beginn der Aufzeichnung, etwa durch ein gesprochenes Ja oder das Drücken einer Taste, und diese Zustimmung ist nachzuweisen. Ebenso wichtig: Wer nicht zustimmt, muss sein Anliegen gleichwertig erledigen können, sonst fehlt es an der Freiwilligkeit.

Hinzu kommt eine Vorschrift, die in Beschaffungsunterlagen praktisch nie auftaucht. § 201 Absatz 1 des Strafgesetzbuches stellt bereits die Aufnahme selbst unter Strafe, unabhängig von jeder weiteren Verwendung, und der Versuch ist strafbar. Nach Absatz 3 beträgt der Strafrahmen fünf statt drei Jahre, wenn ein Amtsträger die Vertraulichkeit des Wortes verletzt. Dieselbe Handlung wiegt in der Verwaltung also schwerer als im Unternehmen.

Ob eine reine Echtzeit-Verarbeitung ohne Speicherung überhaupt eine Aufnahme im Sinne der Vorschrift ist, wird in der Fachliteratur verneint, gerichtlich entschieden ist es nicht. Verlassen Sie sich darauf nicht, denn nahezu alle Systeme puffern über die reine Flüchtigkeit hinaus. Trennen Sie die Aufzeichnung stattdessen technisch von der Sprachverarbeitung und machen Sie sie einzeln abschaltbar.

Ist die Stimme ein biometrisches Datum?

Nicht ohne Weiteres. Artikel 9 der Datenschutz-Grundverordnung erfasst biometrische Daten zur eindeutigen Identifizierung. Der Europäische Datenschutzausschuss überträgt in seinen Leitlinien zu virtuellen Sprachassistenten die Wertung des Erwägungsgrundes 51 ausdrücklich auf die Stimme: Erst die Sprechererkennung über ein Stimmmodell führt in den Anwendungsbereich des Artikels 9. Eine reine Umwandlung von Sprache in Text fällt nicht darunter.

Entwarnung ist das nicht. Über den Inhalt des Gesprächs fallen im Bürgeramt regelmäßig Angaben zu Gesundheit, Schwerbehinderung oder Religionszugehörigkeit an, und die unterliegen Artikel 9 unabhängig davon, wie sie erfasst wurden. Verzichten Sie außerdem im Leistungsverzeichnis ausdrücklich auf Sprechererkennung und Stimmmodelle, dann bleibt diese Grenze sauber.

Datenschutz-Folgenabschätzung: hier ist die Lage ungewöhnlich klar

Die Liste des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit für den öffentlichen Bereich führt unter Nummer 18 den Einsatz künstlicher Intelligenz zur Steuerung der Interaktion mit Betroffenen und nennt als typisches Einsatzfeld den Kundensupport eines öffentlichen Dienstleisters. Nummer 20 beschreibt als Beispiel wörtlich ein Callcenter für eine zentrale Behördenrufnummer, das automatisiert die Stimmungslage der Anrufer auswertet. Die Liste des Landesbeauftragten in Baden-Württemberg enthält wortgleiche Einträge.

Prüfen Sie in jedem Fall die Liste Ihres eigenen Landes, denn die Listen unterscheiden sich erheblich; die Liste des Bundesbeauftragten etwa enthält keinen entsprechenden Eintrag. Praktisch wichtiger als die Frage nach dem Ob ist ohnehin der Zeitpunkt: Die Angaben, die Sie für die Folgenabschätzung brauchen, müssen Sie beim Anbieter bereits in der Ausschreibung abfordern. Wer sie nach dem Zuschlag verlangt, verhandelt aus der schwächeren Position.

Barrierefreiheit: weniger geregelt, als Sie denken

Die Norm EN 301 549 in der Fassung V3.2.1 verlangt in Klausel 6.4 einen Weg, auf dem sich dieselben Informationen erlangen und dieselben Vorgänge erledigen lassen, und zwar ohne Hören und ohne Sprechen. Einen Weg zu einem Menschen verlangt sie dagegen nicht ausdrücklich; der einzige Hinweis auf einen menschlichen Bediener steht in einem informativen Abschnitt. Fachlich ist der menschliche Rückfallweg gleichwohl der naheliegendste Weg, diese Anforderung zu erfüllen. Der Entwurf der kommenden Fassung weist in dieselbe Richtung, weil Klausel 6.4 künftig auch für reine Sprachdialogsysteme gelten soll. Er ist noch nicht in Kraft.

Zur Zuständigkeit: Das Barrierefreiheitsstärkungsgesetz greift für die hoheitliche Aufgabenwahrnehmung einer Kommune nicht, denn § 1 Absatz 3 zählt die erfassten Dienstleistungen abschließend und jeweils bezogen auf Verbraucher auf. Für Kommunen gelten die Landesbehindertengleichstellungsgesetze und die Landesverordnungen, nicht die BITV 2.0 des Bundes. Daraus folgt ein bemerkenswerter Befund: Der telefonische Kanal ist barrierefreiheitsrechtlich schwächer geregelt als der digitale, weil die Verordnungen auf Internetseiten, mobile Anwendungen und Bildschirmoberflächen zugeschnitten sind. Tragfähiger ist der Anspruch auf geeignete Kommunikationshilfen aus § 9 des Behindertengleichstellungsgesetzes und den Landesparallelen. Was daraus für Ihre Telefonie folgt, steht unter barrierefreie Telefonanlage nach EN 301 549 und allgemein unter Barrierefreiheit für Kommunen.

Ein praktischer Punkt, der in keiner Norm steht: Vermittlungsdienste für gehörlose Menschen arbeiten mit einem dolmetschenden Menschen in der Leitung. Kurze Zeitfenster und eine strenge Spracherkennung blockieren solche Verbindungen zuverlässig. Fordern Sie ausreichend lange Wartezeiten und die Durchlässigkeit für Vermittlungsdienste ausdrücklich.

Wie weit ist die Praxis wirklich?

Der Markt bewegt sich schnell, die belastbare Bewertung hinkt hinterher. Eine veröffentlichte Wirksamkeitsmessung eines kommunalen Telefonassistenten in Deutschland habe ich nicht gefunden, ebenso wenig eine Positionierung eines kommunalen Spitzenverbandes speziell zu Sprachassistenten am Telefon. Nürnberg berichtet aus dem Testbetrieb amtlich von technischen und inhaltlichen Problemen, die behoben wurden, und hat den Anwendungsbereich anschließend eingeengt.

Aufschlussreich ist der Weg der Behördennummer 115. Sie setzt seit Juli 2026 künstliche Intelligenz im Regelbetrieb ein, allerdings ausschließlich im Text-Chat. Für den Telefonkanal läuft weiterhin eine Bewertung. Die FITKO hatte 2024 ausdrücklich erklärt, der 115-Chatbot arbeite regelbasiert und nutze keine Sprachmodelle, und dies mit den Anforderungen an die Richtigkeit der Auskünfte begründet. Wenn die zentrale Behördennummer diesen Schritt so vorsichtig geht, ist das ein Argument dafür, klein anzufangen.

Was in das Leistungsverzeichnis gehört

Beschreiben Sie die Leistung funktional, nicht über Produkte. § 31 Absatz 6 der Vergabeverordnung untersagt Verweise, die bestimmte Unternehmen begünstigen. Die folgenden Punkte gehören aus meiner Sicht in jede Ausschreibung eines Telefonassistenten:

Für die Vertragsgestaltung stehen die Model Contractual Clauses für die Beschaffung künstlicher Intelligenz in der Fassung vom 5. März 2025 zur Verfügung, in einer Variante für Hochrisiko-Systeme und einer für die übrigen. Sie sind nicht verbindlich und nicht förmlich von der Europäischen Kommission gebilligt, eignen sich aber als Ausgangspunkt. Wie Sie die Angebote anschließend vergleichbar bewerten, steht unter Wertungsmatrix für IT-Vergaben. Und weil der Markt jung ist, lohnt eine Markterkundung nach § 28 VgV, bevor Sie die Leistung festschreiben.

Die typischen Fehler

• Der Assistent wird als Telefonanlagenfunktion beschafft. Dann fehlen Datenschutz, Barrierefreiheit und Ausstiegsregeln vollständig, weil sie im Anlagenvertrag nicht vorgesehen sind.
• Die Stimmungserkennung wird mitgekauft, weil sie im Angebot als Komfortmerkmal steht und niemand ihre rechtliche Folge kennt.
• Es gibt keinen Weg zum Menschen oder er ist versteckt. Das ist der schnellste Weg zu Beschwerden und trifft ausgerechnet die Menschen, die auf Unterstützung angewiesen sind.
• Die Wissensbasis wird nicht gepflegt. Ein Assistent mit veralteten Öffnungszeiten und überholten Gebühren ist schlimmer als keiner.
• Der Personalrat erfährt es zuletzt. Bei Hochrisiko-Systemen ist die Information der Arbeitnehmervertretung vor Inbetriebnahme sogar ausdrücklich vorgeschrieben; unabhängig davon ist die frühe Beteiligung der schnellere Weg.
• Es wird zu breit angefangen. Wer alle Anliegen aller Fachbereiche abbilden will, produziert falsche Auskünfte. Fangen Sie mit zwanzig Standardfragen an, die sich eindeutig beantworten lassen.

Wie gehen Sie vor?

1. Anrufaufkommen auswerten. Welche Anliegen machen welchen Anteil aus, und welche davon sind eindeutig beantwortbar?
2. Rechtsgrundlage klären mit dem behördlichen Datenschutzbeauftragten, einschließlich der Frage, ob die Generalklausel des Landesrechts trägt.
3. Muss-Liste des eigenen Landes prüfen und die Folgenabschätzung einplanen.
4. Leistung funktional beschreiben, mit den Ausschlüssen zur Emotionserkennung und zur Trainingsnutzung.
5. Markt erkunden und dabei nach veröffentlichten Auswertungen fragen, nicht nur nach Referenzen.
6. Klein starten, mit einem eng umrissenen Themenbereich und einer festen Auswertung nach sechs Monaten.
7. Betrieb regeln, insbesondere die Pflege der Wissensbasis. Sie ist die eigentliche Daueraufgabe, nicht die Technik.

Wie unterstütze ich Sie?

Ich nehme das Anrufaufkommen und die vorhandene Telefonie auf, erstelle das produktneutrale Leistungsverzeichnis mit den oben genannten Ausschlüssen und Nachweispflichten, bereite die Wertungsmatrix vor und begleite die Vergabe bis zur Abnahme. Die datenschutzrechtliche Bewertung stimme ich mit Ihrem Datenschutzbeauftragten ab, die Anbindung an die vorhandene Anlage plane ich mit; wie sich die Kosten im Haushalt abbilden, steht unter Telefonanlage im Haushalt.

Der entscheidende Punkt dabei: Ich liefere nichts. Ich verkaufe weder Sprachassistenten noch Telefonanlagen und habe deshalb kein Interesse daran, dass ein bestimmtes System gewinnt oder dass überhaupt eines beschafft wird. In einigen Fällen ist die ehrlichste Empfehlung, das Anrufaufkommen zunächst organisatorisch zu entlasten. Als freiberufliche Leistung ist die Unterstützung nach § 50 UVgO direkt beauftragbar, auch phasenweise. Wie eine solche Beschaffung von der Ist-Aufnahme bis zur Vergabe abläuft, zeigt das Beispiel unter elektronisches Beschaffungssystem einführen.

Alle Rechtsstände geben den 2. August 2026 wieder. Die Leitlinien der Europäischen Kommission zur Einstufung von Hochrisiko-Systemen liegen als Entwurf vor und sind nicht verbindlich. Die Fristen der KI-Verordnung wurden durch die Verordnung (EU) 2026/1744 geändert; einzelne Behördenseiten geben noch den früheren Stand wieder. Maßgeblich ist der Verordnungstext. Dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.