KI-Beratung für die öffentliche Verwaltung
Datenschutzkonforme KI-Strategie mit Fokus auf lokale Large Language Models (LLMs) — für Kommunen und Behörden, die Künstliche Intelligenz einsetzen möchten, ohne die Kontrolle über ihre Daten zu verlieren.
Künstliche Intelligenz — datenschutzkonform und praxisnah
Künstliche Intelligenz bietet der öffentlichen Verwaltung enormes Potenzial: von der automatisierten Beantwortung von Bürgeranfragen über die Analyse großer Datenbestände bis zur Unterstützung bei der Erstellung von Bescheiden und Berichten.
Doch der Einsatz von Cloud-basierten KI-Diensten wie ChatGPT, Google Gemini oder Microsoft Copilot wirft für öffentliche Auftraggeber erhebliche Datenschutz- und Souveränitätsfragen auf. Die Lösung: Lokale Large Language Models (LLMs), die auf Ihrer eigenen Infrastruktur betrieben werden — ohne Datenübermittlung an externe Server.
Meine KI-Beratungsleistungen
- KI-Potenzialanalyse — Identifikation von Einsatzszenarien mit dem höchsten Nutzen für Ihre Organisation
- Datenschutz-Folgenabschätzung — DSGVO-konforme Bewertung der geplanten KI-Anwendungen
- Lokale LLM-Architektur — Konzeption der Hardware- und Softwareinfrastruktur für den Betrieb lokaler Sprachmodelle
- Pilotprojekt-Begleitung — Planung, Umsetzung und Evaluation eines Pilotvorhabens
- KI-Governance-Framework — Leitlinien, Verantwortlichkeiten und Prozesse für den verantwortungsvollen KI-Einsatz
- Schulung & Change Management — Qualifizierung der Mitarbeitenden, Abbau von Vorbehalten, Aufbau von KI-Kompetenz
- Beschaffungsberatung — Vergaberechtskonforme Beschaffung von KI-Hardware und -Software
Lokale LLMs: Die datenschutzkonforme Alternative
Lokale Large Language Models werden auf Ihrer eigenen Hardware oder in einer souveränen Cloud-Umgebung betrieben. Ihre Daten verlassen zu keinem Zeitpunkt die eigene Infrastruktur. Das bedeutet:
- Volle Kontrolle über alle verarbeiteten Daten
- Kein Abfluss personenbezogener Daten an US-Anbieter
- Keine Abhängigkeit von externen Dienstverfügbarkeiten
- DSGVO-Konformität durch Design
- Planbare Kosten ohne nutzungsabhängige Gebühren
Vorteile lokaler LLMs gegenüber Cloud-KI
Fragen zu KI in der Verwaltung
Lokale Modelle wie Llama, Mistral oder Qwen haben in den letzten zwei Jahren enorme Fortschritte gemacht. Für typische Verwaltungsaufgaben — Textgenerierung, Zusammenfassungen, Übersetzungen, FAQ-Beantwortung — liefern aktuelle lokale Modelle sehr gute Ergebnisse. Für hochspezialisierte Aufgaben kann es sinnvoll sein, Cloud-Dienste ergänzend einzusetzen — aber nur für nicht-personenbezogene Daten.
Für kleinere Modelle (7–13 Milliarden Parameter) genügt ein Server mit 64 GB RAM und einer NVIDIA RTX 4090 oder A6000. Für größere Modelle (70B+) empfiehlt sich ein Multi-GPU-Setup oder A100/H100-Karten. Im Rahmen der Beratung dimensioniere ich die Hardware exakt auf Ihre Nutzungsanforderungen.
Ja, unter bestimmten Voraussetzungen. Entscheidend ist, dass keine automatisierten Einzelentscheidungen getroffen werden (Art. 22 DSGVO), eine Datenschutz-Folgenabschätzung durchgeführt wurde und die Transparenzanforderungen des AI Acts erfüllt sind. Lokale LLMs vereinfachen die Compliance erheblich, da keine Datenübermittlung an Dritte stattfindet.
Starten Sie mit KI — datenschutzkonform und praxisnah
Erfahren Sie in einem unverbindlichen Erstgespräch, wie lokale KI Ihre Verwaltungsprozesse unterstützen kann.
Das könnte Sie auch interessieren
Unabhängigkeit von proprietären Systemen — Open Source und souveräne Infrastruktur für öffentliche Auftraggeber.
Ausschreibungen & VergabeVergaberechtskonforme KI-Beschaffung — von der Leistungsbeschreibung bis zur Wertung.
KI-Checkliste herunterladenKostenlose Checkliste: KI in der Verwaltung — Datenschutz, DSGVO und AI Act auf einen Blick.