Hintergrund: Im Auftrag der Stadtwerke Norderstedt Gruppe (SWN) wurde eine unternehmensweite KI-Plattform aufgebaut, die das interne Wissensmanagement und die externe Kundenkommunikation durch KI-gestützte Assistenzsysteme unterstützt.

Aufgabenstellung: Das Vorhaben umfasst drei eigenständige Produkte, die unabhängig voneinander betrieben und weiterentwickelt werden: eine unternehmensweite KI-Assistenzplattform für Mitarbeitende, einen produktionsreifen, agentischen Retrieval-Augmented-Generation-Service (RAG), der interne Wissensbasen aus verschiedenen Datenquellen und heterogenen Datentypen erschließt und als eigenständiger Dienst mehrere Anwendungen bedienen kann, sowie einen Kundenchatbot zur Beantwortung von Anfragen über die verschiedenen Geschäftsbereiche und Tochtergesellschaften hinweg.

Unser Beitrag: Der Leistungsumfang reichte von der Konzeption der Systemarchitektur über die Entwicklung der produktionsreifen RAG-Pipeline mit hybrider Suche, Multi-Query-Generierung und transformerbasiertem Reranking bis zur Dokument- und Indexierungspipeline mit strukturierter Segmentierung, Deduplizierung und inkrementeller Aktualisierung. Ergänzt wurde dies um rollenbasierte Zugriffskontrolle (KeyCloak / OpenID Connect), ein Evaluierungsframework mit Experiment-Tracking über MLflow sowie Backend-Services und APIs für den Kundenchatbot inklusive Content-Safety-Mechanismen. Über die technische Umsetzung hinaus umfasste die Zusammenarbeit die fachliche und methodische Steuerung – etwa gemeinsame Hackathons und Code-Reviews –, die die Lösung nutzerzentriert und die Inhalte aktuell hält und ein durchgehend hohes Qualitätsniveau sichert.

Besonderheiten: Die Lösung folgt einem Local-AI-First-Ansatz: Kernkomponenten und Open-Source-LLMs laufen auf der unternehmenseigenen GPU-Infrastruktur der Stadtwerke Norderstedt, um vollständige Datensouveränität zu gewährleisten; lediglich ausgewählte KI-Dienste sind ergänzend als Managed Services aus der Cloud angebunden. Der modulare Microservice-Ansatz ermöglicht die schrittweise Erweiterung um zusätzliche Wissensdomänen ohne grundlegende Neugestaltung des Systems. Alle Antworten basieren transparent auf freigegebenen Quellen und werden mit Quellenreferenzen versehen, um Nachvollziehbarkeit und Vertrauen sicherzustellen.

Ergebnis: Alle Systeme – RAG-Service, interner KI-Assistent und kundenseitiger Chatbot sowie eine ergänzende KI-Lösung zur automatisierten Verarbeitung von Ablesekarten – sind seit Juni 2026 produktiv im Einsatz. Die Zusammenarbeit wird laufend über Support und die Definition weiterer Anwendungsfälle fortgeführt.