Souveränes, vollständig in Deutschland gehostetes AgenticAI für den Kundenservice mit Homeport und Cognigy

Wir haben kürzlich für einen größeren Kunden ein interessantes Projekt umgesetzt:

Ein AI-basierter Kundenservice, der sowohl über Chat als auch telefonisch erreichbar ist. Die besondere Herausforderung bestand darin, dass es sich um eine souveräne, in Deutschland gehostete Lösung handeln musste.

Herausforderung: Datenschutzkonforme KI im Kundenservice

Der Kunde hatte das Problem, dass täglich sehr viele Kundenanfragen eingingen und die Bearbeitung entsprechend Zeit und Ressourcen kostete. Unser Auftrag war es, einen automatisierten Kundenservice-Bot zu entwickeln, mit dem man chatten sowie telefonieren kann. Dieser sollte imstande sein, allgemeine Fragen sowie Fragen zu internen Prozessen zu beantworten, die neue Kunden stellen könnten. Ebenfalls sollte es für bereits bestehende Kunden eine Möglichkeit geben, mit dem Ticketingsystem ServiceNow zu interagieren, ohne einen menschlichen Agenten dazuzuziehen. Am Ende sollte es möglich sein, neue Anfragen oder Probleme als neues Ticket zu erstellen und sich Informationen über bereits bestehende Tickets anzeigen zu lassen.

Zusätzlich kam noch hinzu das jegliche Applikationen und Infrastruktur auf einer deutschen Cloud gehostet werden müssen nämlich der OpenTelekomCloud. Keine Daten dürfen an US Unternehmen übermittelt werden. Viele europäische Unternehmen sind immer noch der Auffassung das wenn Sie eine US Hyperscaler Cloud (z.B. Microsoft die Azure) nutzen und die Server in der EU stehen, das damit ihre Daten sicher sind. Das ist aber definitiv nicht der Fall wie auch letztens näher beschrieben in unserem Blog “Microsoft can’t keep EU data save from US Authorities. Is OpenTelekomCloud the alternative?”.
Die Nutzung von Azure OpenAI in der EU ist somit auch nicht gestattet.

Multiple komplexe Probleme die eine innovative Lösung erforderten.

Die Lösung: AgenticAI + Homeport.ai + Cognigy

Was ist ein AgenticAI?

Bei AgenticAI arbeiten mehrere spezialisierte KI-Agenten zusammen. Jeder Agent hat seinen eigenen Aufgabenbereich, kann aber bei Bedarf Anfragen an andere Agenten weiterleiten. Das macht das ganze System flexibler und effizienter.

Wie löse ich das AgenticAI Problem?

Homeport ist ein Betriebssystem für die datensichere Verwendung einer Vielzahl von LLMs (bspw. ChatGPT, Gemini, Llama, DeepSeek), interner Daten durch RAG-Verarbeitung und weiterer KI-Anwendungen. Es lässt sich dabei in bereits bestehende Datenbanken integrieren und ermöglicht somit einen effizienten Zugriff auf interne Wissensdatenbanken. Auch lassen sich Kanäle wie Slack oder Salesforce anbinden.

Deutsche Cloud-Technologie für sichere AI-Systeme

Cognigy ist eine KI-Plattform, die Unternehmen dabei hilft, intelligente Chatbots und Sprachassistenten für den Kundenservice zu erstellen. Mit der benutzerfreundlichen Software können auch Nutzer ohne Programmierkenntnisse virtuelle Assistenten entwickeln, die Kundenanfragen automatisch bearbeiten. Das Düsseldorfer Unternehmen wurde 2024 von NICE übernommen und gilt als führender Anbieter für Conversational AI im Enterprise-Bereich.

Die Kombination führte zum Erfolg

Letzendlich mussten diesese drei Technologien miteinander vereint werden damit das Projekt erfolgreich abgeschlossen werden konnte. Wir haben ein Multi-Agenten-System mit Cognigy aufgebaut. Dabei haben wir einen Agenten für allgemeine Fragen entwickelt, der über Homeport auf die interne Wissensdatenbank des Unternehmens zugreift. Ein zweiter Agent kümmert sich speziell um das Ticketingsystem SNOW. Wenn zum Beispiel ein Kunde nach dem Status seines Tickets fragt, erkennt der erste Agent das Anliegen und gibt es an den SNOW-Agenten weiter, der dann die entsprechenden Informationen abruft. Falls das System mal nicht weiterkommt, wird automatisch ein menschlicher Agent hinzugezogen. Die Flows in Cognigy machen es möglich, diese verschiedenen Agenten elegant miteinander zu verknüpfen. Die LLMs, die für die Verarbeitung benötigt werden, kommen über Homeport und lassen sich einfach in Cognigy einbinden.Was dabei herausgekommen ist

Das System funktioniert gut und entlastet die menschlichen Mitarbeiter merklich. Die meisten Standardanfragen werden jetzt automatisch bearbeitet, was besonders außerhalb der Geschäftszeiten praktisch ist. Der Kunde ist zufrieden mit der Lösung, und sie lässt sich bei Bedarf auch problemlos erweitern.

Braucht ihr eine soveräne Lösung?

Wenn ihr ein souveränes KI‑Setup sucht, schaut bei homeport.ai vorbei – oder für ein souveränes Cloud‑Setup bei kumo-ops.com. Meldet euch einfach bei uns und wir starten gemeinsam!