Chatbots im Zeitalter von Large Language Models: So war das assono KI-Forum 2024 in Bad Oeynhausen

Aufgrund der großen Nachfrage fand dieses Mal am 20. Februar 2024 ein Zusatztermin für öffentliche Verwaltungen und Städte statt. An diesem Tag wurden alle Beispiele und Anwendungsfälle zu KI-Chatbots auf öffentliche Verwaltungen und Städte zugeschnitten. Der 21. Februar 2024 war ganz den spannenden Anwendungsfällen für Unternehmen gewidmet. Die insgesamt rund 150 Gäste aus unterschiedlichen Branchen erhielten durch praxisorientierte Vorträge die Möglichkeit, rund um die neuesten Trends im Bereich Chatbots und KI in der Kundenkommunikation und Kommunikationsautomatisierung informiert zu werden.

Mit einem KI-Chatbot dem Personalmangel entgegentreten

Hauptgeschäftsführerin Lydia Bahn eröffnete das assono KI-Forum mit einer herzlichen Begrüßung der Gäste und unterstrich einleitend zur Veranstaltung die wachsende Relevanz von Künstlicher Intelligenz und Chatbots. Das Interesse von Unternehmen an Chatbots als praktische Anwendung der KI ist in den letzten Jahren stetig gestiegen und nicht zuletzt durch den Hype um den KI-Dienst ChatGPT auch für mittlere Unternehmen weiter in den Fokus gerückt. Der Einsatz von KI bietet das Potenzial, Prozesse zu verändern und zu optimieren. „Im Hinblick auf den anhaltenden Fachkräfte- und Personalmangel werden effiziente und digitale Arbeitsabläufe zukünftig sogar noch notwendiger werden”, so Lydia Bahn. Durch die Automatisierung mittels Chatbots können Unternehmen den Kundenservice optimieren und somit Mitarbeitende entlasten. Auch für den öffentlichen Sektor stellt der Einsatz von digitalen Assistenten eine interessante Möglichkeit dar, um den Bürgerservice zu verbessern und wichtige Kapazitäten für die Angestellten freizuräumen.

Bad Oeynhausens Bürgermeister Lars Bökenkröger zeigte sich in seiner Begrüßungsrede stolz, mit seiner Stadt Veranstaltungsort des KI-Forums zu sein. In den vergangenen Jahren habe Bad Oeynhausen selbst große Fortschritte in der Digitalisierung der Verwaltung unternommen.

Anwendungsbereiche von Large Language Models für Unternehmen und Verwaltungen

“Aber warum können wir nicht einfach ChatGPT einsetzen?” – Eine Frage, die die assono GmbH immer wieder von Unternehmen und Organistaionen erreicht. In letzter Zeit beschäftigt sich der Diskurs im Bereich der KI-Technologien vor allem mit Large Language Models (LLMs) und ChatGPT. Auch wenn es auf den ersten Blick so wirken mag: ChatGPT ist ist kein Chatbot im herkömmlichen Sinne, sondern eine Software zur Textgenerierung – und damit auch kein Ersatz für einen Unternehmens-Chatbot.

Um die Frage nach dem Nutzen von LLMs für Unternehmen und Verwaltungen beantworten zu können, erläuterte KI-Experte Thomas Bahn den Forumsteilnehmenden zunächst die grundlegende Funktionsweise hinter generativen Sprachmodellen wie ChatGPT. Wichtig zu verstehen sei: LLMs basieren auf Statistik und Wahrscheinlichkeiten. Wird diesen Modellen eine Frage vorgegeben, generiert das System eine Fortsetzung des eingegebenen Textes. Dazu werden neuronale Netze darauf trainiert, vorherzusagen, welches Wort als Nächstes kommen könnte. Insbesondere bei Aufgaben, die außerhalb ihrer ursprünglichen Trainingsdaten liegen oder aktuelle Informationen erfordern, können LLMs inkonsistent sein. In diesen Fällen kann das Sprachmodell sogar inkorrekte Antworten liefern – auch bekannt als Halluzinationen.

Der assono KI-Chatbot – Führende KI-Lösungen für mittlere und große Unternehmen

Die komplette Kontrolle über Inhalte und Daten bieten dagegen anliegen-basierte Chatbots. In seinem Vortrag erläuterte Thomas Bahn den Ansatz des assono KI-Chatbots und präsentierte erfolgreiche Kundenprojekte, die auf diese KI-Lösung setzen. Im Gegensatz zu LLMs sei der assono KI-Chatbot darauf spezialisiert, reproduzierbare Dialoge mit hoher Faktengenauigkeit zu führen. Werden anliegen-basierte Chatbots um die Fähigkeiten generativer Sprachmodelle ergänzt, können zum Beispiel redaktionelle Trainingsaufgaben beschleunigt werden. Außerdem kann der assono KI-Chatbot in Gesprächen auf Large Language Models zurückgreifen, um dynamische Inhalte wie Informationen aus angebundenen Datenbanken oder Suchergebnisse automatisch anzupassen. Dadurch können Texte sprachlich an die gestellte Frage angepasst oder inhaltlich zusammengefasst werden.

Allein mit einem LLM lässt sich kein zuverlässiger Chatbot umsetzen. Für die Kommunikation mit Kunden oder Bürgern sind anliegen-basierte Chatbots weiterhin das Mittel der Wahl. Die komplette Kontrolle über die ausgegebenen Inhalte sowie die Möglichkeit zur Prozessautomatisierung sind dafür ein unschlagbares Argument. Durch eine Integration eines LLMs kann jedoch von den Stärken aus beiden Welten profitiert werden.

Nach einer kleinen Pause bot Thomas Bahn im zweiten Vortragsteil einen exklusiven Einblick in das Dashboard für den assono KI-Chatbot. Das Dashboard ermöglicht es Kunden, ihren Chatbot eigenständig und ohne KI-Vorkenntnisse zu pflegen und zu verwalten. In einer benutzerfreundlichen Übersicht können alle vom Chatbot geführten Gespräche eingesehen werden und neue Themen und Fragen können mit wenigen Klicks antrainiert werden.

Erfolgsgeschichte zur Digitalisierung in der öffentlichen Verwaltung

Die Stadt Bad Oeynhausen ist der Einladung gefolgt, beim assono KI-Forum über ihren digitalen Verwaltungsassistenten „Colon“ zu sprechen. Im Interview mit assono Projektleiterin Isabelle Wieser berichteten die beiden von der Stadt eingesetzten Projektverantwortlichen Julia Kleinert und Patrick Höwener von ihren Erfahrungen bei der Umsetzung des Projekts. Ein Highlight: Live auf dem KI-Forum wurde ein neuer Service von Chatbot Colon freigeschaltet. Ab sofort sind auch Informationsquellen der Stadtwerke und des Kreises Minden-Lübbecke sowie die städtische Internetseite an den digitalen Assistenten angebunden. „Anhand der großen Zahl der Anfragen konnten wir feststellen, dass die Ausweitung der Datensuche auf andere Quellen ein wichtiger Schritt ist“, so Patrick Höwener. Bürgerinnen und Bürger wüssten häufig nicht, welche Institution für welche Leistung zuständig sei. So berichtete Patrick Höwener anekdotisch von seiner Friseurin, die ihn etwas zur Anmeldung der Hühnerhaltung fragte. Beide suchten länger Informationen auf der Seite der Stadtverwaltung. Schließlich fanden Sie jedoch heraus, dass die Zuständigkeit dafür beim Kreis lag. Durch die neue KI-Suche kann Chatbot Colon nun auch auf diese Frage eingehen und den Benutzer zum zuständigen Veterinäramt weiterleiten.

Neben der KI-Suche wurden auch die anderen Fähigkeiten von Colon vorgestellt und erläutert. Die Bürgerinnen und Bürger würden bereits viele Dinge online regeln und wünschen sich daher auch von Chatbot Colon, Informationen über alle Bereiche der Verwaltung zu erhalten. Als zentraler Bestandteil der E-Government-Strategie der Stadt Bad Oeynhausen übernimmt Colon bereits vielfältige Aufgaben. So wird der Prozess der Hundesteueranmeldung beispielsweise mithilfe einer Formularfunktion vollständig über den Chatbot abgewickelt. Auch für die Stadtverwaltung bringt der Chatbot starke Arbeitserleichterungen mit sich. Beispielsweise werden seit Januar alle Steuerbescheide der Stadtverwaltung mit einem QR-Code versendet. Im Januar führte das zu einem Rückgang der Anrufe im Bereich Finanzen um etwa 20 Prozent.

Kundenerfahrungen im Interview: Einblicke in erfolgreich umgesetzte Chatbot-Projekte

Am zweiten Forumstag berichtete Marketingleiter Michael Korte von MONACOR INTERNATIONAL über die erfolgreiche Einbindung des Chatbots „Max“ in die internationale Digitalisierungsstrategie des Unternehmens. Aus erster Hand erfuhren die Forumsteilnehmenden alles über den Projektverlauf, die Ergebnisse, Vorteile als auch Herausforderungen, die mit einem Chatbot-Projekt einhergehen. Der Chatbot spricht verschiedene Zielgruppen des Unternehmens an und hat inzwischen auch eine Produktsuche, die auf die Produktdatenbank des Webshops zugreift.

Michael Korte berichtete vom Start des Chatbot-Projekts, bei dem er viele unterschiedliche Abteilungen ins Boot holte, um nicht nur thematisch viele Bereiche im Chatbot abdecken zu können, sondern um auch eine breite, interne Akzeptanz für das Projekt zu schaffen. Der Chatbot wird nun in verschiedene Prozesse und Kampagnen des Unternehmens eingebunden. Zum Beispiel soll Chatbot Max zukünftig bei der Einführung des Portals „MyMONACOR" unterstützen. Für Unternehmen, die ebenfalls einen Chatbot einführen wollen, empfiehlt Michael Korte ein ähnliches Vorgehen: Vor allem die Einbindung verschiedener Abteilungen und eine iterative Vorgehensweise, bei der der Chatbot früh live geschaltet und dann stetig weiterentwickelt wird, waren für ihn wichtig.

Sie konnten beim assono KI-Forum in Bad Oeynhausen nicht dabei sein? Kein Problem! Das nächste assono KI-Forum ist bereits in Planung und wird voraussichtlich im Herbst 2024 stattfinden. Weitere Infromationen unter www.assono.de/ki-forum