Chat4BI - Chatbot für die Unternehmensintelligenz

Traditionelle Tools für Datenanalyse sind entweder kostspielig oder unflexibel, insbesondere wenn es um die umfassende und plattformübergreifende Auswertung komplexer Daten geht. Mithilfe von fortschrittlichen Foundation-Models (LLMs) besteht das Potenzial, Mitarbeitern den Zugang zu diesen Datenbeständen mittels natürlicher Sprache zu ermöglichen. Obwohl aktuelle Modelle Risiken bergen, die ihren Einsatz in Unternehmen einschränken oder sogar verhindern, zeigen sowohl Kundenfeedback als auch eigene Beobachtungen ein deutliches Bedürfnis nach solchen Technologien.
Wir werden diese Herausforderungen angehen und ein sicheres sowie effizientes Unternehmens-Sprachmodell als Chatbot entwickeln, das für sämtliche Datentypen geeignet ist.
Der Umgang mit sensiblen Daten birgt jedoch zahlreiche Herausforderungen. Hierzu zählen Bedenken hinsichtlich Datensicherheit und Zugriffsrechte sowie die Plausibilität und Verlässlichkeit der generierten Daten. Eine Kontextualisierung ist ebenso unerlässlich: Das LLM soll auf sämtliche verfügbaren Unternehmensdaten zugreifen können, um belastbare Entscheidungsgrundlagen zu liefern. Dies erfordert eine vollständige Integration in die bestehende IT-Landschaft, Anbindung an vorhandene Unternehmensdatenbanken, Dokumentenablagen, usw., sowie die Fähigkeit, beliebige Datenarten (alphanumerische und grafische Daten) zu verstehen und zu analysieren.

Das zukünftige Produkt ist darauf ausgerichtet, branchenübergreifend in Unternehmen und Organisationen eingesetzt zu werden, um präzise Antworten auf vielfältige Fragestellungen zu liefern. Es wird als Business Intelligenz-System konzipiert, das durch die Nutzung natürlicher Sprache bedient wird, wodurch vorgefertigte Reports überflüssig werden. Dies ermöglicht es Nutzern, auch ohne Programmierkenntnisse, alle Fragestellungen lediglich mit ihren Fachkenntnissen schnell zu beantworten. Das System wird alle organisationsweiten Daten einbeziehen, ihren zeitlichen Bezug verstehen und stets einen Quellenverweis liefern, sodass die Nutzer die Korrektheit der Antworten nicht anzweifeln müssen.

Im Unterschied zu herkömmlichen LLMs, wird unser Produkt darauf ausgelegt sein, auf marktüblichen Servern in der Unternehmens-IT zu operieren. Dadurch entfällt die Notwendigkeit, Daten in die Cloud zu verlagern und es sind auch keine externen Schnittstellen erforderlich.

Die Idee entstand aus vielen Kundengesprächen, die uns zeigten, dass die Zusammenstellung von Daten, die Suche nach Dokumenten und die Beantwortung von Fragen unverhältnismäßig viel Zeit kosten; insbesondere, wenn die Antworten in verschiedenen, spezifischen Datenbanken liegen und die hierfür verantwortlichen Mitarbeiter in den Ruhestand gehen.
Unser Projektverbund besteht aus der Innomatik AG, deren Mitarbeiter im Bereich der Künstlichen Intelligenz und Computer-Vision forschen und somit die rasante Entwicklung der Sprachmodelle in diesem Projekt nutzen können. Der Verbundpartner speedikon FM AG entwickelt seit mehr als 25 Jahren Software für das Gebäudemanagement und hat somit viel Erfahrung im Umgang mit sensiblen Kundendaten und die Anbindung von Software an bestehende Datenbanken. Diese beiden Teams ergänzen sich, um Chatbots in Zukunft an beliebige Unternehmensdatenbanken anzuschließen, Daten auszuwerten und auch in sensiblen Bereichen einsatzfähig machen zu können.