Large Language Modell

Chat with your data: Mitarbeitende mit künstlicher Intelligenz entlasten

Steigende Bürokratie und wachsende Überprüfungsanforderungen in Verbindung mit einem Mangel an Fachkräften stellen Unternehmen, besonders im Bereich der Qualitätskontrolle, vor erhebliche Herausforderungen. Das Softwareunternehmen In-QM-Team Software GmbH entwickelt Lösungen für produzierendes Gewerbe, besonders stark ist man in der Lebensmittelindustrie vertreten. Tim Hansen von In-QM-Team Software GmbH erklärt: "Wir stellen fest, dass durch den Fachkräftemangel dem einzelnen Mitarbeitenden immer weniger Zeit zur Verfügung steht. Daher wollen wir mit unserer Software die Mitarbeitenden entlasten. Ich habe mir gedacht, dass es doch möglich sein muss, mit künstlicher Intelligenz die Software noch einfacher für den Nutzenden zu gestalten."

In-QM-Team Software GmbH
10 Mitarbeitende
Qualitätsmanagement
Transferprojekt

Mit Daten sprechen

Um diese Vision zu realisieren, suchte das Unternehmen fachliche Unterstützung und kam in Kontakt mit dem Mittelstand-Digital Zentrum Schleswig-Holstein. Tim Hansen erklärt weiter: "Wir wollten herausfinden, welche Möglichkeiten es gibt, künstliche Intelligenz und Large Language Models in unserer Software zu integrieren. Ideal wäre es, wenn die KI wie ein Assistent den Mitarbeitenden zur Seite steht und frühzeitig auf Auffälligkeiten hinweist oder auch bereits bestimmte Kipppunkte voraussagen kann, bevor es zu Beeinträchtigungen in der Qualität der Waren kommt“, erzählt Tim Hansen. „Dafür müssen die Zugänge zu den Daten aber ebenfalls so gestaltet sein, dass Mitarbeitende sich nicht erst tief in die Technik einarbeiten müssen. Im Idealfall sollen sie einfache Fragen stellen können, die der Assistent dann beantwortet.“

In Zusammenarbeit mit Henrik Horst vom Zentrum Schleswig-Holstein hat das Unternehmen die Idee des "Chat with your data" entwickelt. Dabei werden Daten, insbesondere aus der Qualitätssicherung der Molkerei, so aufbereitet, dass sie von technisch unerfahrenen Mitarbeitenden über ein Chat-Interface untersucht werden können. Fragen wie "Gab es gestern Auffälligkeiten?" oder "Wie viele Proben wurden heute bereits entnommen?" können dann über eine grafische Oberfläche gestellt werden. Auf diese Weise erhalten die Mitarbeitenden einen einfachen Überblick über relevante Informationen, die in der großen Menge an Daten sonst schwer zugänglich wären.

Datensicher mit ChatGPT arbeiten

Henrik Horst erläutert die Herausforderungen, die sich bei der Entwicklung der Software ergeben: "Bei einer Chat-Interaktion fällt einem natürlich direkt ChatGPT als Large Language Modell ein. Aber die Unternehmen wollen verständlicherweise nicht ihre Unternehmensdaten einfach herausgeben." Um dieses Datenschutzproblem zu lösen, nutzt Henrik Horst eine besondere datenschutzsichere Lösung: Dafür wird die Fähigkeit des Large Language Models genutzt, Computercode zu generieren.

Die Firmendaten werden innerhalb des Unternehmens mit einem Programm bearbeitet, und die Anfrage der Mitarbeitenden wird als Anfrage an ChatGPT genutzt. Die KI generiert daraufhin den benötigten Code. Damit die Anfrage als Prompt funktioniert, wurde gemeinsam mit der In-QM-Team Software GmbH im Zentrum Schleswig-Holstein ein Prompt-Template erstellt. Dieses enthält neben der Anfrage der Nutzenden eine Beschreibung der Aufgabe und des Ausgabeformats sowie Beispiele für Fragen und Antworten.

Da die Anfragen in der Qualitätskontrolle komplex sind, wurde eine Datenbank angelegt, mit der die Anfrage des Nutzenden abgeglichen wird. So wird der Prompt an ChatGPT um passende Beispiele ergänzt. Diese Frage-Antwort-Beispiele können iterativ angepasst an die tatsächlichen Fragen aus der Qualitätssicherung, ergänzt werden.

Der von ChatGPT generierte Code wird dann auf Richtigkeit und Sicherheit geprüft und lokal im Unternehmen an den firmeninternen Daten ausgeführt. Dadurch müssen keine sensitiven Daten an ChatGPT geschickt werden. Die KI erhält nur die Nutzeranfrage und Beispiele aus einer separaten Datenbank. Diese Trennung der Daten bietet einen guten Datenschutz. Ist der Code nicht ausführbar, wird er zusammen mit der Fehlermeldung an ChatGPT zurückgeschickt.

Tim Hansen zeigt sich zufrieden mit dem Ergebnis: „Mit diesem Prototyp haben wir eine gute Vorstellung bekommen, wie die Daten schnell und niedrigschwellig für unsere Kunden zugänglich werden können. Für uns hat es sich sehr gelohnt, sich mit dem Mittelstand-Digital Zentrum Schleswig-Holstein bereits jetzt mit den Möglichkeiten von künstlicher Intelligenz und Large Language Models auseinanderzusetzen."